К книге
Рациональность: от ИИ до зомби278. Серьёзные истории.
83%
278. Серьёзные истории.
295

Любая когда-либо созданная утопия — в философии, художественной литературе или религии — в той или иной степени оказывалась местом, где вы не захотели бы на самом деле жить. Я не одинок в этом важном наблюдении: Джордж Оруэлл утверждал практически то же самое в эссе «Почему социалисты не верят в веселье», и, полагаю, многие другие говорили об этом ещё раньше.

Если вы почитаете руководства о том, как писать книги — а подобных пособий существует целая куча, ведь, как ни странно, многие авторы считают, будто что-то смыслят в писательском деле, — в них вам обязательно скажут, что в сюжете должен быть «конфликт».

Точнее, о том, что истории строятся на «конфликте», вам расскажут более умеренные учебники. Но некоторые авторы выражаются куда прямолинейнее.

«Истории — о человеческой боли». Орсон Скотт Кард.

«Каждая сцена должна заканчиваться катастрофой». Джек Бикхем.

В пору своей юношеской глупости я принимал как должное, что авторы освобождены от поисков истинной Евтопии, ведь если создать утопию, которая не была бы ущербной... какие сюжеты можно в ней развернуть? «И жили они долго и счастливо». Какой смысл писателю-фантасту пытаться изобразить позитивный взрыв интеллекта, если этот самый позитивный взрыв интеллекта окажется...

...концом всех историй?

Это казалось вполне разумной основой для анализа литературной проблемы утопии, но сама эта концовка вызывала какое-то тихое, навязчивое сомнение.

В то время я представлял себе ИИ чем-то вроде безопасного джинна, исполняющего желания отдельных людей. Поэтому такой вывод казался в некотором роде логичным. Если возникала проблема, её можно было просто отменить желанием, верно? Следовательно — никаких историй. И я проигнорировал это тихое, навязчивое сомнение.

Много позже, придя к выводу, что даже безопасный джинн — не такая уж хорошая идея, я задним числом понял, что отсутствие сюжетов могло послужить полезным индикатором. В данном конкретном случае мысль «Я не могу придумать ни одной истории, которую мне хотелось бы прочесть об этом сценарии», действительно могла бы указать мне на причину, почему я не захотел бы на самом деле жить в подобных условиях.

Поэтому я подавил в себе привитое воспитанием отвращение к луддизму и теодицее и по крайней мере попытался обдумать следующий довод:

Мир, в котором никогда ничего не идёт не так, или в котором никто никогда не испытывает боли и печали, — это мир, лишённый историй, о которых стоило бы читать.

А мир, о котором вы бы не захотели читать, — это мир, в котором вы бы не захотели жить.

В каждую эвдемоническую жизнь должно пролиться немного боли. Ч.т.д.

С одной стороны, очевидно, что мы не хотим проживать те жизни, которые описываются в большинстве созданных человечеством историй. Вспомните по-настоящему великие произведения, ставшие легендарными как лучшие из лучших в своём жанре: «Илиаду», «Ромео и Джульетту», «Крёстного отца», «Хранителей», Planescape: Torment, второй сезон «Баффи — истребительницы вампиров» или ту самую концовку в Tsukihime. Есть ли в этом списке хоть одна история, которая не трагична?

Обычно мы предпочитаем удовольствие боли, радость — грусти, а жизнь — смерти. И всё же мы почему-то предпочитаем сопереживать страдающим, печальным или вовсе мёртвым персонажам. Или истории о более счастливых людях несерьёзны, недостаточно художественно ценны, чтобы заслуживать похвалы... но почему тогда мы избирательно хвалим именно те истории, где герои несчастны? Приносит ли нам это какую-то скрытую пользу? С какой стороны ни посмотри, это загадка.

В детстве у меня не получалось писать художественную прозу, потому что я устраивал всё так, чтобы у моих персонажей всё складывалось хорошо — точно так же, как мне хотелось, чтобы всё шло хорошо в реальной жизни. От этого меня вылечил Орсон Скотт Кард: «А-а, — сказал я себе, — так вот в чём была моя ошибка: мои персонажи не страдают». Но даже тогда я не осознавал, что микроструктура сюжета работает точно так же, — пока Джек Бикхем не сказал, что каждая сцена должна заканчиваться катастрофой. А я-то всё пытался создавать проблемы и решать их, вместо того чтобы делать их ещё хуже...

Историю просто нельзя оптимизировать так же, как вы оптимизируете реальную жизнь. Лучшая история и лучшая жизнь строятся по совершенно разным критериям.

В реальном мире люди могут жить довольно долго безо всяких серьёзных катастроф, и при этом чувствовать себя вполне неплохо. Когда в последний раз в вас стреляли наёмные убийцы? Давненько, правда? Кажется ли ваша жизнь из-за этого более пустой?

Но с другой стороны...

По какой-то странной причине писатели, когда они стареют или становятся слишком успешными, впадают в моё детство. Их истории начинают развиваться благополучно. Они перестают творить ужасные вещи со своими персонажами, и в итоге начинают творить ужасные вещи со своими читателями. Похоже, это неизбежный симптом Синдрома Пожилого Писателя. Мерседес Лэки, Лорел Гамильтон, Роберт Хайнлайн, даже чёртов Орсон Скотт Кард — все они пошли по этому пути. Они забыли, как причинять боль своим персонажам. Уж не знаю почему.

И когда вы читаете книгу такого пожилого автора или совсем неопытного новичка — историю, где всё неумолимо складывается благополучно одно за другим, — где главный герой побеждает суперзлодея по щелчку пальцев, или, что ещё хуже, перед финальной битвой суперзлодей сдаётся, извиняется, и они снова становятся друзьями —

Это как скрежет ногтя по классной доске, отдающийся у основания позвоночника. Если вы никогда на самом деле не читали подобных историй (или, что ещё хуже, не писали их), считайте, что вам повезло.

Перенесётся ли это ощущение скрежета ногтя по доске из вымысла в реальную жизнь, если вы попытаетесь прожить её без единой капли дождя?

Одним из ответов может быть то, что истории на самом деле нужны не «катастрофа», не «боль» и даже не «конфликт», а просто преодоление. Что проблема историй о Мэри Сью заключается в том, что в них недостаточно преодоления, но им вовсе не обязательна боль. Это, пожалуй, можно проверить.

Другой ответ может заключаться в том, что это и есть та самая трансгуманистическая версия Теории Веселья, о которой мы говорим. А значит, мы можем ответить: «Модифицируйте мозг так, чтобы устранить это ощущение скрежета ногтя по доске», если только нет веских причин его оставить. Если это ощущение — просто бессмысленный случайный баг, мешающий Утопии, удалите его.

Возможно, нам стоит это сделать. Возможно, все Великие Истории — трагедии, потому что... ну...

Как-то я читал, что в БДСМ-сообществе «интенсивное ощущение» — это эвфемизм для боли. Прочитав это, я подумал, что при нынешнем устройстве человека причинить боль просто проще, чем доставить удовольствие. Хотя я рассуждаю о вещах, далёких от моего личного опыта, полагаю, что исключительно талантливому и опытному мастеру секса потребуются часы работы, чтобы вызвать приятное ощущение той же силы, что и боль от одного сильного пинка по яйцам — с чем новичок справится за секунды.

Изучая жизнь священника и прото-рационалиста Фридриха Шпее фон Лангенфельда, исповедовавшего обвиняемых в колдовстве, я разузнал о некоторых инструментах, применявшихся для выбивания признаний. Не существует обычного способа заставить человека чувствовать себя так же хорошо, как те инструменты заставляли его страдать. Не уверен, что на это способны даже наркотики, хотя мой опыт употребления наркотиков столь же ничтожен, как и мой опыт пыток.

В этом есть какой-то дисбаланс.

Да, люди слишком оптимистичны в планировании. Если бы потери не вызывали у нас большего неприятия, чем приобретения, мы бы разорились при нашем нынешнем устройстве. Экспериментальное правило гласит, что потеря чего-то желанного — 50 долларов, кофейной кружки, чего угодно — огорчает в 2–2,5 раза сильнее, чем радует эквивалентное приобретение.

Но это куда более глубокий дисбаланс. Разница в соотношении затраченных усилий и получаемой интенсивности между сексом и пытками измеряется далеко не коэффициентом 2.

Если в нашем мире при нынешнем устройстве человека кто-то пускается на поиски ощущений, неудивительно, что он приходит к добавлению боли в свои удовольствия — как к источнику интенсивности в этом смешанном опыте.

О, если бы только люди были устроены иначе, чтобы можно было вызывать удовольствие столь же интенсивное и в таком же разнообразии оттенков, как и боль! Если бы только можно было с той же изобретательностью и усилиями, что и у инквизитора-пытателя, заставить кого-то чувствовать себя настолько же хорошо, насколько плохо чувствовали себя жертвы инквизиции...

Но что такое аналогичное удовольствие, которое ощущалось бы настолько же приятно? Жертва умелых пыток сделает всё, чтобы прекратить боль, и всё, чтобы не допустить её повторения. Будет ли эквивалентное удовольствие затмевать всё остальное требованием продолжать и повторять его? И если у людей окажется больше силы воли, чтобы переносить это удовольствие, то действительно ли это то же самое удовольствие?

Есть и другое писательское правило: истории должны кричать. Человеческий мозг находится слишком далеко от этих напечатанных букв. Каждое событие и чувство должно происходить на громкости, в десять раз превышающей естественную, чтобы вообще оказать хоть какое-то влияние. Нельзя пытаться заставить своих персонажей вести себя или чувствовать реалистично — и особенно нельзя в точности воспроизводить собственный прошлый опыт, — потому что без преувеличений они будут слишком тихими, чтобы ожить на странице.

Возможно, все Великие Истории — трагедии потому, что счастье не умеет кричать достаточно громко для человеческого читателя.

Возможно, именно это и нужно исправить.

И если бы это было исправлено... остался бы хоть какой-то смысл в боли или скорби? В самой памяти о грусти — если бы всё уже было так хорошо, как только возможно, а всякое поправимое зло уже было исправлено?

Можно ли просто взять и удалить боль целиком? Или же устранение старого нижнего порога функции полезности лишь создаст новый нижний порог? Станет ли любое удовольствие меньше 10 000 000 гедонов новой невыносимой болью?

У людей, при нынешнем нашем устройстве, действительно наблюдается склонность к гедонистическому масштабированию. Тот, кто помнит, что такое голод, оценит буханку хлеба сильнее, чем тот, кто в жизни не видел ничего, кроме пирожных. Именно на этом строилась гипотеза Джорджа Оруэлла о том, почему Утопия невозможна в литературе и реальности:1

Похоже, люди не способны ни описать, ни, пожалуй, даже вообразить счастье иначе как через сопоставление... Неспособность человечества представить счастье в какой-либо иной форме, кроме избавления — от труда или от боли, — ставит перед социалистами серьезную проблему. Диккенс может описать нищую семью, уплетающую жареного гуся, и показать их счастливыми; с другой стороны, обитатели совершенных вселенных, кажется, лишены всякого спонтанного веселья и к тому же обычно вызывают некоторое отторжение.

Для максимизатора ожидаемой полезности масштабирование функции полезности путём прибавления триллиона ко всем исходам бессмысленно — математически это буквально одна и та же функция. Функция полезности описывает относительные интервалы между исходами; именно в этом, с математической точки зрения, и заключается её суть.

Однако в человеческом мозге за положительную и отрицательную обратную связь отвечают совершенно разные нейронные контуры, к тому же существуют различные разновидности этих связей. Сегодня есть люди, которые «страдают» врождённой анальгезией — полным отсутствием болевой чувствительности. Я никогда не слышал, чтобы недостаток удовольствия становился для них невыносимым.

Людям с врождённой анальгезией действительно приходится часто и внимательно осматривать себя, проверяя, не порезались ли они или не обожгли ли палец. Боль служит определённой цели в архитектуре человеческого разума...

Но это не означает, что нет альтернативы, которая могла бы служить той же цели. Можно ли удалить боль и заменить её побуждением не делать определённых вещей, которое при этом было бы лишено невыносимого субъективного свойства боли? Я не знаю всех Законов, которые этим управляют, но могу предположить, что да, это возможно; вы могли бы заменить эту часть себя чем-то более похожим на максимизатор ожидаемой полезности.

Можно ли удалить человеческую склонность масштабировать удовольствия — стереть адаптацию, так чтобы каждый новый жареный гусь приносил столько же восторга, сколько и предыдущий? Полагаю, что да. Это опасно близко граничит с удалением Скуки, которая стоит в одном ряду с Сочувствием как нечто абсолютно незаменимое... но сказать, что старое решение остаётся столь же приятным, не означает, что вы потеряете стремление искать новые и лучшие решения.

Можно ли сделать так, чтобы каждый жареный гусь приносил столько же удовольствия, сколько он принёс бы по сравнению с голоданием, притом никогда в жизни не голодая?

Можно ли сделать так, чтобы боль от раздражающей глаз соринки не превратилась в новую пытку, если вы буквально никогда не испытывали ничего хуже неё?

Подобные вопросы уже начинают выходить за рамки моего понимания Закона, но я бы предположил, что ответ таков: да, это осуществимо. Мой опыт в подобных делах показывает, что как только вы постигаете Закон, вы обычно понимаете, как делать вещи, кажущиеся странными.

Насколько я знаю или могу судить, Дэвид Пирс («Гедонистический императив»), весьма вероятно, прав в том, что касается осуществимости, когда пишет:2

Нанотехнологии и генная инженерия покончат со страданиями всей чувствующей жизни. Аболиционистский проект чрезвычайно амбициозен, но технически осуществим. Кроме того, он инструментально рационален и морально безотлагателен. Метаболические пути боли и недомогания эволюционировали потому, что они служили приспособленности наших генов в среде предков. Они будут заменены нейроархитектурой иного рода — мотивационной системой, основанной на наследуемых градиентах блаженства. Состояниям возвышенного благополучия суждено стать генетически запрограммированной нормой психического здоровья. Прогнозируется, что последнее неприятное переживание в мире станет событием, дату которого можно будет назвать абсолютно точно.

И это... то, чего мы хотим?

Просто утереть последнюю слезу и закончить на этом?

Есть ли хоть какая-то веская причина не делать этого, кроме предвзятости статус-кво и горстки заезженных рационализаций?

Какова же альтернатива? Или альтернативы?

Оставить всё как есть? Конечно, нет. Никакой Бог не проектировал этот мир; у нас нет причин считать его абсолютно оптимальным ни по одному из параметров. Если в этом мире не слишком много боли, значит, её недостаточно, а последнее кажется маловероятным.

Но, возможно...

Можно убрать лишь невыносимую составляющую боли?

Избавиться от Инквизиции. Оставить ту боль, которая велит не совать палец в огонь, или ту, которая говорит, что не следовало совать в огонь палец друга, или даже боль от расставания с любимым человеком.

Попытаться избавиться от той боли, которая подтачивает и разрушает разум. Или настроить разумы так, чтобы их было сложнее повредить.

Мы могли бы получить мир, в котором бывают сломанные ноги или даже разбитые сердца, но нет сломленных людей. Никакого насилия над детьми, порождающего новых насильников. Никаких людей, раздавленных усталостью и выматывающими мелкими неурядицами до такой степени, что они задумываются о самоубийстве. Никаких случайных, бессмысленных и бесконечных бедствий вроде голода или СПИДа.

И если даже сломанная нога всё ещё кажется слишком пугающей —

Боялись бы мы боли меньше, будь мы сильнее, если бы наша повседневная жизнь не истощала и без того столь большую часть наших резервов?

Вот вам и одна из альтернатив миру Пирса — если существуют другие варианты, я их детально не продумывал.

Можно назвать это «путём мужества» — идея в том, что если устранить разрушительный вид боли и сделать людей сильнее, то оставшееся не должно быть настолько уж страшным.

Мир, где есть печаль, но нет массовой систематической бессмысленной скорби, которую мы видим в вечерних новостях. Мир, где боль, пусть и не устранённая полностью, по крайней мере не перевешивает удовольствие. Об этом мире можно было бы писать книги, а его жители могли бы читать наши книги.

Я действительно склонен довольно консервативно относиться к идее удаления больших пластов человеческой природы. Я не знаю, сколько крупных фрагментов можно вырезать, прежде чем эта сбалансированная, противоречивая, динамичная структура схлопнется во что-то более простое — например, в максимизатор ожидаемого удовольствия.

И потому я признаю, что именно «путь мужества» привлекает меня больше.

С другой стороны, мне не довелось пожить в обоих этих мирах.

Может быть, я просто боюсь мира, столь отличного от нашего, как Анальгезия — и не иронично ли, если именно из-за этого страха я выбираю «путь мужества»?

Может быть, «путь мужества» просто кажется меньшим изменением — а возможно, мне просто трудно сопереживать кому-то через столь огромную пропасть.

Но «перемены» — это движущаяся мишень.

Если бы ребёнок вырос в менее болезненном мире — если бы он никогда не жил в мире СПИДа, рака или рабства и потому не знал об этих вещах как о зле, которое было триумфально ликвидировано, и потому не считал бы, что «всё уже сделано» или что мир «уже достаточно изменился»...

Сделал бы он следующий шаг, попытавшись устранить невыносимую боль разбитых сердец, когда человека разлюбили?

И что тогда? Наступит ли момент, когда «Ромео и Джульетта» будет казаться всё менее и менее актуальной, превращаясь в реликт далёкого забытого мира? Придём ли мы в ходе трансгуманистического пути в точку, где вся эта система отрицательного подкрепления покажется не более чем бессмысленным похмельем, от которого давно пора очнуться?

И если так, есть ли смысл в том, чтобы откладывать этот последний шаг? Или нам следует просто отбросить страхи и... отбросить страхи?

Я не знаю.

*

1. Джордж Оруэлл, «Почему социалисты не верят в веселье», Tribune (декабрь 1943 г.).

2. Дэвид Пирс, «Гедонистический императив», http://www.hedweb.com/, 1995.

Предыдущая главаГлава 295 из 354Следующая глава