К книге
Рациональность: от ИИ до зомби107. Сопротивляйтесь счастливой спирали смерти.
32%
107. Сопротивляйтесь счастливой спирали смерти.
115

Жил-был человек, который был убежден, что владеет Великой Идеей. И действительно, по мере того как он все больше размышлял о Великой Идее, он понимал, что это не просто какая-то хорошая мысль, а самая замечательная идея на свете. Великая Идея разгадает тайны вселенной, затмит авторитет продажного и погрязшего в ошибках истеблишмента, наделит своих приверженцев почти магическими способностями, накормит голодных, исцелит больных, сделает весь мир лучше и так далее, и так далее, и так далее.

Этим человеком был Фрэнсис Бэкон, его Великой Идеей был научный метод, и он оказался единственным безумцем за всю историю, который заявлял о пользе такого масштаба для человечества и оказался абсолютно прав.

(Бэкон, конечно, не изобрел науку в одиночку, но он внес свой вклад и, возможно, первым осознал ее силу.)

Вот в чем проблема с решением никогда ничем слишком сильно не восхищаться: некоторые идеи действительно настолько хороши. Хотя никто еще не подтвердил делом столь же дерзкие притязания, как Бэкон — по крайней мере, пока.

Но как тогда нам противостоять счастливой спирали смерти в отношении самой Науки? Счастливая спираль смерти запускается, когда вы верите, что нечто настолько прекрасно, что из-за эффекта ореола вы находите все больше и больше хороших слов в его адрес, отчего оно кажется вам еще более замечательным, и так далее, пока вы не взмоете по спирали прямо в бездну. Что если Наука на самом деле приносит столько пользы, что мы не можем признать ее истинное величие и при этом сохранить рассудок? Звучит здорово, правда? О нет, началось, бежииииим...

Если вы извлечете из памяти стандартную кэшированную глубокую мудрость на тему «не нужно слишком сильно восхищаться наукой», вы наткнетесь на мысли вроде «Наука дала нам кондиционеры, но она же создала водородную бомбу» или «Наука может рассказать нам о звездах и биологии, но ей никогда не доказать и не опровергнуть существование дракона в моем гараже». Но люди, которые породили эти мысли, не пытались противостоять счастливой спирали смерти. Их не беспокоило, что их собственное восхищение наукой выйдет из-под контроля. Скорее всего, им просто не нравилось то, что наука говорила об их любимых верованиях, и они искали способы подорвать ее авторитет.

Стандартные критические замечания в адрес науки вряд ли найдут отклик у того, кто искренне испытывает восторг перед ней, — ведь они рассчитаны на другую аудиторию. Так что нам придется поискать другие аргументы «против».

Но если вы избирательно ищете что-то плохое о науке — пусть даже пытаясь противостоять счастливой спирали смерти, — разве вы автоматически не уличаете себя в рационализации? Зачем вообще прислушиваться к собственным мыслям, зная, что вы пытаетесь манипулировать собой?

Я вообще скептически отношусь к заявлениям о том, что одно когнитивное искажение можно использовать для нейтрализации другого. Мне это напоминает автомеханика, который говорит, что у правого дворника сломался моторчик, но вместо починки предлагает сломать и левый дворник — для равновесия. Это та самая изобретательность, из-за которой люди стреляют себе в ногу. Каким бы ни было решение, оно должно основываться на вере в истинные вещи, а не на вере в то, что вы верите в вещи, которые сами считаете ложными.

Можно ли предотвратить счастливую спираль смерти, если ограничить свое восхищение Наукой какой-то узкой областью? Часть этой спирали заключается в том, чтобы видеть Великую Идею повсюду — например, размышлять о том, как коммунизм мог бы вылечить рак, если бы только ему дали шанс. Пожалуй, самый надежный признак лидера секты — это то, что он претендует на экспертность не в одной области, и даже не в группе смежных областей, а абсолютно во всем. Гуру знает, что адептам секты следует есть, как одеваться, чем зарабатывать на жизнь; с кем заниматься сексом; на какое искусство смотреть и какую музыку слушать...

К несчастью для этого плана, большинство людей терпят сокрушительное фиаско, пытаясь очертить тесные рамки, в которых якобы должна оставаться наука. Обычная уловка вроде «Послушайте, наука ведь не вылечит рак» не сработает. «Науке нечего сказать о любви родителей к ребенку» — увы, это чистая ложь. Пытаясь отделить науку, например, от родительской любви, вы отрицаете не только когнитивистику и эволюционную психологию. Вы также отрицаете то, как Мартина Ротблатт основала компанию United Therapeutics, чтобы найти лекарство от легочной гипертензии у своей дочери (и, замечу, успешно). Наука действительно так или иначе связана практически с каждым важным аспектом человеческого существования.

Хорошо, а каков пример ложного приятного утверждения о науке?

На мой скромный взгляд, одно из таких ложных утверждений состоит в том, что наука настолько прекрасна, что ученым даже не нужно пытаться брать на себя этическую ответственность за свою работу — мол, все и так автоматически закончится хорошо. Мне кажется, что авторы этого утверждения не понимают природу процесса, благодаря которому наука приносит пользу человечеству. Ученые — люди, и у них, как и у большинства других людей, есть просоциальные устремления; и в этом кроется по меньшей мере часть причин, почему наука в конечном счете приносит больше добра, чем зла.

Но этот аргумент, очевидно, не бесспорен. Так что вот вам более простое ложное приятное утверждение: «Больного раком можно вылечить, просто опубликовав достаточно статей в научных журналах». Или: «Социопаты могли бы стать абсолютно нормальными людьми, если бы просто пообещали себе никогда ни во что не верить без воспроизводимых экспериментальных доказательств с уровнем значимости p < 0,05».

Способ не верить в подобные заявления — это не введение эмоционального лимита, когда вы решаете, что наука хороша лишь слегка. И не поиск причин поверить, что публикация статей в научных журналах вызывает рак. И не вера в то, что науке так или иначе вообще нечего сказать о раке.

Напротив, если вы достаточно конкретно представляете себе, как работает наука, то понимаете: хотя в принципе и возможно, что «наука вылечит рак», больной раком не добьется чудесной ремиссии, просто сочиняя статьи в журналы. Эта конкретная предложенная причинно-следственная цепочка работать не будет.

Счастливая спираль смерти становится эмоциональной проблемой лишь из-за когнитивного искажения — эффекта ореола, который заставляет нас охотнее соглашаться с последующими позитивными утверждениями, стоит нам принять первое из них. Мы не можем избавиться от этого эффекта по щелчку пальцев; скорее всего, он всегда будет хоть немного на нас влиять. Но мы в силах замедлиться, остановиться, отнестись к каждому очередному приятному заявлению как к еще одной обременительной детали и сосредоточиться на конкретной сути утверждения, отбросив его привлекательность.

Что если конкретное приятное утверждение «нельзя опровергнуть», но при этом есть аргументы «и за, и против»? Вообще-то, к этим формулировкам стоит относиться с осторожностью: часто люди прибегают к ним, когда бесконечно перебирают доказательства или избегают по-настоящему слабых мест. Учитывая опасность счастливой спирали смерти, разумно стараться не радоваться недоказанным утверждениям — не делать их источником еще больших положительных эмоций по поводу того, что вам и так нравится.

Счастливая спираль смерти становится серьезной эмоциональной проблемой лишь из-за избыточной положительной обратной связи — способности процесса переходить в критическую фазу. Возможно, вам не удастся полностью устранить эффект ореола, но вы можете применить достаточно критического мышления, чтобы удерживать эти ореолы в докритическом состоянии — следить, чтобы резонанс затухал, а не приводил к взрыву.

Можно даже сказать, что вся проблема берет начало в тот момент, когда люди, приняв некую базовую посылку, больше не утруждают себя критическим разбором каждой дополнительной обременительной детали — не требуют весомых доказательств, чтобы компенсировать усложнение картины, не ищут изъяны наряду с подтверждениями и не включают любопытство. Без ошибки конъюнкции эффект ореола всё равно мог бы существовать, но счастливой спирали смерти бы не возникло.

Даже в отношении самых приятных Приятных Штук во всей известной Вселенной идеальный рационалист, требующий ровно столько доказательств, сколько необходимо для подтверждения каждого последующего (позитивного) заявления, не испытывал бы аффективного резонанса. Вы так не сможете, но вы можете оставаться достаточно рациональными, чтобы не дать своей радости выйти из-под контроля и закрутиться по спирали.

По-настоящему опасны ситуации, когда любая критика любого позитивного утверждения о Великой Штуке воспринимается болезненно или считается социально неприемлемой. Аргументы — это солдаты, любое позитивное утверждение — боец на нашей стороне, а удар в спину собственным солдатам — это измена. В таких условиях цепная реакция становится сверхкритической. Подробнее об этом позже.

Стюарт Армстронг дает очень близкий к этому совет:

Разбейте свою Великую Штуку на более мелкие независимые идеи и относитесь к ним как к независимым.

Например, марксист мог бы разобрать Великую Штуку Маркса на трудовую теорию стоимости, теорию политических отношений между классами, теорию заработной платы и теорию о конечном политическом устройстве человечества. Каждую из них следовало бы оценивать независимо, и истинность или ложность одной теории не должна создавать ореол вокруг других. Если нам это удастся, мы убережемся от спирали, ведь каждая теория в отдельности слишком узка, чтобы запустить этот процесс сама по себе.

Метафорически это похоже на то, как не дают соединиться докритическим массам плутония. Три Великие Идеи гораздо менее вероятно сведут вас с ума, чем одна Великая Идея. Совет Армстронга также помогает мыслить конкретнее: как только кто-то заявляет: «Публикация достаточного количества статей может вылечить рак», вы спрашиваете: «Это преимущество экспериментального метода, и если да, то на каком этапе экспериментального процесса рак излечивается? Или это преимущество науки как социального процесса, и если да, опирается ли оно на искреннее желание ученых победить болезнь, или они могут преследовать собственные интересы?» В идеале это уводит вас от хороших или плохих эмоций в сторону обнаружения путаницы и нехватки обоснований.

Подводя итог, вы действительно избегаете счастливой спирали смерти, если:

разбиваете Великую Идею на части;

относитесь к каждой дополнительной детали как к обременительной;

размышляете о конкретных звеньях причинно-следственной связи, а не о хороших или плохих эмоциях;

не прокручиваете бесконечно доказательства в голове; и

не подпитываете радость утверждениями, неверность которых «нельзя доказать»;

но не тем, что:

отказываетесь слишком сильно чем-то восхищаться;

ведете предвзятый поиск негативных моментов, пока снова не почувствуете себя несчастным; или

насильно запихиваете идею в безопасный ящик.

*

Предыдущая главаГлава 115 из 354Следующая глава