Роб Бенсингер
Во что мне верить?
Как выясняется, у этого вопроса есть правильный ответ.
Правильный ответ существует и тогда, когда вас терзают сомнения, а не только когда у вас есть неопровержимое доказательство. Всегда существует корректная степень уверенности в утверждении — даже если оно выглядит как «личное убеждение», а не как подтвержденный экспертами «факт».
И все же мы часто рассуждаем так, словно из-за неопределенности и разногласий наши убеждения становятся просто делом вкуса. Мы говорим: «это всего лишь мое мнение» или «каждый имеет право на свое мнение», будто утверждения науки и математики существуют в иной, более высокой плоскости, нежели просто «частные» или «субъективные» убеждения. Но, как пишет Робин Хансон:1
Вы никогда не имеете права на собственное мнение. Никогда! Вы не имеете права даже на «я не знаю». Вы имеете право на свои желания и иногда на свой выбор. Вы можете распоряжаться выбором, и если вы вольны выбирать свои предпочтения, у вас может быть на это право. Но ваши убеждения — не о вас; убеждения — о мире. Ваши убеждения должны быть наилучшей из доступных вам оценок того, как обстоят дела; все остальное — ложь. [. . .]
Действительно, в некоторых областях у экспертов есть более надежные механизмы для разрешения споров. В других же областях наши когнитивные искажения и сложность мира мешают делать однозначные выводы. [. . .]
Но никогда не забывайте: по любому вопросу о том, как обстоят (или должны обстоять) дела, и в любой информационной ситуации, всегда существует наилучшая оценка. Вы имеете право лишь на свои максимально честные усилия по поиску этой наилучшей оценки; все остальное — ложь.
Предположим, вы узнали, что кто-то из шести человек в вас влюблен — возможно, вы получили письмо от тайного поклонника и точно знаете, что его отправил один из этих шестерых, — но вы понятия не имеете, кто именно. Ваш одноклассник Боб — один из шести кандидатов, но у вас нет никаких особых свидетельств ни за, ни против того, что это именно он. В таком случае шансы, что в вас влюблен Боб, равны 1:5.
Поскольку существует шесть вариантов, при случайном угадывании вы в среднем окажетесь правы один раз на каждые пять промахов. Именно это мы и имеем в виду под «шансами 1:5». Вы не можете сказать: «Ну, я понятия не имею, кто в меня влюблен; может, Боб, а может, и нет. Так что буду считать, что шансы пятьдесят на пятьдесят». Даже если вам больше хочется сказать «не знаю» или «может быть» и на этом успокоиться, правильный ответ — все равно 1:5.2
Предположим также, что вы заметили: люди подмигивают вам в десять раз чаще, когда они в вас влюблены. Если Боб подмигнет вам, это станет новым свидетельством. В таком случае было бы ошибкой продолжать сомневаться, не Боб ли ваш тайный поклонник: шансы 10:1 в пользу того, что «случайный человек, который мне подмигивает, в меня влюблен», перевешивают шансы 1:5 против того, что «в меня влюблен Боб».
Это тоже было бы ошибкой — сказать: «Это свидетельство настолько сильное, тут дело верное — он точно в меня влюблен! С этого момента буду считать, что я ему нравлюсь». Избыточная уверенность так же плоха, как и недостаточная.
На самом деле существует лишь один математически непротиворечивый ответ на этот вопрос. Чтобы обновить наше мнение и скорректировать априорные шансы 1:5 на основе отношения правдоподобия 10:1, мы перемножаем левые части друг с другом и правые части друг с другом, получая апостериорные шансы 10:5, или 2:1 в пользу того, что «Боб влюблен в меня». Исходя из наших предпосылок и имеющихся свидетельств, предположение о том, что Боб в вас влюблен, окажется верным 2 раза на каждый 1 раз, когда оно окажется ошибочным. Иными словами: вероятность того, что вы ему симпатичны, составляет 2/3. Любая другая степень уверенности была бы противоречивой.
Наша культура еще не усвоила уроки теории вероятностей — то, что правильный ответ на вопросы вроде «Насколько я могу быть уверен, что Боб в меня влюблен?» логически обусловлен точно так же, как правильный ответ в тесте по алгебре или в учебнике геологии. Наши клише расходятся с открытием того, что на вопрос «какие убеждения мне следует иметь?» существует объективно верный ответ — идет ли речь о том, «влюблен ли в меня одноклассник», или о том, «есть ли у меня бессмертная душа». Действительно существует правильный способ менять свое мнение. И этот способ предельно точен.
Как на самом деле не менять свое мнение
Однако корректировать свои убеждения хотя бы отдаленно подобным идеализированным образом — задача непростая.
В первом томе «Рациональности: от ИИ до зомби» мы обсуждали ценность «настоящих» убеждений. Нет ничего плохого в том, чтобы выражать поддержку тому, что вам дорого — например, группе, к которой вы себя относите, или духовному опыту, который вас возвышает. Однако когда мы путаем возгласы поддержки с фактическими убеждениями, эти неверно истолкованные возгласы могут оградить целую идеологию от «осквернения» свидетельствами.
Даже те убеждения, которые, казалось бы, изящно объясняют наши наблюдения, не застрахованы от этой проблемы. Нам слишком легко увидеть туманную, научно звучащую (или иным образом авторитетную) фразу и сделать вывод, что она что-то «объяснила» — даже если это никак не влияет на шансы, которые мы неявно приписываем нашему возможному будущему опыту.
Хуже всего то, что прозаические убеждения — те, которые в самом деле опровержимы в принципе, те, которые действительно накладывают ограничения на то, что мы ожидаем увидеть, — все равно могут засесть в нашей голове, подкрепляемые целой сетью иллюзий и когнитивных искажений.
В 1951 году футбольный матч между Дартмутом и Принстоном выдался необычайно жестким. Психологи Хасторф и Кантрил спросили студентов обоих учебных заведений, кто начал грубую игру. Почти все согласились, что Принстон её не начинал; но 86% принстонских студентов считали, что виноват Дартмут, тогда как лишь 36% дартмутских студентов винили Дартмут. (Большинство студентов Дартмута считали, что «начали оба».)
Нет причин думать, что это был лишь возглас поддержки, а не настоящее убеждение. Различные убеждения, вероятно, заставляли студентов делать разные прогнозы относительно поведения игроков в будущих матчах. И тем не менее каким-то образом совершенно обычные фактические убеждения в Дартмуте кардинально отличались от совершенно обычных фактических убеждений в Принстоне.
Можно ли списать это на разные источники информации, к которым имели доступ студенты Дартмута и Принстона? Сама по себе предвзятость различных источников новостей, на которые опираются группы, — довольно серьезная проблема.
Однако в данном случае дело не только в этом. Когда позже им действительно показали запись матча и попросили подсчитать замеченные ими нарушения, дартмутские студенты насчитали в среднем 4,3 нарушения со стороны своей команды (и половину из них сочли «легкими»), тогда как принстонские студенты насчитали в среднем 9,8 нарушений со стороны Дартмута (и лишь треть сочли «легкими»).
Что уж говорить о попытках примирить соперничающие фракции в сложных вопросах государственной политики или моральной философии; студенты с разной групповой лояльностью не могли сойтись во мнениях даже относительно того, что они видели собственными глазами.3
Когда что-то дорогое для нас оказывается под угрозой — наше мировоззрение, наша ингруппа, наше социальное положение или что-либо еще, — наши мысли и восприятие мобилизуются на их защиту.4,5 Некоторые психологи в наши дни доходят до гипотезы, что наша способность находить явные обоснования для собственных выводов развилась специально для того, чтобы помогать нам побеждать в спорах.6
Одно из определяющих открытий психологии XX века, вдохновлявшее всех — от последователей Фрейда до современных когнитивных психологов, — заключается в том, что поведением человека часто управляют сложные бессознательные процессы, а истории, которые мы рассказываем себе о наших мотивах и причинах, гораздо более предвзяты и вымышлены, чем мы осознаем.
На самом деле мы часто даже не замечаем, что сочиняем эти истории. Когда нам кажется, будто при интроспекции мы «напрямую воспринимаем» что-то в себе, это зачастую опирается на весьма слабые неявные причинно-следственные модели.7,8 Когда мы пытаемся аргументировать свои убеждения, мы можем выстраивать шаткие рассуждения, не имеющие никакого отношения к тому, как мы изначально пришли к этому убеждению.9 Вместо того чтобы оценивать наши объяснения по их предсказательной силе, мы придумываем истории, чтобы как-то осмыслить то, что нам кажется известным.
Как нам справиться лучше? Как нам прийти к реалистичному взгляду на мир, когда наш разум так склонен к рационализации? Как нам прийти к реалистическому взгляду на нашу ментальную жизнь, когда наши мысли о мышлении тоже вызывают подозрение? Как нам стать менее предвзятыми, когда наши попытки избавиться от предвзятости сами могут оказаться предвзятыми?
На какую наименее шаткую опору мы можем перенести свой вес?
Математика рациональности
На рубеже XX века создание простых (например, теоретико-множественных) аксиом арифметики дало математикам более четкий стандарт для оценки правильности своих выводов. Если человек или калькулятор выдает «2 + 2 = 4», теперь мы можем сделать больше, чем просто сказать «интуитивно это кажется верным». Мы можем объяснить, почему это правильно, и доказать, что эта правильность систематически связана с правильностью всей остальной арифметики.
Но математика и логика позволяют нам моделировать поведение физических систем, которые гораздо интереснее карманного калькулятора. Мы также можем формализовать рациональное убеждение в целом, используя теорию вероятностей для выявления общих черт, присущих всем успешным формам умозаключений. Мы можем даже формализовать рациональное поведение в целом, опираясь на теорию принятия решений.
Теория вероятностей определяет, как мы рассуждали бы в идеале в условиях неопределенности, будь у нас время, вычислительные мощности и самоконтроль. Располагая некоторыми фоновыми знаниями (априорными убеждениями) и новыми свидетельствами, теория вероятностей однозначно определяет наилучший набор новых убеждений (апостериорные убеждения), которые я мог бы принять. Аналогичным образом, теория принятия решений определяет, какие действия мне следует предпринять на основе моих убеждений. Для любого непротиворечивого набора убеждений и предпочтений, которые у меня могут быть относительно Боба, существует ответ с точки зрения теории принятия решений о том, как мне следует действовать, чтобы удовлетворить свои предпочтения.
Люди не являются идеальными мыслителями или безупречными субъектами принятия решений, точно так же, как мы не являемся идеальными калькуляторами. Наш мозг — это нагромождение костылей, наспех собранное естественным отбором. Даже в свои лучшие моменты мы не вычисляем абсолютно точный ответ на вопросы «что мне думать?» и «что мне делать?». Нам не хватает времени и вычислительной мощности, а эволюции не хватило инженерного мастерства и предвидения, чтобы устранить все наши баги.
На самом деле даже максимально эффективному, свободному от багов мыслителю в реальном мире все равно пришлось бы полагаться на эвристики и приближения. Оптимальные, вычислительно доступные алгоритмы обновления убеждений не дотягивают до строгой непротиворечивости теории вероятностей.
И все же, зная, что мы не можем стать полностью последовательными, мы определенно можем стать лучше. Знание того, что существует идеальный стандарт, с которым мы можем себя сравнить — то, что исследователи называют «байесовской рациональностью», — может служить нам ориентиром в совершенствовании наших мыслей и действий. Хотя мы никогда не станем идеальными байесианцами, математика рациональности может помочь нам понять, почему тот или иной ответ правильный, и помочь обнаружить, где именно мы ошиблись.
Представьте, что вы пытаетесь учить математику исключительно путем зубрежки. Вам могут сказать, что «10 + 3 = 13», «31 + 108 = 139» и так далее, но это не принесет вам особой пользы, если вы не понимаете закономерности, стоящей за этими закорючками. Искать методы повышения собственной рациональности может быть гораздо труднее, если у вас нет общей системы координат для оценки успешности того или иного метода. Цель этой книги — помочь людям построить для себя такие системы координат.
Рациональность на практике
В посте в блоге, где обсуждалось, чем «рационалисты» — сторонники рациональности отличаются от «рационалистов» — противников эмпиризма, Скотт Александер заметил:10
[О]чевидно, что полезно иметь как можно больше свидетельств, точно так же, как полезно иметь как можно больше денег. Но столь же очевидно, что полезно уметь разумно распоряжаться ограниченным количеством свидетельств, точно так же, как полезно уметь разумно распоряжаться ограниченным количеством денег.
Техники рациональности помогают нам извлечь больше пользы из имеющихся у нас свидетельств в тех случаях, когда эти свидетельства неоднозначны или когда наши предубеждения и привязанности искажают их интерпретацию. Это применимо к нашей личной жизни, как в истории о Бобе. Это применимо к разногласиям между политическими фракциями (и спортивными болельщиками). И это применимо к технологическим и философским загадкам, например к спорам о трансгуманизме — позиции, согласно которой нам следует использовать технологии для радикального преобразования человеческой природы. Признавая, что ко всем этим областям применимы одни и те же математические законы — и что во многих случаях там властвуют одни и те же когнитивные искажения, — книга «Как на самом деле изменить свое мнение» обращается к самому широкому кругу примеров.
Первая цепочка эссе в книге «Как на самом деле изменить свое мнение», «Слишком удобные оправдания», посвящена вопросам, которые с точки зрения теории вероятностей ясны настолько, насколько это вообще возможно. Оптимальный по Байесу ответ часто невозможно вычислить на практике, но такие ошибки, как предвзятость подтверждения, могут укорениться даже тогда, когда имеющиеся свидетельства неоспоримы, а времени на размышления у нас предостаточно.
Отсюда мы переходим в более мутные воды в цепочке «Политика и рациональность». Общенациональная политика, обсуждаемая телеэкспертами, славится своими яростными и бесплодными дискуссиями. На первый взгляд, в этом есть что-то удивительное. Почему мы принимаем политические разногласия так близко к сердцу, даже когда механизмы и последствия государственной политики столь далеки от нас в пространстве или времени? И почему, если уж на то пошло, мы не становимся более аккуратными и строгими в оценке свидетельств, когда имеем дело с вопросами, которые считаем важными?
Игра Дартмута против Принстона намекает на ответ. Большая часть нашего мыслительного процесса — это на самом деле рационализация, то есть сочинение историй, которые заставляют наши текущие убеждения казаться более связными и обоснованными, но при этом не обязательно делают их более точными. Цепочка «Против рационализации» обращается к этой проблеме, за ней следуют «Против двоемыслия» (о самообмане) и «Взгляд свежими глазами» (о трудности распознавания свидетельств, которые не соответствуют нашим ожиданиям и предположениям).
Повышение уровня рациональности означает знакомство со множеством интересных и сильных новых идей. Во многих случаях это также означает появление друзей, с которыми можно обсудить эти идеи, и поиск сообществ, стимулирующих к самосовершенствованию. В цепочке «Смертельные спирали» обсуждаются некоторые серьезные опасности, которые могут угрожать группам, объединенным общими интересами и блестящими идеями; эти опасности необходимо преодолеть, если мы хотим извлечь максимальную пользу из сообществ рационалистов. Затем книга «Как на самом деле изменить свое мнение» завершается цепочкой «Умение отпускать».
Наше естественное состояние вовсе не в том, чтобы менять свое мнение подобно байесианцу. Заставить студентов Дартмута и Принстона заметить то, что они видят на самом деле, будет не так просто, как зачитать им аксиомы теории вероятностей. Как пишет Люк Мюльхаузер в статье «Сила агентности»:11
Вы не байесовский гомункул, чье мышление «испорчено» когнитивными искажениями.
Вы и есть когнитивные искажения.
Предвзятость подтверждения, склонность к сохранению статус-кво, искажение соответствия и им подобные не пристроены к нашему мышлению сбоку — они составляют саму его суть.
Это не означает, что устранение когнитивных искажений невозможно. Глубоко внутри, под всеми нашими арифметическими ошибками, мы тоже не являемся идеальными калькуляторами. Многие из наших математических ограничений проистекают из очень глубоких особенностей работы человеческого мозга. И тем не менее мы можем тренировать свои математические способности; мы можем научиться понимать, когда стоит и когда не стоит доверять своим математическим интуициям, делиться знаниями и помогать друг другу; мы можем организовывать окружающую среду так, чтобы облегчить себе задачу, и создавать инструменты, которые возьмут на себя большую часть работы.
Наши когнитивные искажения — часть нас самих. Но в нас присутствует и тень байесианства, несовершенный аппарат, который действительно способен приблизить нас к истине. Никакого гомункула, но все же — крупица истины. Достаточно, пожалуй, для начала.
*
1. Робин Хансон, «You Are Never Entitled to Your Opinion», Overcoming Bias (блог) (2006), http://www.overcomingbias.com/2006/12/you_are_never_e.html.
2. Это следует из предположения, что существует шесть возможностей и у вас нет оснований отдавать предпочтение какой-то одной из них. Мы также нереалистично предполагаем, что вы действительно можете быть уверены, что тайный поклонник — один из этих шести человек, и что вы не упускаете из виду другие варианты. (Что если в вас влюблен более чем один человек из этих шести?)
3. Альберт Хасторф и Хэдли Кэнтрил, «They Saw a Game: A Case Study», Journal of Abnormal and Social Psychology 49 (1954): 129–134, http://www2.psych.ubc.ca/~schaller/Psyc590Readings/Hastorf1954.pdf.
4. Пронин, «How We See Ourselves and How We See Others».
5. Роберт П. Валлоне, Ли Росс и Марк Р. Леппер, «The Hostile Media Phenomenon: Biased Perception and Perceptions of Media Bias in Coverage of the Beirut Massacre», Journal of Personality and Social Psychology 49 (1985): 577–585, http://ssc.wisc.edu/~jpiliavi/965/hwang.pdf.
6. Юго Мерсье и Дэн Спербер, «Why Do Humans Reason? Arguments for an Argumentative Theory», Behavioral and Brain Sciences 34 (2011): 57–74, https://hal.archives-ouvertes.fr/file/index/docid/904097/filename/MercierSperberWhydohumansreason.pdf.
7. Ричард Э. Нисбетт и Тимоти Д. Уилсон, «Telling More than We Can Know: Verbal Reports on Mental Processes», Psychological Review 84 (1977): 231–259, http://people.virginia.edu/~tdw/nisbett&wilson.pdf.
8. Эрик Швицгебель, Perplexities of Consciousness (MIT Press, 2011).
9. Джонатан Хайдт, «The Emotional Dog and Its Rational Tail: A Social Intuitionist Approach to Moral Judgment», Psychological Review 108, no. 4 (2001): 814–834, doi:10.1037/0033-295X.108.4.814.
10. Скотт Александер, «Why I Am Not Rene Descartes», Slate Star Codex (блог) (2014), http://slatestarcodex.com/2014/11/27/why-i-am-not-rene-descartes/.
11. Люк Мюльхаузер, «The Power of Agency», Less Wrong (блог) (2011), http://lesswrong.com/lw/5i8/the_power_of_agency/.