Роб Бенсингер
Это не секрет. Однако почему-то об этом редко заходит речь, и мало кто задается вопросом, что с этим делать. Это закономерность, невидимая за всеми нашими победами и поражениями, незримая за нашими собственными глазами. Что же это такое?
Представьте, что вы запускаете руку в урну, где лежат семьдесят белых шаров и тридцать красных, и достаете десять случайных шаров. Возможно, три шара из десяти окажутся красными, и вы правильно угадаете, сколько всего красных шаров было в урне. А возможно, вам случайно попадутся четыре красных шара или какое-то другое число. Тогда вы, скорее всего, ошибетесь в оценке общего количества.
Эта случайная ошибка — плата за неполноту знаний, и среди всех возможных ошибок она не так уж страшна. Ваши оценки не будут ошибочными в среднем, и чем больше вы узнаёте, тем меньше, как правило, будет становиться ваша ошибка.
С другой стороны, предположим, что белые шары тяжелее и опускаются на дно урны. Тогда ваша выборка может оказаться нерепрезентативной, причем в одном и том же направлении.
Именно такого рода ошибка называется «статистическим смещением». Если ваш метод познания мира смещен, то накопление знаний может и не помочь. Сбор дополнительных данных может даже систематически ухудшать смещенный прогноз.
Если вы привыкли высоко ценить знание и стремление к познанию, то это пугающая перспектива. Если мы хотим быть уверенными, что новые знания помогут нам, а не сделают наше положение хуже прежнего, нам нужно научиться находить и корректировать смещения в наших данных.
Концепция когнитивного искажения в психологии устроена аналогично. Когнитивное искажение — это систематическая ошибка в нашем мышлении, в отличие от случайной ошибки или ошибки, вызванной простым незнанием. В то время как статистическое смещение искажает выборку, из-за чего она хуже отражает генеральную совокупность, когнитивные искажения искажают наши убеждения, из-за чего те менее точно соответствуют фактам, а также искажают процесс принятия решений, мешая надежно достигать наших целей.
Возможно, вы подвержены предвзятости оптимизма и вдруг узнаёте, что красные шары могут излечить редкую тропическую болезнь, которой страдает ваш брат. Из-за этого вы можете переоценить количество красных шаров в урне, потому что хотите, чтобы их было большинство. В данном случае смещена не выборка. Предвзяты вы сами.
Однако теперь, когда речь зашла о предвзятых людях, нам нужно быть осторожнее. Обычно, когда мы называем человека или группу «предвзятыми», мы делаем это, чтобы упрекнуть их в несправедливости или пристрастности. Когнитивное искажение — совсем другое дело. Когнитивные искажения — это неотъемлемая часть человеческого мышления вообще, а не дефект, который можно списать на плохое воспитание или скверный характер.1
Когнитивное искажение — это систематическое отклонение врожденных паттернов вашего мышления от истины (или другой достижимой цели, например, счастья). Как и статистические смещения, когнитивные искажения могут искажать наше восприятие реальности, их не всегда можно исправить простым сбором данных, а их последствия могут накапливаться со временем. Но когда неоткалиброванный измерительный прибор, который вы пытаетесь настроить, — это вы сами, преодоление этих искажений становится уникальной по сложности задачей.
И все же это очевидная отправная точка. Ведь если вы не можете доверять собственному мозгу, как вы можете доверять чему-либо еще?
Было бы полезно дать название этому проекту по преодолению когнитивных искажений и всех видов ошибок, из-за которых наш разум начинает саботировать сам себя.
Мы могли бы назвать этот проект как угодно. Но на данный момент, полагаю, «рациональность» — название не хуже любого другого.
Рациональные чувства
В голливудских фильмах быть «рациональным» обычно означает быть суровым, сверхинтеллектуальным стоиком. Вспомните Спока из «Звездного пути», который «рационально» подавляет свои эмоции, «рационально» отказывается полагаться на интуицию или порывы, из-за чего легко впадает в ступор и оказывается обыгранным при встрече с непредсказуемым или «иррациональным» противником.2
Но математики, психологи и социологи изучают совершенно иное понятие «рациональности». Грубо говоря, это идея о том, чтобы делать всё возможное с тем, что у вас есть. Рациональный человек, в насколько бы сложной для себя ситуации он ни оказался, формирует наилучшие убеждения на основе тех свидетельств, которыми располагает. Рациональный человек, в какую бы ужасную ситуацию он ни попал, принимает наилучшие решения, чтобы повысить свои шансы на успех.
Рациональность в реальном мире не требует игнорировать эмоции и интуицию. Для человека быть рациональным часто означает лучше осознавать свои чувства, чтобы иметь возможность учитывать их при принятии решений.
Рациональность может заключаться даже в том, чтобы знать, когда не нужно слишком глубоко задумываться. Эксперименты показывают, что при выборе постера на стену или прогнозировании исхода баскетбольного матча испытуемые справлялись хуже, если тщательно анализировали причины своего выбора.3,4 Есть задачи, в которых нам больше помогает сознательное размышление, и другие, где лучше работают мгновенные решения.
Психологи, работающие в рамках теорий двойственного процесса, разделяют процессы работы мозга на процессы «Системы 1» (быстрое, неявное, ассоциативное, автоматическое познание) и «Системы 2» (медленное, явное, интеллектуальное, контролируемое познание).5 Согласно стереотипу, рационалисты полностью полагаются на Систему 2, игнорируя свои чувства и импульсы. Но если выйти за рамки этого стереотипа, то тот, кто действительно ведет себя рационально — то есть на самом деле достигает своих целей и минимизирует вред от когнитивных искажений, — будет активно опираться на привычки и интуицию Системы 1 там, где они надежны.
К сожалению, сама по себе Система 1 — отвратительный советчик в вопросе «когда мне стоит доверять Системе 1?». Наша нетренированная интуиция не подсказывает нам, в какой момент нужно перестать на нее полагаться. Быть предвзятым и быть объективным ощущаются совершенно одинаково.6
С другой стороны, как отмечает поведенческий экономист Дэн Ариели, мы предсказуемо иррациональны. Мы ошибаемся одними и теми же способами, снова и снова, систематически.
Если мы не можем почуять нутром, когда поддаемся когнитивному искажению, мы всё ещё можем обратиться к наукам о разуме.
Многоликая предвзятость
Чтобы решать задачи, наш мозг в ходе эволюции научился использовать когнитивные эвристики — простые правила принятия решений, которые часто, но не всегда дают правильный результат. Когнитивные искажения возникают тогда, когда «срезание углов» с помощью этих эвристик приводит к систематическим и вполне определенным ошибкам.
Эвристика репрезентативности, например, — это наша склонность оценивать явления по тому, насколько типичными для различных категорий они нам кажутся. Это может приводить к таким искажениям, как ошибка конъюнкции. Тверски и Канеман обнаружили, что испытуемые считали менее вероятным, что сильный теннисист просто «проиграет первый сет», чем что он «проиграет первый сет, но выиграет матч».7 Отыгрыш кажется более типичным для сильного игрока, поэтому мы переоцениваем вероятность этого сложного, но кажущегося логичным сценария по сравнению с вероятностью строго более простого исхода.
Эвристика репрезентативности также может приводить к игнорированию базового уровня, когда мы основываем свои суждения на том, насколько интуитивно «нормальным» выглядит сочетание признаков, пренебрегая тем, насколько часто каждый из них встречается в популяции в целом.8 Что более вероятно: Стив — застенчивый библиотекарь или застенчивый продавец? Большинство людей отвечают на подобные вопросы, размышляя о том, соответствует ли качество «застенчивый» их стереотипам об этих профессиях. Они не принимают во внимание, насколько продавцов больше, чем библиотекарей — в Соединенных Штатах, например, в семьдесят пять раз.9
Другие примеры когнитивных искажений включают игнорирование продолжительности (оценку опыта без учета того, как долго он длился), ошибку невозвратных затрат (ощущение обязательств перед тем, во что вы уже вложили ресурсы в прошлом, когда следовало бы просто зафиксировать убытки и двигаться дальше) и предвзятость подтверждения (склонность придавать больший вес свидетельствам, которые подтверждают то, во что мы уже верим).10,11
Однако одного лишь знания об искажении редко бывает достаточно, чтобы защититься от него. В исследовании слепоты к искажениям испытуемые предполагали, что если бы они узнали, что картина принадлежит перу известного художника, им было бы труднее беспристрастно оценить её качество. И действительно, испытуемые, которым назвали автора картины и попросили оценить её качество, продемонстрировали именно то искажение, которое сами же и предсказали (по сравнению с контрольной группой). Однако, когда их спросили об этом впоследствии, те же самые испытуемые утверждали, что их оценки картин были абсолютно объективными и свободными от предвзятости — и так во всех группах!12,13
Нам особенно не хочется считать свои взгляды менее точными, чем взгляды других людей. Даже когда мы правильно замечаем чужие когнитивные искажения, у нас возникает особое слепое пятно предвзятости, когда дело касается наших собственных недостатков.14 При самоанализе мы не обнаруживаем никаких мыслей, которые «ощущались бы как предвзятые», и потому делаем вывод, что мы просто более объективны, чем все остальные.15
Изучение искажений на самом деле может сделать вас еще более уязвимыми к самоуверенности и предвзятости подтверждения, поскольку вы начнете видеть влияние когнитивных искажений повсюду — у всех, кроме себя. И слепое пятно предвзятости, в отличие от многих других искажений, особенно выражено у людей, которые отличаются выдающимся умом, вдумчивостью и широтой взглядов.16,17
И это повод для беспокойства.
И все же... кажется, мы способны на большее. Известно, что мы можем снизить влияние игнорирования базового уровня, если будем думать о вероятностях как о частоте объектов или событий. Мы можем свести к минимуму игнорирование продолжительности, если будем уделять ей больше внимания и представлять её наглядно.18 Люди в разной степени подвержены различным искажениям, а значит, должен существовать целый ряд пока неизвестных способов влиять на то, насколько мы предвзяты.
Однако если мы хотим совершенствоваться, нам недостаточно просто корпеть над списками когнитивных искажений. Подход к преодолению предвзятости в книге «Рациональность: от ИИ до зомби» заключается в том, чтобы передать систематическое понимание того, почему работают правильные рассуждения и в чем мозг не справляется с ними. В той мере, в какой этот том справляется со своей задачей, его подход можно сравнить с подходом, описанным у Серфаса, который отмечает, что «годы опыта работы в финансовой сфере» никак не повлияли на подверженность людей ошибке невозвратных затрат, тогда как «количество прослушанных курсов по бухгалтерскому учету» помогло.
Как следствие, может возникнуть необходимость разграничивать опыт и экспертность, где под экспертностью понимается «разработка схематического принципа, который включает в себя концептуальное понимание проблемы» и, в свою очередь, позволяет лицу, принимающему решения, распознавать конкретные искажения. Однако использование экспертности в качестве защитной меры требует большего, чем просто знакомство с ситуативным контекстом или статус эксперта в конкретной области. Оно требует полного понимания внутренней логики соответствующего искажения, умения замечать его в конкретной обстановке, а также наличия под рукой подходящих инструментов для противодействия ему.19
Цель этой книги — заложить основу для создания рациональной «экспертности». Это означает глубокое понимание структуры очень общей проблемы: человеческой предвзятости, самообмана и тысячи путей, которыми искушенный разум может сам себя перехитрить.
Несколько слов об этом тексте
Книга «Рациональность: от ИИ до зомби» начиналась как серия эссе Элиезера Юдковского, опубликованных в период с 2006 по 2009 год в экономическом блоге Overcoming Bias и его дочернем сообществе Less Wrong. Последний год я работал вместе с Юдковским в Научно-исследовательском институте машинного интеллекта (MIRI) — некоммерческой организации, которую он основал в 2000 году для изучения теоретических требований к созданию искусственного интеллекта (ИИ), превосходящего человеческий.
Чтение его постов в блоге пробудило во мне интерес к его работе. Он поразил меня своей способностью лаконично формулировать идеи, на освоение которых у меня ушли годы изучения аналитической философии. Стремясь примирить анархический и скептический дух науки со строгим и систематическим подходом к познанию, Юдковский пытается не просто опровергнуть, а понять те многочисленные ложные шаги и тупики, к которым может привести плохая философия (или пагубное её отсутствие). Я помогал структурировать эти эссе в виде книги в надежде, что это облегчит погружение в них и позволит оценить их как единое, гармоничное целое.
Получившееся введение в рациональность часто носит глубоко личный и дерзкий характер — материал для него черпается, например, из опыта общения Юдковского с его ортодоксальной иудейской матерью (психиатром) и отцом (физиком), а также из дискуссий в чатах и списках рассылки. Читатели, знакомые с Юдковским по «Гарри Поттеру и методам рационального мышления», его научно ориентированной вариации на тему книг Дж. К. Роулинг о Гарри Поттере, узнают то же дерзкое иконоборчество и многие из тех же ключевых концепций.
Стилистически эссе в этой книге охватывают широчайший спектр — от «увлекательного учебника» до «сборника глубоких зарисовок» и «бунтарского манифеста», и содержание их столь же разнообразно. В «Рациональности: от ИИ до зомби» сотни постов Юдковского объединены в двадцать шесть «цепочек» — серий тематически связанных публикаций, напоминающих главы. Цепочки, в свою очередь, сгруппированы в шесть книг, охватывающих следующие темы:
Книга 1. Карта и территория. Что такое убеждение и почему одни убеждения работают лучше других? Эти четыре цепочки объясняют байесовские концепции рациональности, убеждений и свидетельств. Сквозная тема: то, что мы называем «объяснениями» или «теориями», далеко не всегда работает как карты для ориентирования в мире. В результате мы рискуем перепутать свои мысленные карты с другими инструментами в нашем арсенале.
Книга 2. Как на самом деле менять свое мнение. Эта штука под названием «истина», кажется, весьма полезна. Почему же тогда мы продолжаем делать поспешные выводы, упрямиться и совершать одни и те же ошибки снова и снова? Почему мы так плохи в формировании верных убеждений и как нам научиться делать это лучше? В этих семи цепочках обсуждаются мотивированное мышление и предвзятость подтверждения, причём особое внимание уделяется труднозаметным разновидностям самообмана и ловушке «использования аргументов как солдат».
Книга 3. Машина в призраке. Почему в процессе эволюции мы не стали более рациональными? Даже с учётом ограниченности ресурсов кажется, что мы могли бы получать куда больше эпистемической отдачи от имеющихся у нас свидетельств. Чтобы получить реалистичное представление о том, как и почему наш разум выполняет свои биологические функции, нам нужно заглянуть под капот и точнее разобраться, как устроена эволюция и как работает наш мозг. Эти три цепочки иллюстрируют, как даже философы и учёные могут сбиться с пути, если будут полагаться на интуитивные, нестрогие эволюционные или психологические объяснения. Поместив наш разум в более широкое пространство целеполагающих систем, мы сможем выявить некоторые особенности человеческого мышления и понять, как подобные системы могут «терять своё предназначение».
Книга 4. Просто реальность. В каком мире мы живём? Каково наше место в этом мире? Опираясь на примеры работы эволюционных и когнитивных моделей из предыдущих цепочек, эти шесть цепочек исследуют природу разума и характер физических законов. Помимо применения и обобщения прошлых выводов о научных загадках и принципе бережливости, эти эссе ставят новые вопросы о том, какую роль наука должна играть в индивидуальной рациональности.
Книга 5. Просто добро. Что делает нечто ценным — с моральной, эстетической или практической точки зрения? Эти три цепочки задаются вопросом о том, как мы можем обосновать, пересмотреть и натурализовать наши ценности и желания. Цель — найти способ осмыслить свои цели, не подрывая при этом усилий по их реальному достижению. Главная трудность здесь — понять, когда следует доверять своим хаотичным, сложным, ситуативным порывам касательно добра и зла, а когда заменить их простыми, не знающими исключений принципами.
Книга 6. Становясь сильнее. Как отдельные люди и сообщества могут применить всё это на практике? Эти три цепочки начинаются с автобиографического рассказа о крупнейших философских ошибках самого Юдковского и его советов о том, как другие могли бы справиться лучше. Книга завершается рекомендациями по разработке научно обоснованных учебных программ по прикладной рациональности, а также по созданию групп и институтов для поддержки заинтересованных студентов, преподавателей, исследователей и друзей.
Цепочки также дополнены «интерлюдиями» — эссе с личного сайта Юдковского http://www.yudkowsky.net. Они по-разному перекликаются с цепочками; например, «Двенадцать добродетелей рациональности» поэтично резюмирует многие уроки «Рациональности: от ИИ до зомби» и часто цитируется в других эссе.
Кликнув по звёздочке в конце эссе, вы перейдёте к его оригинальной версии на Less Wrong (где можно оставить комментарии) или на сайте Юдковского. Вы также можете найти онлайн-глоссарий терминов «Рациональности: от ИИ до зомби» по адресу http://wiki.lesswrong.com/wiki/RAZ_Glossary.
Карта и территория
Первая книга начинается с цепочки о когнитивных искажениях: «Предсказуемо неправы». Но остальная часть книги не ограничится одной лишь этой темой: вредные привычки мышления и ложные идеи тоже важны, даже если они порождены содержанием нашего ума, а не его структурой. Таким образом, в последующих цепочках будут препарироваться как эволюционные, так и благоприобретённые ошибки, начиная с обсуждения в «Псевдоубеждениях» того, как ожидания человека могут расходиться с декларируемыми им убеждениями.
Описание иррациональности также было бы неполным без теории о том, как работает рациональность, или если бы эта «теория» состояла лишь из расплывчатых трюизмов без какого-либо точного объяснительного механизма. В цепочке «Осознание замешательства» ставится вопрос о том, почему полезно строить своё поведение на основе «рациональных» ожиданий и как это ощущается на практике.
Далее в «Таинственных ответах» ставится вопрос: решает ли наука эти проблемы за нас? Учёные строят свои модели на основе воспроизводимых экспериментов, а не на домыслах или слухах. И у науки великолепная репутация по сравнению с байками, религией и... практически всем остальным. Нужно ли нам всё ещё беспокоиться о «псевдоубеждениях», предвзятости подтверждения, ошибке послезнания и тому подобном, когда мы работаем в сообществе людей, которые хотят объяснять явления, а не просто рассказывать складные истории?
За этим следует «Простая истина» — самостоятельная аллегория о природе знания и убеждения.
Однако именно когнитивные искажения позволяют наиболее ясно и непосредственно заглянуть в саму суть нашей психологии, понять устройство наших эвристик и логику наших ограничений. Именно с искажений мы и начнём.
В «Чжуан-цзы», раннедаосском философском трактате, есть такие слова: «Верша нужна, чтобы поймать рыбу. Когда рыба поймана, о верше забывают»20.
Я приглашаю вас читать эту книгу именно в таком духе. Пользуйтесь ею так же, как пользовались бы вершей, всегда помня о своей цели. Уносите с собой то, что можете использовать, пока оно приносит пользу; остальное отбрасывайте. И пусть ваша цель сослужит вам верную службу.
Благодарности
Я невероятно благодарен Нейту Соарсу, Элизабет Тарлтон, Полу Кроули, Бриенн Штроль, Адаму Фризу, Хелен Тонер и десяткам волонтёров за вычитку частей этой книги.
Особая и искренняя благодарность Алексу Вермееру, который довёл работу над этой книгой до конца, и Цви Бенсону-Тилсену, который прошерстил всю книгу, чтобы обеспечить её удобочитаемость и последовательность.
*
1. Идея личной предвзятости, предвзятости СМИ и т. д. похожа на статистическое смещение в том смысле, что это ошибка. Другие варианты обобщения понятия «искажения» фокусируются, напротив, на его связи с неслучайностью. В машинном обучении, например, индуктивное смещение — это просто набор допущений, которые обучающаяся система использует для прогнозирования на основе набора данных. Здесь система «предвзята» в том смысле, что она направлена в определённую сторону; но поскольку этим направлением может оказаться истина, наличие индуктивного смещения у агента — вовсе не плохо. Оно ценно и необходимо. Это весьма чётко отличает индуктивное «смещение» от других видов искажений.
2. Печальное совпадение: Леонард Нимой, актёр, сыгравший Спока, скончался всего за несколько дней до выхода этой книги. Хотя мы приводим его персонажа в качестве классического примера фальшивой «голливудской рациональности», мы ни в коей мере не хотим проявить неуважение к памяти Нимоя.
3. Тимоти Д. Уилсон и др., «Introspecting About Reasons Can Reduce Post-choice Satisfaction», Personality and Social Psychology Bulletin 19 (1993): 331–331.
4. Джамин Бретт Хальберштадт и Гэри М. Левин, «Effects of Reasons Analysis on the Accuracy of Predicting Basketball Games», Journal of Applied Social Psychology 29, no. 3 (1999): 517–530.
5. Кит Э. Станович и Ричард Ф. Уэст, «Individual Differences in Reasoning: Implications for the Rationality Debate?», Behavioral and Brain Sciences 23, no. 5 (2000): 645–665, http://journals.cambridge.org/abstract_S0140525X00003435.
6. Тимоти Д. Уилсон, Дэвид Б. Сентербар и Нэнси Брекке, «Mental Contamination and the Debiasing Problem», в Heuristics and Biases: The Psychology of Intuitive Judgment, под ред. Томаса Гиловича, Дейла Гриффина и Даниэля Канемана (Cambridge University Press, 2002).
7. Амос Тверски и Даниэль Канеман, «Extensional Versus Intuitive Reasoning: The Conjunction Fallacy in Probability Judgment», Psychological Review 90, no. 4 (1983): 293–315, doi:10.1037/0033-295X.90.4.293.
8. Ричардс Дж. Хойер, Psychology of Intelligence Analysis (Center for the Study of Intelligence, Central Intelligence Agency, 1999).
9. Уэйн Вейтен, Psychology: Themes and Variations, Briefer Version, Eighth Edition (Cengage Learning, 2010).
10. Рэймонд С. Никерсон, «Confirmation Bias: A Ubiquitous Phenomenon in Many Guises», Review of General Psychology 2, no. 2 (1998): 175.
11. Игнорирование вероятности — это ещё одно когнитивное искажение. В течение месяцев и лет после терактов 11 сентября многие люди предпочитали совершать дальние поездки на автомобиле, а не летать на самолёте. Угон самолёта не был вероятным, но теперь казалось, что эту возможность нельзя сбрасывать со счетов; сама лишь возможность угона оказывала колоссальное влияние на принимаемые решения. Опираясь на чёрно-белое мышление (машины и самолёты либо «безопасны», либо «опасны», и точка), люди на самом деле подвергали себя гораздо большей опасности. Вместо того чтобы взвесить вероятность погибнуть в автомобильной поездке через всю страну против вероятности погибнуть при таком же перелёте (причём первый вариант в сотни раз вероятнее), они полагались на общее ощущение беспокойства и тревоги (эвристику аффекта). Такой же паттерн поведения можно заметить у детей, которые, выслушав аргументы за и против использования ремней безопасности, мечутся между мыслью, что ремни — это абсолютно хорошая идея, и мыслью, что это абсолютно плохая идея, вместо того чтобы попытаться сопоставить весомость доводов «за» и «против».21
Вот ещё несколько примеров искажений: правило «пика и конца» (оценка воспоминаний о событиях на основе их наиболее интенсивного момента и того, как они закончились); эффект якоря (принятие решений на основе недавно полученной информации, даже если она не имеет отношения к делу)22 и самоякорение (использование себя в качестве модели для оценки характеристик других людей, без должного учёта того, в чём вы сами нетипичны);23 а также склонность к сохранению статуса-кво (чрезмерное предпочтение привычного и ожидаемого новому и иному).24
12. Кэтрин Хансен и др., «People Claim Objectivity After Knowingly Using Biased Strategies», Personality and Social Psychology Bulletin 40, no. 6 (2014): 691–699.
13. Точно так же Эмили Пронин пишет о слепоте к гендерной предвзятости:
«В одном исследовании участники рассматривали кандидатуры мужчины и женщины на должность начальника полиции, а затем оценивали, что важнее для этой работы: «уличная смекалка» или «наличие образования». В итоге участники отдавали предпочтение тем качествам, которыми, как им говорили, обладал кандидат-мужчина (например, если им сообщали, что у него есть «уличная смекалка», они считали это качество более важным). Участники были абсолютно слепы к этой гендерной предвзятости; более того, чем более объективными они себя считали, тем большую предвзятость они проявляли на самом деле.25»
По словам Пронин, даже когда мы знаем об искажениях, мы остаёмся «наивными реалистами» в отношении собственных убеждений. Мы неизменно скатываемся к тому, чтобы считать свои убеждения неискажённым отражением реальности.26
14. В ходе опроса 76 человек, ожидавших свои рейсы в аэропортах, респонденты оценивали себя в среднем как гораздо менее подверженных когнитивным искажениям, чем типичный посетитель аэропорта. В частности, люди считают себя на редкость беспристрастными, когда само искажение социально нежелательно или имеет труднозаметные последствия.27 Другие исследования показывают, что люди, имеющие личное отношение к какому-либо вопросу, считают, что это отношение лишь повышает их проницательность и объективность; но когда они замечают, что другие люди имеют такое же отношение, они делают вывод, что эти люди излишне пристрастны и предвзяты.
15. Джойс Эрлингер, Томас Гилович и Ли Росс, «Peering Into the Bias Blind Spot: People’s Assessments of Bias in Themselves and Others», Personality and Social Psychology Bulletin 31, no. 5 (2005): 680–692.
16. Ричард Ф. Уэст, Рассел Дж. Мезерв и Кит Э. Станович, «Cognitive Sophistication Does Not Attenuate the Bias Blind Spot», Journal of Personality and Social Psychology 103, no. 3 (2012): 506.
17. ...Не путать с людьми, которые считают себя необычайно умными, вдумчивыми и т. д. из-за эффекта иллюзорного превосходства.
18. Майкл Дж. Лирш и Крейг Р. М. Маккензи, «Duration Neglect by Numbers and Its Elimination by Graphs», Organizational Behavior and Human Decision Processes 108, no. 2 (2009): 303–314.
19. Себастьян Серфас, Cognitive Biases in the Capital Investment Context: Theoretical Considerations and Empirical Experiments on Violations of Normative Rationality (Springer, 2010).
20. Чжуан-цзы и Бертон Уотсон, The Complete Works of Zhuangzi (Columbia University Press, 1968).
21. Касс Р. Санстейн, «Probability Neglect: Emotions, Worst Cases, and Law», Yale Law Journal (2002): 61–107.
22. Дэн Ариели, Predictably Irrational: The Hidden Forces That Shape Our Decisions (HarperCollins, 2008).
23. Боаз Кейсар и Дейл Дж. Барр, «Self-Anchoring in Conversation: Why Language Users Do Not Do What They ‘Should’», в Heuristics and Biases: The Psychology of Intuitive Judgment, под ред. Томаса Гиловича, Дейла Гриффина и Даниэля Канемана (New York: Cambridge University Press, 2002), 150–166, doi:10.2277/0521796792.
24. Скотт Эйдельман и Кристиан С. Крэндалл, «Bias in Favor of the Status Quo», Social and Personality Psychology Compass 6, no. 3 (2012): 270–281.
25. Эрик Луис Ульман и Джеффри Л. Коэн, «“I think it, therefore it’s true”: Effects of Self-perceived Objectivity on Hiring Discrimination», Organizational Behavior and Human Decision Processes 104, no. 2 (2007): 207–223.
26. Эмили Пронин, «How We See Ourselves and How We See Others», Science 320 (2008): 1177–1180, http://psych.princeton.edu/psychology/research/pronin/pubs/2008%20Self%20and%20Other.pdf.
27. Эмили Пронин, Даниэль И. Лин и Ли Росс, «The Bias Blind Spot: Perceptions of Bias in Self versus Others», Personality and Social Psychology Bulletin 28, no. 3 (2002): 369–381.