Когда вы открываете глаза и осматриваете комнату вокруг, вы определяете положение своего ноутбука относительно стола, а книжного шкафа — относительно стены. Если с вашими глазами или мозгом что-то пойдет не так, ваша ментальная модель может показать книжный шкаф там, где его нет, и когда вы подойдете, чтобы взять книгу, вас постигнет разочарование.

Вот что значит иметь ложное убеждение — карту мира, не соответствующую территории. Эпистемическая рациональность как раз и заключается в построении точных карт. Такое соответствие между убеждением и реальностью обычно называют «истиной», и я охотно буду использовать это слово.

Инструментальная рациональность, с другой стороны, заключается в управлении реальностью — в том, чтобы подталкивать будущее туда, куда вы хотите. Это искусство выбора действий, которые ведут к результатам, занимающим более высокие места в вашей системе предпочтений. Иногда я называю это «победой».

Таким образом, рациональность — это формирование истинных убеждений и принятие выигрышных решений.

Стремление к «истине» в данном случае не означает отказ от неочевидных или косвенных доказательств. Взгляд на комнату вокруг вас и построение её ментальной карты в принципе ничем не отличаются от веры в то, что у Земли расплавленное ядро или что Юлий Цезарь был лысым. Эти вопросы, будучи удалёнными от вас в пространстве и времени, могут казаться более эфемерными и абстрактными, чем вопросы о вашем книжном шкафу. Тем не менее, существуют объективные факты о состоянии земного ядра в 2015 году нашей эры и о состоянии головы Цезаря в 50 году до нашей эры. Эти факты могут оказывать на вас реальное влияние, даже если вы никогда не найдёте способа встретиться с Цезарем или ядром лицом к лицу.

И «победа» здесь вовсе не обязательно должна достигаться за счёт других. Жизненный путь может быть посвящён сотрудничеству или самопожертвованию, а не соперничеству. «Ваши ценности» здесь означают всё, что вам небезразлично, включая других людей. Они не ограничиваются эгоистичными или неразделяемыми ценностями.

Когда люди говорят: «X рационально!», обычно это просто более резкий способ сказать: «Я думаю, что X истинно» или «Я думаю, что X хорошо». Зачем же тогда нужно отдельное слово «рациональный», помимо «истинного» и «хорошего»?

Аналогичный аргумент можно привести и против использования слова «истинно». Нет нужды говорить «истинно, что снег белый», когда можно просто сказать «снег белый». Полезность идеи истины заключается в том, что она позволяет нам рассуждать об общих свойствах соответствия карты и территории. Утверждение «Истинные модели обычно дают лучшие экспериментальные прогнозы, чем ложные» — полезное обобщение, и его невозможно сформулировать без использования таких понятий, как «истинный» или «точный».

Точно так же мысль «Рациональные агенты принимают решения, максимизирующие математическое ожидание согласованной функции полезности» опирается на концепцию (инструментальной) рациональности, тогда как фразу «Рационально есть овощи», пожалуй, можно заменить на «Полезно есть овощи» или «В ваших интересах есть овощи». Нам нужно такое понятие, как «рациональный», чтобы фиксировать общие факты о тех способах мышления, которые систематически порождают истину или ценность, — и о систематических ошибках, из-за которых мы не дотягиваем до этих стандартов.

Иногда экспериментальные психологи обнаруживают в человеческих рассуждениях весьма странные вещи. Например, кто-то оценивает вероятность того, что «Билл играет джаз», как меньшую, чем вероятность того, что «Билл — бухгалтер, который играет джаз». Это кажется странным суждением, поскольку любой отдельно взятый бухгалтер, играющий джаз, очевидно, является джазменом. Но с какой более высокой точки зрения мы утверждаем, что это суждение ошибочно?

Экспериментальные психологи используют два золотых стандарта: теорию вероятностей и теорию принятия решений.

Теория вероятностей — это свод законов, лежащих в основе рациональных убеждений. Математика вероятностей одинаково и без каких-либо различий описывает: а) определение того, где находится ваш книжный шкаф, б) вычисление температуры земного ядра и в) оценку количества волос на голове Юлия Цезаря. Всё это одна и та же задача: как обработать свидетельства и наблюдения, чтобы скорректировать («обновить») свои убеждения. Точно так же теория принятия решений — это свод законов, лежащих в основе рациональных действий, и она в равной степени применима независимо от того, каковы чьи-то цели и доступные варианты.

Пусть «P(то-то и то-то)» означает «вероятность того, что произойдет то-то и то-то», а P(A,B) — «вероятность того, что произойдут и А, и B». Поскольку универсальный закон теории вероятностей гласит, что P(A) ≥ P(A,B), суждение о том, что P(Билл играет джаз) меньше, чем P(Билл играет джаз, Билл — бухгалтер), признаётся неверным.

Выражаясь научным языком, можно сказать, что эта вероятностная оценка является небайесовской. Убеждения и действия, рациональные в этом математически строгом смысле, называют «байесовскими».

Заметьте, что современное понимание рациональности не сводится к рассуждениям с помощью слов. Я приводил пример с открытием глаз, осмотром комнаты и построением ментальной модели помещения, где у стены стоит книжный шкаф. Современное понятие рациональности достаточно широко, чтобы включить ваши глаза и зрительные зоны мозга в число «картографирующих инструментов». Оно включает в себя и ваши бессловесные интуитивные догадки. Математике всё равно, используем ли мы одно и то же слово «рациональный» и применительно к Споку, и применительно к байесовскому подходу. Математика моделирует эффективные способы достижения целей или картографирования мира независимо от того, соответствуют ли эти способы нашим предвзятым мнениям и стереотипам о том, какой «должна быть» рациональность.

Это далеко не исчерпывает вопрос о том, что понимается под «рациональностью» на практике, по двум важным причинам:

Во-первых, байесовский формализм в его полном виде вычислительно нереализуем для большинства задач реального мира. Никто не может на самом деле рассчитать всё математически и следовать этим расчётам, так же как невозможно предсказать поведение фондового рынка, просчитывая движение кварков.

Именно поэтому существует целый сайт под названием «Less Wrong», а не единственная страница, которая просто декларировала бы формальные аксиомы, на чём всё и заканчивалось бы. Поиск истины и реализация ценностей изнутри человеческого разума — это целое отдельное искусство: нам нужно изучить собственные изъяны, преодолеть свои когнитивные искажения, избегать самообмана, привести себя в хорошую эмоциональную форму, чтобы смело смотреть в лицо истине и делать то, что должно быть сделано, и так далее, и так далее.

Во-вторых, иногда под вопрос ставится смысл самой математики. Точные правила теории вероятностей ставятся под сомнение, к примеру, антропными проблемами, в которых число наблюдателей неопределённо. Точные правила теории принятия решений ставятся под сомнение, например, задачами типа Ньюкома, в которых другие агенты могут предсказать ваше решение до того, как оно будет принято.¹

В подобных случаях бесполезно пытаться решить проблему, придумывая новое определение слова «рациональный» и заявляя: «Следовательно, предпочитаемый мной ответ по определению, — это и есть то, что подразумевается под словом „рациональный“». Это лишь ставит вопрос о том, почему кто-то вообще должен обращать внимание на ваше определение. Меня интересует теория вероятностей не потому, что это священное слово, ниспосланное Лапласом. Меня интересует обновление убеждений в байесовском стиле (с априорными вероятностями Оккама), потому что я ожидаю, что этот стиль мышления систематически приближает нас, ну, знаете, к точности — к карте, которая отражает территорию.

А кроме того, существуют вопросы о том, как мыслить, на которые, кажется, не дают исчерпывающего ответа ни теория вероятностей, ни теория принятия решений — например, вопрос о том, что чувствовать по отношению к истине, когда вы её уже узнали. Здесь попытка как-то по-особому определить «рациональность» опять же не обосновывает ответ, а лишь заранее его предполагает.

Я здесь не для того, чтобы спорить о значении слова, даже если это слово — «рациональность». Смысл привязки последовательностей букв к определённым понятиям состоит в том, чтобы позволить двум людям общаться — помочь перенести мысли из одного разума в другой. Вы не можете изменить реальность или доказать мысль, манипулируя тем, какие значения закреплены за какими словами.

Так что если вы понимаете, к какому понятию я в целом клоню, используя слово «рациональность» и субтермины «эпистемическая рациональность» и «инструментальная рациональность», то мы поняли друг друга: мы достигли всего, чего можно достичь разговорами о том, как определять «рациональность». Обсуждать теперь нужно не то, какое значение приписать слогам «ра-ци-о-наль-ность», обсуждавать нужно то, какой способ мыслить хорош.

Если вы говорите: «Для меня (эпистемически) рационально верить в X, но на самом деле верно Y», то вы, вероятно, используете слово «рационально» в каком-то ином значении, нежели я. (Например, «рациональность» должна быть непротиворечивой при рефлексии: «рациональный» взгляд на свидетельства и «рациональное» осмысление того, как ваш разум обрабатывает эти свидетельства, не должны приводить к двум разным выводам.)

Точно так же, если вы ловите себя на мысли: «С (инструментальной) точки зрения рационально поступить как X, но правильно поступить как Y», то вы почти наверняка вкладываете какой-то другой смысл в слово «рационально» или слово «правильно». Я использую термин «рациональность» нормативно, чтобы выделить желательные паттерны мышления.

В этом случае — как и в любом другом, когда люди спорят о значениях слов, — вам следует заменить слово «рациональный» более конкретными формулировками: «Для моей личной выгоды лучше убежать, но я надеюсь, что хотя бы попытался бы стащить ребёнка с железнодорожных путей» или «Каузальная теория принятия решений в её обычной формулировке утверждает, что в задаче Ньюкома нужно брать две коробки, но я бы предпочёл получить миллион долларов».

На самом деле я рекомендую перечитать это эссе заново, заменяя каждое употребление слова «рациональный» на «фузальный», и посмотреть, изменит ли это хоть как-то коннотации моих слов. Если да, то я скажу: стремитесь не к рациональности, а к фузальности.

У слова «рациональный» есть потенциальные ловушки, но существует множество непограничных случаев, когда оно отлично работает для передачи того, что я имею в виду. То же касается и слова «иррациональный». В таких случаях я не боюсь его использовать.

И всё же следует быть осторожным, чтобы не злоупотреблять этим словом. Никто не начислит вам очков за то, что вы просто громко его произносите. Если вы слишком много говорите о Пути, вы его не обретёте.

*

1. Примечание редактора: Хорошее введение в задачу Ньюкома см. у Холта.² Более общие определения и объяснения многих терминов из этой книги можно найти на сайте wiki.lesswrong.com/wiki/RAZ_Glossary.

2. Джим Холт, «Thinking Inside the Boxes», Slate (2002), http://www.slate.com/articles/arts/egghead/2002/02/thinkinginside_the_boxes.html.