Когда-то давно у юного Элиезера была глупая теория. Элиезер₁₈ старательно следовал предписаниям Традиционной Рациональности, которым его учили; он позаботился о том, чтобы у его глупой теории были экспериментальные следствия. Элиезер₁₈ заявлял, в соответствии с преподанными ему добродетелями ученого, что хочет проверить свою глупую теорию.

Этого было вполне достаточно для добродетели — согласно тому, чему учили Элиезера₁₈ как добродетели на пути науки.

Это даже отдаленно не соответствовало тому масштабу усилий, который требовался, чтобы оказаться правым.

Традиционные идеалы Науки слишком охотно раздают золотые звездочки. Отрицательные результаты экспериментов — это тоже знание, так что каждый участник игры получает награду. Если вы способны придумать какой-нибудь эксперимент для проверки вашей теории, действительно проводите его и принимаете результаты — вы сыграли по правилам, вы хороший ученый.

Вы не обязательно оказались правы, но вы — славный, законопослушный гражданин Науки.

(Здесь я хочу отметить, что говорю именно о Науке, а не о науке как социальном процессе, каковой она является на практике. На то есть две причины. Во-первых, я сбился с пути, пытаясь следовать идеалу Науки — дело вовсе не в том, что меня срезал какой-то мстительный редактор научного журнала, и я вовсе не пытался копировать недостатки академической среды. Во-вторых, если я укажу на изъян в идеале в том виде, в каком его традиционно проповедуют, ученые из реального мира вовсе не обязаны тоже сбиваться с пути!)

Наука зародилась как бунт против грандиозных философских схем и кабинетных рассуждений. Поэтому в Науке нет правила о том, какие гипотезы вам разрешено или запрещено проверять; это остается на усмотрение конкретного ученого. Попытка угадать это априори потребовала бы некой грандиозной философской схемы и рассуждений до получения свидетельств. Как социальный идеал, Наука не считает вас плохим человеком за выдвижение еретических гипотез; честные эксперименты и признание результатов — вот истинная добродетель ученого.

До тех пор, пока большинство ученых способно принимать определенные, очевидные, недвусмысленные экспериментальные доказательства, наука может развиваться. Возможно, это происходит слишком медленно — возможно, это занимает больше времени, чем следовало бы, — возможно, придется ждать, пока вымрет поколение патриархов, — но в конце концов храповик познания щелкает, продвигаясь еще на один зубец вперед. Год за годом, десятилетие за десятилетием колесо поворачивается вперед. Этого достаточно для поддержания цивилизации.

Вот и все, чего на самом деле требует от вас Наука, — способность признать реальность, когда вас бьют ею по голове. Немного, но этого достаточно, чтобы поддерживать научную культуру.

Сравните это с понятием точного количественного рационального суждения в теории вероятностей. Если 1% женщин, проходящих плановое обследование, больны раком груди, у 80% женщин с раком груди маммография дает положительный результат, а у 10% женщин без рака груди результат ложноположительный, то какова вероятность того, что женщина с положительным результатом маммографии при плановом обследовании действительно больна раком груди? Она равна 7,5%. Вы не можете сказать: «Я считаю, что у нее нет рака груди, потому что эксперимент недостаточно определенный». Вы не можете сказать: «Я считаю, что у нее есть рак груди, потому что разумно быть пессимистом, а единственный имеющийся на данный момент эксперимент, похоже, указывает именно на это». Семь целых пять десятых процента — это рациональная оценка на основе этих свидетельств, а не 7,4% и не 7,6%. Законы вероятности — это законы.

В «Двенадцати добродетелях» о третьей добродетели, легкости, сказано:

«Если ты воспринимаешь свидетельства как ограничение и стремишься освободиться от них, ты отдаешь себя в оковы собственных капризов. Ибо ты не сможешь составить верную карту города, сидя в спальне с закрытыми глазами и чертя линии на бумаге по наитию. Ты должен пройтись по городу и наносить на бумагу те линии, которые соответствуют увиденному. Если же, видя город нечетко, ты думаешь, что можешь сдвинуть линию чуть правее или чуть левее по своей прихоти, — ты совершаешь точно такую же ошибку».

В Науке, когда дело доходит до решения, какие гипотезы проверять, научная мораль дает вам свободу выбора, во что верить, — до тех пор, пока эта вера еще не опровергнута экспериментом и пока вы предпринимаете шаги для проверки своей гипотезы. Наука не пытается вынести официальный вердикт о наилучшей гипотезе для проверки до проведения эксперимента. Это остается на совести конкретного ученого.

Там, где существуют определенные экспериментальные доказательства, Наука велит вам склонить упрямую шею и принять их. В противном же случае Наука оставляет выбор за вами. Наука дает вам возможность блуждать в пределах экспериментальных доказательств, повинуясь собственным прихотям.

И это не так-то просто примирить с байесовским представлением о единственно верной оценке вероятности — той, что не оставляет места для гибкости или капризов и существует как до, так и после эксперимента. Байесианство плохо сочетается с древним и традиционным смыслом существования Науки — недоверием к великим схемам, презумпцией того, что люди недостаточно рациональны, чтобы прийти к верным выводам без определенных и безошибочных экспериментальных доказательств. Если бы мы все были идеальными байесовцами, мы бы не нуждались в науке как социальном процессе.

Тем не менее, примерно тогда, когда я осознал свою большую ошибку, я также изучал Канемана, Тверски и Джейнса. Я осваивал новый Путь, более строгий, чем Наука. Путь, который мог указать на мою глупость так, как Наука никогда бы не смогла. Путь, который мог сказать мне то, чего Наука никогда бы не сказала заранее: «Ты выбрал не ту гипотезу для проверки, болван».

Но Путь Байеса также гораздо сложнее использовать, чем Науку. Он заставляет изо всех сил напрягать слух, чтобы расслышать крошечную фальшивую ноту, тогда как Наука требует всего лишь заметить упавшую вам на голову наковальню.

В Науке вы можете совершить ошибку-другую, но придёт новый эксперимент и исправит вас; в худшем случае вы потеряете пару десятилетий.

Но если вы попытаетесь использовать байесовский подход хотя бы качественно — попытаетесь делать то, в чём Наука вам не доверяет, и рассуждать рационально в отсутствие неопровержимых свидетельств, — это будет похоже на математику: единственная ошибка на сотню шагов может завести вас куда угодно. Это требует лёгкости, беспристрастности, точности, перфекционизма.

Есть веская причина, почему Наука не доверяет учёным подобные вещи и требует дополнительных экспериментальных подтверждений даже после того, как кто-то заявляет, что вычислил правильный ответ на основе намёков и логики.

Но если вы не хотите тратить десять лет на попытки доказать неверную теорию, вам придётся взяться за решение куда более сложной задачи: прислушиваться к свидетельствам, которые не кричат вам прямо в ухо.

Даже если вы не можете посмотреть априорные вероятности для задачи в «Справочнике по химии и физике» — даже если нет Авторитетного Источника, способного подсказать их вам, — это вовсе не означает, что вы получаете право совершенно свободно, по собственному желанию назначать априорные вероятности какими вздумается. Это значит, что перед вами стоит новая задача по их угадыванию, которую вы должны решить в меру своих способностей.

Если бы разум как когнитивный механизм мог выдавать верные оценки, подгоняя априорные вероятности под свои капризы, вы могли бы узнавать о вещах, не глядя на них, или даже менять их, не прикасаясь. Но разум — это не магия. В рациональной оценке вероятности нет места решениям, продиктованным капризом, даже когда кажется, будто вы понятия не имеете об априорных вероятностях.

Точно так же, если байесовский ответ сложно рассчитать, это не значит, что подход Байеса неприменим; это значит, что вы не знаете, каков этот байесовский ответ. Байесовская теория вероятностей — это не ящик со статистическими инструментами; это закон, управляющий любым применяемым вами методом, независимо от того, знаете вы об этом или нет, можете вы его рассчитать или нет.

Что касается применения байесовских методов к гигантским, обобщённым пространствам гипотез — вроде: «Вот данные всех когда-либо проведённых физических экспериментов; а теперь найдите хорошую Теорию Всего», — то, если бы вы знали, как сделать это на практике, вы были бы не статистиком, а разработчиком общего искусственного интеллекта. Но это не значит, что люди, моделируя Вселенную с помощью своего разума, нарушают законы физики или байесианства, когда выдают верные догадки в отсутствие свидетельств.

Ник Тарлтон комментирует:

Проблема в поощрении личного, эпистемического стандарта, столь же нестрогого, как и общественный.

что формулирует суть проблемы, на которую я пытался указать, гораздо лучше меня.

*