Раньше я сильно путался в метаэтике. После того как путаница наконец рассеялась, я провел постмортем своих прошлых размышлений. Я обнаружил, что мои моральные рассуждения предметного уровня были ценными, в то время как рассуждения метауровня оказались хуже, чем бесполезными. И это, похоже, общий синдром: люди справляются гораздо лучше, когда обсуждают, хороши пытки или плохи, чем когда они спорят о значении слов «хорошо» и «плохо». Поэтому я считаю разумным удерживать обсуждения морали на предметном уровне везде, где только возможно.

Время от времени люди возражают против любых дискуссий о морали на том основании, что морали не существует, и вместо того, чтобы объяснять, что «существовать» — неподходящее здесь слово, я обычно спрашиваю: «Но что вы всё-таки делаете?» — и возвращаю разговор обратно на предметный уровень.

Пол Гаудер, однако, указал на то, что как идея предпочесть гуголплекс мелких неудобств одному злодеянию, так и идея «утилитаризма» опираются на «интуицию». Он пишет, что я доказывал несовместимость этих двух идей, но упрекает меня в том, что я не обосновал утилитарные интуиции, к которым апеллирую.

Вообще говоря, «интуиция» — это не то слово, которым я бы описал вычисления, лежащие в основе человеческой морали и отличающие нас как моральных агентов от идеального философа абсолютной пустоты и/или от камня. Но я не против использовать слово «интуиция» как специальный термин, помня о том, что «интуицию» в этом смысле не следует противопоставлять разуму; скорее, она представляет собой тот когнитивный кирпичик, из которого строятся как долгие вербальные рассуждения, так и быстрые выводы на основе восприятия.

Я рассматриваю проект морали как проект перенормировки интуиции. У нас есть интуиции о вещах, которые кажутся желательными или нежелательными; интуиции о правильных и неправильных поступках; интуиции о том, как разрешать противоречащие друг другу интуиции; интуиции о том, как систематизировать частные интуиции в общие принципы.

Сотрите все интуиции — и вы получите не идеального философа совершенной пустоты, а обыкновенный камень.

Сохраните все свои частные интуиции и откажитесь опираться на рефлексивные, и вы получите не идеального философа абсолютной спонтанности и искренности, а мычащего пещерного человека, бегающего кругами из-за циклических предпочтений и тому подобных противоречий.

«Интуиция» как специальный термин — вовсе не ругательство, когда речь заходит о морали; ведь больше просто не от чего отталкиваться в рассуждениях. Даже modus ponens в этом смысле является «интуицией» — просто modus ponens всё ещё кажется хорошей идеей после того, как его формализовали, обдумали, экстраполировали, чтобы проверить, приводит ли он к разумным последствиям, и так далее.

Вот что такое «интуиция».

Однако Гаудер не уточнил, что именно он понимает под «утилитаризмом». Утверждает ли утилитаризм, что...

Что правильные поступки строго определяются хорошими последствиями?

Что заслуживающие похвалы поступки зависят от оправданных ожиданий хороших последствий?

Что значимость последствий должна нормативно снижаться пропорционально их вероятности, так что 50-процентная вероятность чего-то плохого должна иметь ровно вдвое меньший вес при принятии решений?

Что добродетельные поступки всегда соответствуют максимизации ожидаемой полезности в рамках некоторой функции полезности?

Что два вредных события хуже, чем одно?

Что два независимых случая причинения вреда (не одному и тому же человеку и никак не связанных друг с другом) ровно в два раза хуже, чем один?

Что для любых двух видов вреда A и B, где A гораздо хуже B, существует некоторая крошечная вероятность, при которой риск получить A с этой вероятностью предпочтительнее, чем гарантированно получить B?

Если вы утверждаете, будто я что-то защищаю или что мой аргумент от чего-то зависит, и что это «что-то» неверно, то, пожалуйста, уточните, о какой именно штуковине речь. Как бы то ни было, я принимаю пункты 3, 5, 6 и 7, но не 4; я не уверен насчет формулировки пункта 1; а пункт 2, пожалуй, верен, но сформулирован довольно солипсически и эгоистично: вам не стоит беспокоиться о том, заслуживаете ли вы похвалы.

Итак, каковы же те «интуиции», на которые опирается мой «утилитаризм»?

Это довольно глубокая тема, но я попробую вкратце к ней подступиться.

Прежде всего, дело не в том, что кто-то просто показал мне список утверждений вроде приведенного выше, а я решил, какие из них звучат «интуитивно». Помимо прочего, если вы попытаетесь нарушить «утилитаризм», то столкнетесь с парадоксами, противоречиями, циклическими предпочтениями и прочими вещами, которые являются признаками не столько моральной неправоты, сколько моральной несогласованности.

Поразмыслив некоторое время над моральными проблемами, открыв новые истины об окружающем мире и даже обнаружив тревожные факты о том, как вы сами устроены, вы часто приходите к совершенно иным моральным взглядам, нежели те, с которых начинали. Это не совсем определяет моральный прогресс, но именно так мы его переживаем.

В своем опыте морального прогресса я провел концептуальное различие между вопросами типа «Куда нам идти?» и вопросами типа «Как нам туда добраться?» (Может быть, именно это имеет в виду Гаудер, называя меня «утилитаристом»?)

На вопрос о том, куда ведет дорога, можно ответить, пройдя по ней и выяснив это. Если у вас есть ложное убеждение о том, куда ведет дорога, это заблуждение может быть разрушено истиной самым прямым и очевидным образом.

Когда дело доходит до желания оказаться в определенном месте, это желание не обладает абсолютным иммунитетом против разрушительной силы истины. Вы можете прийти туда и обнаружить, что впоследствии жалеете об этом (что не определяет моральную ошибку, но именно так мы переживаем моральные ошибки).

Но даже в этом случае желание оказаться в определенном месте, судя по всему, стоит отличать от желания пойти именно по этой конкретной дороге в это определенное место.

Наши интуиции о том, куда идти, достаточно спорны, но наши интуиции о том, как туда добраться, откровенно сломаны. После двести восемьдесят седьмого исследования, показывающего, что люди готовы отрубить себе ноги, если сформулировать проблему неверным образом, начинаешь с недоверием относиться к первым впечатлениям.

Когда прочитаешь достаточно исследований о нечувствительности к масштабу — люди готовы заплатить всего на 28% больше ради защиты всех 57 заповедных зон в Онтарио, чем ради одной-единственной, люди готовы пожертвовать одинаковую сумму на спасение что 50 000 жизней, что 5000... и всё в таком духе...

Так вот, худший случай нечувствительности к масштабу, о котором я когда-либо слышал, был описан здесь Словиком:

Другие недавние исследования показывают схожие результаты. Два израильских психолога попросили людей сделать пожертвование на дорогостоящее жизненно необходимое лечение. Они могли внести этот вклад в пользу группы из восьми больных детей или в пользу одного конкретного ребенка, выбранного из этой группы. Целевая сумма, необходимая для спасения ребенка (или детей), в обоих случаях была одинаковой. Пожертвования в пользу отдельных членов группы значительно превзошли пожертвования в пользу группы в целом.¹

Есть и другие исследования в том же духе, но я привожу только один пример, потому что, знаете ли, восемь примеров, пожалуй, произвели бы меньшее впечатление.

Если вам знакома общая экспериментальная парадигма, то причина такого поведения вполне очевидна: сосредоточение внимания на одном ребенке вызывает более сильный эмоциональный отклик, чем попытка распределить внимание сразу на восьмерых детей. В результате люди готовы заплатить больше, чтобы помочь одному ребенку, а не восьмерым.

Конечно, можно посмотреть на эту интуицию и подумать, будто она раскрывает какую-то невероятно глубокую моральную истину, согласно которой благополучие одного ребенка каким-то образом обесценивается благополучием других детей.

Но как быть с миллиардами других детей в мире? Почему тогда не считать плохой идеей помощь этому одному ребенку, если из-за этого падает ценность всех остальных детей? Как может быть значительно лучше, когда счастливых детей 1 329 342 410, а не 1 329 342 409, но при этом в каком-то смысле хуже, когда их становится на семь больше — 1 329 342 417?

Или можно посмотреть на это и сказать: «Интуиция ошибочна: мозг просто не в состоянии успешно умножить на восемь и получить величину больше исходной. Но с нормативной точки зрения он должен это делать».

И как только вы понимаете, что мозг не умеет умножать на восемь, другие случаи игнорирования масштаба перестают казаться откровением какой-то фундаментальной истины о том, что 50 000 жизней заслуживают ровно тех же усилий, что и 5000, или чего-то подобного. У вас больше не возникает ощущения, будто перед вами раскрывается глубокая моральная истина о неаггломеративных полезностях. Просто мозг, черт возьми, не умеет умножать. Числа просто выбрасываются за борт.

Если у вас есть 100 долларов и вы потратите по 20 долларов на каждую из 5 программ по спасению 5000 жизней, результат будет хуже, чем если бы вы потратили все 100 долларов на одну программу по спасению 50 000 жизней. То же самое верно, если такой выбор делают 10 разных людей, а не один человек. Как только вы начинаете верить, что спасти 50 000 жизней лучше, чем 25 000, это простое предпочтение конечных исходов влияет на выбор путей, когда вы рассматриваете пять различных событий, спасающих по 5000 жизней.

(Согласно общему принципу, байесовцы не видят разницы между долгосрочным и краткосрочным ответами; вы никогда не получите два разных ответа, вычисляя ответ на один и тот же вопрос двумя разными способами. Но долгосрочная перспектива — полезный «насос интуиции», поэтому я все равно о ней говорю.)

Аггломеративная стратегия оценки «заткнись и умножай» возникает из простого предпочтения получить больше чего-либо — спасти как можно больше жизней, — когда вам приходится формулировать общие принципы для многократного выбора, многократных действий и планирования на разные моменты времени.

Аггломерация также возникает из утверждения, что локальный выбор спасти одну жизнь не зависит от того, сколько жизней уже существует где-то далеко, на другом конце планеты или на другом краю Вселенной. Три жизни — это одна, одна и одна. Неважно, сколько миллиардов живут лучше или хуже. 3 = 1 + 1 + 1, какие бы другие величины вы ни добавляли к обеим частям уравнения. А если добавить еще одну жизнь, получится 4 = 1 + 1 + 1 + 1. В этом и заключается аггломерация.

Когда вы изучите достаточно исследований об эвристиках и искажениях, достаточно доказательств согласованности и единственности для байесовских вероятностей и ожидаемой полезности, а также увидите эффекты «голландской книги ставок» и «денежного насоса», которые наказывают за любые другие попытки работать с неопределенными исходами, тогда вы перестанете видеть в инверсии предпочтений в парадоксе Алле откровение невероятно глубокой моральной истины о внутренней ценности определенности. Это лишний раз доказывает, что мозг, черт возьми, не умеет умножать.

Примитивные интуиции на уровне восприятия, благодаря которым выбор «ощущается правильным», не слишком умело справляются с вероятностными путями во времени, особенно когда вероятности выражены символически, а не пережиты на опыте в виде частоты. Поэтому вы размышляете, создаете более надежную логику и обдумываете все на словах.

Когда вы видите людей, утверждающих, будто никакие деньги мира не стоят даже одной человеческой жизни, а затем проезжающих лишнюю милю, чтобы сэкономить 10 долларов; или когда вы видите людей, заявляющих, что никакие деньги не стоят ухудшения здоровья, а затем выбирающих самую дешевую медицинскую страховку; вы не думаете, что их громкие заверения раскрывают глубокую истину о несоизмеримых полезностях.

Очевидно, отчасти дело в том, что примитивные интуиции не способны ослабить эмоциональное воздействие символов, обозначающих малые величины: любая вещь, о которой заходит речь, кажется «величиной, заслуживающей внимания».

А отчасти это связано с тем, что люди предпочитают безусловные социальные правила условным. Условные правила кажутся более слабыми, более уязвимыми для манипуляций. Если существует хоть какая-то лазейка, позволяющая правительству легально применять пытки, правительство проедет через эту лазейку на танке.

Поэтому кажется, будто должен существовать безусловный социальный запрет на предпочтение денег жизни, без всяких последующих «но». Даже без «но тысяча долларов не стоит вероятности в 0,0000000001% спасти жизнь». Хотя этот последний выбор, конечно, проявляется всякий раз, когда мы чихаем и не вызываем врача.

Риторика священного получает дополнительные очки за то, что кажется выражением безграничной преданности, безусловного отказа, который сигнализирует о надежности и бескомпромиссности. Поэтому вы делаете вывод, что моральная риторика отстаивает качественные различия, ведь предложение количественного компромисса звучало бы так, будто вы замышляете предательство.

В таких случаях люди изо всех сил стремятся выбросить любые количественные оценки за борт и сердятся, если вы пытаетесь вернуть их на место, потому что числа звучат как условия, которые ослабят правило.

Но вы не делаете вывод, что на самом деле существуют два уровня полезности с лексикографическим упорядочением. Вы не делаете вывод, что существует бесконечно крутой моральный градиент — некий атом, сдвигающийся на планковское расстояние (в нашей непрерывной физической вселенной) и устремляющий полезность от нуля в бесконечность. Вы не делаете вывод, что полезность должна выражаться в гипервещественных числах. Ведь нижний уровень просто исчез бы в любом уравнении. Ради него никогда не стоило бы прилагать ни малейших усилий для пересчета. Все решения определялись бы исключительно верхним уровнем, и все мысли были бы заняты только им, если бы верхний уровень действительно обладал лексикографическим приоритетом.

Как однажды заметил Питер Норвиг, если бы роботы Азимова имели строгий приоритет Первого закона робототехники («Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред»), то поведение ни одного робота никогда бы не демонстрировало признаков соблюдения двух других законов; всегда существовал бы какой-нибудь крошечный фактор Первого закона, которого было бы достаточно для того, чтобы определить решение.

Любая ценность, о которой вообще стоит думать, должна допускать размен на все остальные ценности, о которых стоит думать, поскольку само мышление — это ограниченный ресурс, который тоже приходится распределять. Выявляя ценность, вы выявляете полезность.

Я не утверждаю, что мораль всегда должна быть простой. Я уже говорил, что смысл музыки не сводится к одному лишь счастью или к простой активации центра удовольствия. Я бы предпочел, чтобы музыку сочиняли люди, а не лишенные сознания алгоритмы машинного обучения, чтобы хоть кто-то испытывал радость творчества; мне важен сам путь, а не только цель. И я готов выслушать вас, если вы скажете мне, что ценность музыки глубже и устроена сложнее, чем я думаю, — что оценка этого единичного события намного сложнее, чем мне известно.

Но это касается одного события. Когда же дело доходит до умножения на масштабы и вероятности, усложнений следует избегать — по крайней мере, если конечная цель для вас важнее, чем сам путь. Когда вы осмыслите достаточное количество интуитивных реакций и устраните достаточно нелепостей, вы начнете видеть общий знаменатель, работающий метапринцип, который можно сформулировать как «Заткнись и умножай».

В том, что касается музыки, мне важен сам путь.

Когда на кону стоят жизни, я затыкаюсь и умножаю.

Куда важнее, чтобы жизни были спасены, чем то, чтобы мы соблюдали какой-то особый ритуал при их спасении. И оптимальный путь к этой цели подчиняется законам, которые просты, потому что это математика.

И именно поэтому я утилитарист — по крайней мере тогда, когда делаю что-то, что несоизмеримо важнее моих собственных чувств на этот счет — то есть почти всегда, ведь утилитаристов мало, а несделанных дел еще очень много.

*

1. Пол Словик, «Онемевшие от цифр», Foreign Policy (март 2007), http://foreignpolicy.com/2007/03/13/numbed-by-numbers/.