К книге
Рациональность: от ИИ до зомби285. Ощущение собственной добродетели.
85%
285. Ощущение собственной добродетели.
302

Предположим, что людей убивает какая-то болезнь, чудовище, война или что-то еще. И предположим, что у вас есть ресурсы для реализации только одного из двух следующих вариантов:

Спасти 400 жизней, гарантированно.

Спасти 500 жизней с вероятностью 90%; не спасти никого с вероятностью 10%.

Большинство людей выбирают первый вариант. Что, на мой взгляд, глупо; ведь если умножить 500 жизней на 90% вероятности, мы получим математическое ожидание в 450 жизней, что превышает 400 жизней первого варианта. (Предельная полезность спасенных жизней не убывает, так что подобный расчет абсолютно корректен.)

«Что?! — возмущенно кричите вы. — Как можно играть в рулетку человеческими жизнями? Как можно думать о цифрах, когда на кону стоит так много? Что, если сработают эти 10% и погибнут все? Грош цена вашей проклятой логике! Ваша рациональность ведет вас прямиком в пропасть!»

О, но вот что интересно. Если представить эти варианты по-другому:

100 человек гарантированно погибают.

90% шанс, что не погибнет никто; 10% шанс, что погибнут 500 человек.

Тогда большинство выбирает второй вариант. Хотя это абсолютно та же ставка. Видите ли, точно так же, как определенность спасения 400 жизней ощущается гораздо более комфортной, чем негарантированный выигрыш, гарантированная потеря ощущается хуже, чем неопределенная.

Здесь тоже можно эффектно поработать на публику: «Как вы можете обрекать 100 человек на верную смерть, когда есть столь высокий шанс спасти всех? Мы разделим этот риск на всех! Даже если бы шанс спасти всех составлял всего 75%, это все равно стоило бы того — пока остается надежда — либо спасутся все, либо никто!»

Знаете что? Речь идет вовсе не о ваших чувствах. Человеческая жизнь со всеми ее радостями и горестями, накапливающимися на протяжении десятилетий, стоит неизмеримо больше, чем ощущения комфорта или дискомфорта, которые ваш мозг испытывает от того или иного плана. Расчет ожидаемой полезности кажется вам слишком хладнокровным? Что ж, это чувство не весит и пушинки на чаше весов, когда на кону человеческая жизнь. Просто заткнитесь и умножайте.

Гугол — это 10100, единица со ста нулями. Гуголплекс — еще более непостижимо огромное число: это 10гугол, то есть единица, за которой следует гугол нулей. Теперь возьмите какое-нибудь незначительное неудобство вроде икоты и явно значительное несчастье — например, когда садистские акулы-мутанты медленно разрывают человека на части. Если бы нам пришлось выбирать между предотвращением икоты у гуголплекса людей и предотвращением одного нападения акулы на человека, какой выбор нам следовало бы сделать? Если вы приписываете икоте хоть какое-то отрицательное значение, то, под страхом противоречивости в рамках теории решений, должно существовать некое количество случаев икоты, которые в сумме сравняются по отрицательной полезности с нападением акулы. Для любого конкретного конечного зла должно существовать какое-то количество случаев икоты, которое окажется еще хуже.

Подобные моральные дилеммы — это не концептуальные гладиаторские бои для развлечения аналитических философов на званых обедах. Это дистиллированные версии ситуаций, в которых мы действительно оказываемся каждый день. Потратить ли мне 50 долларов на консольную игру или отдать их на благотворительность? Организовать ли сбор средств в размере 700 000 долларов для оплаты одной трансплантации костного мозга или пустить эти же деньги на противомоскитные сетки и предотвратить смерть от малярии около 200 детей?

Тем не менее, многие отводят глаза от изобилия неприятных моральных компромиссов реального мира — и многие даже гордятся тем, что смотрят в сторону. Исследования показывают, что люди отличают «священные ценности» (такие как человеческие жизни) от «несвященных ценностей» (таких как деньги). Когда вы пытаетесь разменять священную ценность на несвященную, испытуемые выражают крайнее возмущение. (Иногда они даже хотят наказать человека, высказавшего такое предложение.)

Моя любимая история на эту тему связана с группой исследователей, которые оценивали эффективность одного проекта. Подсчитав стоимость одной спасенной жизни, они порекомендовали правительству реализовать проект, поскольку он был экономически эффективным. Правительственное ведомство отклонило отчет, сославшись на то, что человеческую жизнь нельзя оценивать в долларах. Отклонив отчет, ведомство решило не внедрять эту меру.

Размен священной ценности на несвященную ощущается по-настоящему ужасно. Просто перемножать полезности было бы слишком хладнокровно — это означало бы следовать за рациональностью прямо в пропасть...

Но альтруизм — это не то приятное теплое чувство, которое вы испытываете, совершая добрые дела. Если вы делаете это ради духовной выгоды, то это не что иное, как эгоизм. Главное — помогать другим, любыми средствами. Так что заткнитесь и умножайте!

И если вам кажется, что в этой максимизации есть какая-то беспощадность, подобная обнаженному мечу закона или палящему солнцу, если вам кажется, что в самом сердце этой рациональности горит маленькое холодное пламя —

Что ж, возможно, другой путь будет ощущаться приятнее. Но он не сработает.

И я скажу вам еще вот что: если вы отбросите сожаления о несбывшемся душевном удовлетворении, которое могли бы получить, если вы всем сердцем устремитесь по этому Пути, не чувствуя себя обманутыми, если вы отдадите себя рациональности без остатка, то обнаружите, что и рациональность ответит вам взаимностью.

Но эта часть работает лишь в том случае, если вы не будете твердить себе: «Мне было бы спокойнее на душе, будь я хоть немного менее рациональным». Стоит ли грустить оттого, что у вас есть реальная возможность помогать людям? Вы не сможете раскрыть свой потенциал полностью, если будете относиться к своему дару как к бремени.

*

Предыдущая главаГлава 302 из 354Следующая глава