Главная причина, по которой война нас все еще не покинула, – не тайное стремление к смерти, присущее человеческому виду, не неукротимый инстинкт агрессии, не (последний и более правдоподобный ответ) серьезные экономические и социальные опасности, связанные с разоружением, а тот простой факт, что никакой замены этому окончательному арбитру в международных делах на политической сцене до сих пор нет[252][253].

С появлением ядерного оружия в ходе Второй мировой войны страны стали спешно искать новое дипломатическое равновесие. Это был далеко не первый случай, когда наука нарушала баланс сил на международной арене. Любая новая военная технология производит впечатление определенной неизбежности, словно она скрыто существует в платоновском мире идей, терпеливо ожидая своего открытия – и повторного открытия. Задолго до того, как напалм заживо сжег своих первых жертв в 1943 г., византийцы изобрели зажигательное вещество, известное как греческий огонь. Впервые упомянутое в 672 г. н. э., оно помогало защищать Константинополь от чужеземцев на протяжении 700 лет, пока его рецепт не был утерян. Эта казавшаяся сверхъестественной технология не знала преград: греческий огонь не могла погасить даже вода. Примерно в то же время китайские и европейские инженеры независимо друг от друга усовершенствовали арбалет, который со временем начал пробивать доспехи. Средневековые рыцари подавали прошения, чтобы это смертоносное оружие было объявлено вне закона, и в 1139 г. папа Иннокентий II запретил его применение против христиан, хотя во время Крестовых походов европейцы все же использовали его против неверных.

Затем мир ужаснул порох. Даосские мудрецы создали эту смертоносную смесь случайно – по всей видимости, она стала побочным результатом их поисков эликсира жизни. К XI в. китайские военные уже применяли порох в некоем подобии огнемета, а потом и в пушках. Европейские и ближневосточные инженеры начали совершенствовать артиллерию и позднее ружья начиная примерно с XIII в. Но худшее было впереди: в XIX в. Альфред Нобель посвятил свои молодые годы отработке рецептуры для применения нитроглицерина – взрывчатого вещества, изначально использовавшегося в горнодобывающей промышленности и строительстве. Он был убежденным пацифистом, но продолжал разрабатывать взрывчатые смеси для вооружений, полагая, что прогресс в этой области остудит пыл разжигателей войны. Он считал, что применение таких технологий слишком чудовищно с моральной точки зрения, чтобы о подобном можно было помыслить. В 1891 г. он хвастливо писал своей подруге Берте фон Зутнер, знаменитой писательнице и активной пацифистке:

Возможно, мои фабрики положат конец войне быстрее, чем ваши конгрессы. В тот день, когда два армейских корпуса смогут уничтожить друг друга за одну секунду, все цивилизованные нации наверняка в ужасе отшатнутся и распустят свои войска[254].

Идея технологии, способной положить конец войнам, оставалась на удивление живучей фантазией. Английский писатель Уилки Коллинз размышлял об этом в 1870 г.: «Я теперь верю лишь в одно цивилизующее влияние – в открытие однажды разрушительного средства настолько ужасного, что война будет означать всеобщее уничтожение, в результате чего страх заставит людей сохранять мир»[255]. Военный теоретик Иван Блиох в 1898 г. утверждал, что передовые военные технологии сделали войну «в равной степени невозможной как с военной, так и с экономической и политической точек зрения»[256]. На заре авиации люди полагали, что самолеты можно будет использовать для воздушной разведки, но общественное сознание никогда не позволит сбрасывать с них взрывчатку на города. Однако через несколько десятилетий, как писал специалист по ядерной стратегии Льюис Штраусс, «общественное сознание необъяснимым образом онемело»[257]. Ужасы Первой мировой войны, казалось, сделали немыслимым еще один глобальный конфликт. И все же, когда Гитлер рвался к власти, журналисты с тревогой рассуждали о возвращении «старейшего и самого кровавого заблуждения в истории: "войны, призванной положить конец всем войнам"»[258].

Фон Нейман охотно предоставил свой интеллект в распоряжение союзников по антигитлеровской коалиции. В 1943 г. он сотрудничал с британскими военными, применяя методы минимакса для того, чтобы определить, где лучше всего искать немецкие подводные мины. Увидев во время своего визита, как работает электромеханический табулятор, фон Нейман признался, что у него развился «непристойный интерес к вычислительным технологиям»[259]. Впоследствии он совершил несколько крупных прорывов в информатике, и господствующая в наше время компьютерная архитектура основана на его разработках. Область исследования операций, возникшая примерно в то же время, базировалась на минимаксе и других методах компьютерной оптимизации. Ученые обещали, что она позволит улучшить работу сложных систем, что еще больше подчеркивало практическую ценность теории игр. Однако у общественности новые компьютерные технологии вызывали беспокойство. Циркулировали слухи, что почти каждый второй из ученых, работавших над этими механическими мозгами, сходил с ума: их разум прилежно производил умопомрачительные арифметические вычисления, словно не в силах вырваться из порочного круга.

В том же году фон Неймана пригласили присоединиться к Манхэттенскому проекту в Лос-Аламосе для изучения физики детонации. По данным разведки, немецкие ученые уже работали над атомной бомбой; Америка была обязана создать ее первой. Фон Нейман применил свои новые навыки в вычислительных методах для моделирования динамики разворачивающихся внутри бомбы процессов. Военные доверяли ему и важные политические решения. Он был членом комиссии, которая рекомендовала цели для бомбардировок, сопоставляя военную ценность городов с психологическим эффектом от их разрушения. Фон Нейманом двигало желание сберечь политические системы, гарантировавшие интеллектуальную свободу, которую он считал важнейшим фактором в деле улучшения положения человечества. «Я убеждена, – писала его дочь Марина, – что все его контакты с властями предержащими были на самом деле обусловлены осознанием хрупкости этой свободы»[260]. В 1944 г. немецкие войска оккупировали Венгрию. Рудольф Ортвай, старинный друг и верный корреспондент фон Неймана, покончил с собой в Будапеште год спустя.

Атомные бомбардировки Хиросимы и Нагасаки стали финалом Второй мировой войны и поставили планету перед угрозой ужасного нового мира. Американцы разработали способную вызвать апокалипсис технологию, к которой еще не успели приспособиться дипломатия, этика и политическая стратегия. Ракеты, самолеты и ядерное оружие сделали войну куда более динамичной. Решения, которые прежде можно было обдумывать месяцами, например оптимальная скорость продвижения наземных войск, теперь приходилось принимать в течение нескольких дней, а то и часов. Фон Нейман писал: «Теперь будет недостаточно знать, что у врага есть всего пятьдесят возможных уловок и мы понимаем, что противопоставить каждой из них; мы должны быть способны сделать это в тот самый миг, когда враг к ним прибегнет»[261]. Мыслители сломя голову бросились изобретать совершенно новую науку, порожденную экзистенциальной необходимостью, – своего рода математический анализ войны. Решения предстояло принимать с молниеносной быстротой и сверхчеловеческой точностью, без оглядки на человеческие предубеждения или моральные принципы. Многие военные стратеги в итоге решили использовать в качестве когнитивного протеза теорию игр – «науку о конфликте».

В детстве фон Нейман играл в кригшпиль, и теория игр во многом стала его реакцией на эту немецкую технологию. Кригшпиль позволял взглянуть на поле боя с высоты птичьего полета, а теория игр давала такой же обзор конфликта как такового. Теория игр, обещал фон Нейман, внесет ясность в процесс принятия рациональных решений, которые уже нельзя было доверить людям. Оборонительный рефлекс будет заменен расчетом. Война, утверждал специалист по теории игр Анатоль Рапопорт, будет вознесена до уровня игр, «где у интеллекта имеется шанс развернуться»[262].

Администрация президента Трумэна считала атомную бомбу орудием устрашения, крайним средством, отличным от обычных вооружений. Однако многие его военные советники, включая фон Неймана, отстаивали мнение, что ее следует применять без особых церемоний. Фон Нейман описывал сам себя как необычайно жесткого «ястреба» и «ярого антикоммуниста»[263]. Он выступал за популярную тогда идею «превентивной войны», стремясь ослабить Советский Союз путем нанесения ядерного удара до того, как тот сможет разработать аналогичное оружие. «От прогресса, – писал фон Нейман, – лекарства нет»[264]. Такой подход был отчасти продиктован стратегической логикой теории игр. Если одна страна разработала некое оружие, у всех остальных появляется стимул создать такое же. «В случае с русскими вопрос не в том, сделают ли они это, а в том, когда они это сделают», – утверждал фон Нейман[265]. «Если вы скажете: "Почему не разбомбить их завтра?", я отвечу: "А почему не сегодня?". Если вы скажете: "Сегодня в пять часов пополудни", я отвечу: "А почему не в час дня?"». Но он также объяснял свое отношение сожалениями, которые преследовали многих европейцев. В 1935 г. Гитлер объявил, что Германия нарушит Версальский договор и перевооружится. Многие считали, что, если бы европейские державы не проводили политику умиротворения фюрера, а вместо этого нанесли бы превентивный удар по пока еще слабой стране, холокоста и Второй мировой войны можно было бы полностью избежать. Не исключено, что то же самое будет верно и в отношении потенциальных конфликтов с Советским Союзом.

Фон Нейману не удалось убедить американских военных чиновников нанести превентивный удар по СССР до того, как стало слишком поздно. Отчасти благодаря тайным усилиям его коллеги по Лос-Аламосу физика Клауса Фукса у СССР вскоре появилась успешная ядерная программа. 29 августа 1949 г. СССР испытал в Казахстане свою первую атомную бомбу и начал быстро наращивать ядерный арсенал. Архитекторам нового мирового порядка теперь нужна была надежная точка равновесия, поскольку о разоружении уже не могло быть и речи. Самая известная стратегия, выросшая из теории игр, позже получила название «гарантированное взаимное уничтожение» (Mutually Assured Destruction – сокращенно MAD, что не случайно значит по-английски «безумный»). Согласно этой доктрине, применение атомного оружия против другой ядерной державы должно вызвать столь сокрушительный ответный удар, что он означал бы полное уничтожение как нападающей, так и обороняющейся стороны. Такой подход – все или ничего – должен был стабилизировать международные отношения и сдерживать агрессию. MAD – это равновесие Нэша: участники, застрявшие в состоянии взаимного сдерживания, не могут предпочесть никакой иной стратегии. Если бы они инициировали конфликт, то гарантировали бы собственное уничтожение. Если бы они разоружились, то оказались бы уязвимы для уничтожения противником.

Стратегия MAD не была формализована как часть военной доктрины до 1960-х гг., хотя и становилась все более осуществимой на практике. После того как СССР в 1953 г. провел успешное испытание ракеты дальнего радиуса действия, фон Нейман возглавил комитет ВВС США, доклад которого подчеркнул важность разработки ракет, способных наносить ядерные удары в любой точке мира, – технологии, в создании которой, как предупреждал комитет, США предстояло догонять Советский Союз. США также активизировали свои усилия по разработке водородной бомбы, обладавшей еще большей разрушительной силой, чем атомная. Граждане по всему миру, от имени которых звучали угрозы войны, были в ужасе от того, что оказались в заложниках у собственных вооруженных сил и были втянуты в политические игры, на участие в которых они никогда не давали согласия. Ученые и представители власти получали от простых людей панические письма, в которых те выражали опасения, что такие бомбы пробьют дыру в морском дне, подожгут атмосферу, приведут к образованию новых горных хребтов, вызовут цунами или уничтожат гравитацию. Историк Соня Амади отмечает, что основанные на теории игр модели войны порывали с классическим либеральным принципом взаимного уважения интересов (согласно которому стороны оберегают свои права, уважая права друг друга) в пользу чистой заботы о собственной выгоде[266].

После нескольких месяцев болей в плече в 1955 г. у фон Неймана диагностировали рак. Вскоре он оказался прикован к инвалидному креслу, а затем и к постели. Он с головой ушел в свою последнюю работу: неоконченную рукопись, проводящую аналогии между компьютерами и человеческим мозгом, в которой он доказывал, что интеллект имеет статистическую природу.

Последний год жизни фон Нейман провел в военном госпитале имени Уолтера Рида в Вашингтоне, терзаемый болями и одержимый судьбой своего интеллектуального наследия. Он внес значительный вклад в создание современного компьютера, первых образцов искусственного интеллекта, атомной бомбы и методов прогнозирования погоды. Он предсказал глобальное потепление и изменение климата, аксиоматизировал квантовую механику и теоретически обосновал существование автоматов, способных к самовоспроизводству и эволюции. Его работы изменили сам ход истории. Однако, по словам его коллеги математика Рауля Ботта, фон Нейман признавался, что «никогда по-настоящему не ощущал, что оправдал возлагавшиеся на него ожидания»[267].

Это чувство неполноценности преследовало его до последних дней. Он стал одержим бессмертием – не только своих интеллектуальных достижений, но и своей души. В последний год жизни он обратился в католицизм, к удивлению всех, кто его знал (по словам одного из коллег, «он никогда не ограничивал себя этическими соображениями»)[268]. Марина, единственная дочь фон Неймана, часто навещала его в больнице. Она предположила, что, обратившись к религии, он следовал логике пари Паскаля и подстраховывался на случай, если загробная жизнь все-таки существует[269]. Он регулярно беседовал с богословом и бенедиктинским монахом Ансельмом Штриттматтером и применял свой детский талант к древним языкам для чтения покаянных псалмов на языке оригинала – латыни.

Религия не принесла фон Нейману особого утешения. В его некрологе в журнале Life сообщалось, что «его тело, которому он никогда не придавал особого значения, продолжало служить ему гораздо дольше, чем разум»[270]. Будучи обездвиженным, он вынужден был наблюдать распад своего интеллекта сквозь туман обезболивающих средств и болезни. Надеясь отследить угасание своих умственных способностей, он просил Марину задавать ему примеры на элементарное сложение. В детстве он поражал взрослых, умножая в уме восьмизначные числа. Теперь же он с трудом удерживал в памяти простые суммы. Его коллега Эдвард Теллер рассказывал, что «страдания фон Неймана от того, что его разум отказывал, были страшнее, чем любые виденные мною страдания других людей»[271]. Психика больного не выдержала. Погрузившись в экзистенциальную панику, он каждую ночь кричал в безнадежном ужасе. Американские военные выставили у его больничной палаты круглосуточную охрану, чтобы гарантировать, что в бреду он не выдаст ядерные секреты. Пережитое им было настолько невыносимо, что его жена и брат включили в свои завещания пункт, запрещавший использование медицинских средств для продления их жизни. Фон Нейман умер в 1957 г. в возрасте 53 лет. Шесть лет спустя Клара Дан утопилась в Тихом океане.

На похоронах фон Неймана Штриттматтер подчеркивал, что покойный никогда не выражал сожалений по поводу своего участия в создании атомной бомбы. Руководитель Манхэттенского проекта Роберт Оппенгеймер, как известно, сокрушался из-за своей роли, цитируя «Бхагавадгиту»: «Я стал Смертью, уничтожителем миров». Фон Нейман парировал, что «некоторые люди признают вину, чтобы присвоить себе заслугу за грех»[272]. Однако, по словам монаха, фон Нейман постепенно приходил к пониманию того, что научное прозрение не отменяет необходимости в человеческих ценностях:

Он со все возрастающей остротой осознавал моральные трудности, связанные с величайшими научными достижениями современности. Это осознание, что человек движется по дороге, которая вполне может завести его к могуществу вне любого контроля, стало началом проникновения в иную сферу, в мир ценностей, который нельзя игнорировать, ибо он столь же реален и огромен, даже более огромен, чем необъятный мир атома, который он помогал исследовать. Тут имелись новые обязанности, требовавшие его внимания. Фон Нейман не мог не замечать многообразных последствий этой проблемы[273].

Тем не менее гражданские и военные эксперты продолжали использовать теорию игр как стандартную основу для моделирования конфликтов, надеясь, что она поможет им сориентироваться в сложном лабиринте международных отношений в эпоху ядерной дипломатии. Людей не оставляла мечта о том, что мы можем перейти от ведения войн к их расчету. В своей книге 1960 г. «Стратегия конфликта» политолог и консультант RAND Томас Шеллинг попытался применить дилемму заключенного для моделирования ядерного противостояния между США и СССР[274][275]. Как можно заставить сотрудничать игроков, попавших в такую ситуацию? Шеллинг утверждал, что для этого требуются абсолютно прочные взаимные обязательства, подкрепленные наказанием в случае предательства любой из сторон. Угроза гарантированного взаимного уничтожения, утверждал он, выполняет эту задачу. Если одна держава предаст, другая обещает мгновенно ее наказать. Необходимости в реальном конфликте нет; вместо этого «безжалостная дипломатия» запугивания стабилизирует отношения посредством своего рода непрерывного торга[276]. Вопреки интуитивным представлениям, агрессивное позерство может гарантировать мир. Возможно, как и надеялся Ласкер, теория игр сделает военные столкновения излишними, заменив кинетическую войну простой угрозой применения ядерной силы. В 2005 г. Шеллинг был удостоен Нобелевской премии по экономике за свои работы по моделированию конфликта как формы торга.

Не все разделяли оценку Шеллинга. В 1960 г. его коллега по RAND Герман Кан опубликовал многословный трактат «О термоядерной войне» (On Thermonuclear War), подробно описывающий, как бомба изменила природу конфликта. Он намеренно вызывал у своих читателей ужас. Стратегия MAD, рассуждал Кан, исключительно уязвима для несанкционированных действий персонала, несчастных случаев и саботажа. Его книга вдохновила режиссера Стэнли Кубрика на фильм «Доктор Стрейнджлав» (Dr. Strangelove, 1964): заглавный герой, связанный с некоей корпорацией BLAND («Пустышка»), представляет собой сатирическую комбинацию сразу нескольких стратегов, включая фон Неймана и Кана. В фильме американские военные узнают, что Советский Союз создал ядерную «Машину Судного дня». Ее детонация будет автоматически произведена в ответ на любую ядерную атаку, что приведет к такому высокому уровню радиации, что Земля станет непригодной для жизни. К несчастью, вышедший из-под контроля американский генерал атаковал СССР еще до того, как было объявлено об этом механизме сдерживания, тем самым уничтожая мир. Фильм демонстрирует уязвимость MAD и – что более фатально для одержимых рациональностью военных стратегов – изъян в ее последовательной логике. Кан объяснял это так:

Допустим, президенту Соединенных Штатов только что сообщили, что на Нью-Йорк сброшена многомегатонная бомба[277]. Как вы думаете, что он сделает?

Когда этот вопрос впервые задавался в середине 1950-х гг., обычным ответом было: «Нажмет все кнопки запуска ядерных боеприпасов и пойдет домой».

Диалог между мной и аудиторией продолжался примерно таким образом:

Кан. Что произойдет дальше?

Аудитория. Советы сделают то же самое!

Кан. И что случится потом?

Аудитория. Ничего. Обе стороны будут уничтожены.

Кан. А зачем тогда американский президент это сделал?

Приводить в действие угрозу массированного возмездия нерационально. Разве гибель всего мира – разумное наказание? Но MAD требует от обеих сторон убедительной и полной приверженности идее взаимного уничтожения. Враг должен быть уверен, что его противник сможет контратаковать и непременно доведет дело до конца. Только аморальный агент способен осуществить такое возмездие. Чтобы поддерживать эту угрозу, каждой стороне потребовалось бы, чтобы ее арсенал контролировался либо неумолимой компьютерной программой, либо «безумцем».

Осознав это, и русские, и американцы начали разработку автоматизированных систем, которые, подобно «Машине Судного дня» у Кубрика, могли бы автоматически и необратимо нанести ответный удар в случае провокации. Эта идея часто встречалась в популярной культуре. Классический научно-фантастический фильм 1951 г. «День, когда Земля остановилась» (The Day the Earth Stood Still) описывал инопланетную коалицию, которая предоставила абсолютную власть своей роботизированной полиции, полностью искоренившей любой намек на агрессию. Технологии того времени были далеки от возможности автоматического принятия решений, но политики посчитали эту фантазию за реальность. Шеллинг вспоминал, как советский лидер Никита Хрущев угрожал американскому дипломату: «Ваши генералы говорят об удержании позиций в Берлине силой. Это блеф. Если вы пошлете танки… наши ракеты полетят автоматически»[278]. Это должно было подчеркнуть убедительность угрозы. СССР не смог бы остановить свои ракеты, даже если бы захотел.

К счастью, такая система так и не была создана. Во время холодной войны мы несколько раз избежали реальной ядерной катастрофы благодаря человеческому, а не машинному разуму. В 1962 г. Хрущев тайно разместил ядерные ракеты на Кубе, чтобы удержать США от вторжения в эту небольшую страну. Его целью было не вызвать войну, а поддерживать, по его выражению, «равновесие страха»[279], чтобы ее предотвратить. Однако, когда американские военные обнаружили этот факт, возникшая политическая нестабильность едва не привела к ядерному столкновению. Благодаря трезвой дипломатии – а вовсе не теории игр – обе державы в конце концов отступили и согласились демонтировать часть нацеленных друг на друга ядерных вооружений. В 1983 г. советский офицер Станислав Петров чудом не допустил полномасштабной ядерной атаки, правильно интерпретировав предупреждение о приближающихся ракетах как ложную тревогу. Процедура предписывала ему сообщить начальству об атаке, чтобы оно могло запустить протоколы ответного удара. Он не сделал этого, рассудив, что предупреждение скорее всего было технической ошибкой, а не свидетельством реального нападения. История доказала правоту Петрова – срабатывание системы было вызвано отражением солнечного света от очень высоких облаков. Оглядываясь назад, ясно, какой ужасной ошибкой было бы переложить подобную ответственность на автоматику. Героический поступок Петрова придает вес критике MAD со стороны Кана. Любое должностное лицо в здравом уме откажется выполнять приказ об уничтожении мира и по праву будет считаться спасителем человечества.

Американские стратеги считали, что в отсутствие автоматизированных систем наши руководители могли бы просто отказаться от здравомыслия. Государство сделало бы угрозу возмездия убедительной, поручив ядерную кнопку аморальному лидеру. Вопреки интуитивной логике, стратегия, разработанная в русле чистой рациональности, требовала иррациональности, чтобы сохранить свою убедительность. Шеллинг уподоблял такую дипломатию игре «Слабо́?»[280]. Ключом к победе в этой игре является демонстрация полного отсутствия моральных ограничений. Однажды утраченную репутацию уже не восстановить. Шеллинг описывал балансирование на грани войны как тактику, которая «состоит в том, чтобы намеренно позволить ситуации некоторым образом выйти из-под контроля только потому, что это может быть невыносимо для другой стороны, и тем самым заставить другую сторону пойти на компромисс»[281][282]. Представьте, например, что двух заключенных сковали цепью за лодыжки и поставили на краю обрыва, велев сражаться за свободу. Освобожден может быть только один. Угроза одного из заключенных столкнуть другого не была бы убедительной, так как это привело бы к падению обоих. Вместо этого кто-то из них мог бы использовать непредсказуемость: танцевать на краю, подбираясь все ближе и ближе к пропасти, пока прикованный к нему партнер не капитулирует. Иррациональное на вид бравирование в этом случае рационально. Примерно так же война Америки во Вьетнаме была призвана продемонстрировать убедительность американской угрозы на фоне нарастающей популярности коммунизма. Соответственно, президент Ричард Никсон намеренно культивировал репутацию человека, готового без раздумий нажать на курок. «Я называю это теорией безумца, – объяснял он. – Я хочу, чтобы северные вьетнамцы поверили, что я дошел до того состояния, когда ради прекращения войны я готов пойти на все что угодно»[283].

Никсон и его советники возродили древнюю стратегию, которую тысячелетиями использовали монархи от вождя Великое Солнце из обитавшего на юго-востоке США племени натчезов до «короля-солнца» Людовика XIV, абсолютного властителя Франции. Совершая некое злодеяние, такие лидеры давали понять, что не связаны традиционной моралью, хотя и присваивали себе право устанавливать моральный порядок в своих владениях. Набожный Джимми Картер, занявший президентский кабинет через несколько лет после отставки Никсона, не обладал зловещей убедительностью своего предшественника. Было ясно, что его христианская вера помешает любому акту возмездия. Поэтому администрация Картера перешла от доктрины MAD к доктрине NUTS[284] (Nuclear Utilization Target Selection – «Отбор целей для применения ядерного оружия»).

Доктрина NUTS, которую поддерживал Кан, основана на идее, что применение ядерных сил не обязательно должно закончиться апокалипсисом. Государства могут, в теории, использовать атомное оружие для эскалации так же, как и обычное. Именно такую стратегию ограниченной ядерной войны, как давал понять президент Путин, Россия могла бы задействовать на Украине. В сценарии NUTS официальные лица, применяющие тактическое ядерное оружие, назначают целями военные базы и инфраструктуру, прежде чем переходить к бомбардировке городов или вызывать жертвы среди гражданского населения. Но министру обороны в кабинете Картера Гарольду Брауну было сразу ясно, что любое применение ядерного оружия «весьма вероятно» перерастет во всеобщую ядерную войну. Военные советники Сперджен Кини – младший и Вольфганг Панофски пришли к выводу, что «беспрецедентные риски ядерного конфликта в значительной степени не зависят от доктрины или особенностей ее применения»[285]. Неважно, придерживались ли США официально MAD или NUTS, любое применение ядерных сил привело бы к полному уничтожению всего мира.

Как обсуждалось в предыдущей главе, игроки ведут себя по-разному в зависимости от того, в какую игру, по их мнению, они играют. Поскольку специалисты по военной стратегии утверждали, что международная дипломатия напоминает дилемму заключенного, они выступали за все более конфронтационные подходы к ведению переговоров. Хуже того, игроки должны были намеренно действовать иррационально или уступать контроль безжалостной автоматике, чтобы более убедительно гарантировать всеобщую гибель. Лишь немногие высокопоставленные советники в полной мере осознавали всю рискованность дипломатии с помощью ядерного оружия. Потомок ирокезов Герберт Йорк был физиком-ядерщиком, первым президентом Ливерморской национальной лаборатории имени Лоуренса и ключевой фигурой в разработке ядерной программы США. Он предостерегал американское правительство от попыток искать технологические решения для социально-политических проблем, утверждая: «Не существует такой вещи, как хорошая система ядерных вооружений. С помощью ядерного оружия невозможно достичь национальной безопасности в сколько-нибудь здравом понимании»[286]. Неуемный технологический энтузиазм лишь ставил под угрозу глобальную безопасность, втягивая обе стороны в гонку за наращивание военной мощи. В итоге мы все оказались в меньшей безопасности. Йорк переживал, что апокалипсис начнется либо из-за компьютерной программы, либо из-за «загодя запрограммированного президента, который, знает он об этом или нет, будет выполнять указания, составленные много лет назад каким-нибудь специалистом по исследованию операций»[287].

Опасения Йорка разделяли и другие. Когда президент Дуайт Эйзенхауэр покидал свой пост в 1961 г., он предупредил общественность о разрастании военно-промышленного комплекса, предсказав, что «сама государственная политика может оказаться в плену у научно-технической элиты»[288]. Однако он не сомневался, что военно-промышленный комплекс и технологическая элита в конечном счете необходимы. Его преемник, президент Джон Кеннеди, принял технологический подход к войне, назначив своим министром обороны консультанта по вопросам управления и выходца из RAND Роберта Макнамару. Во время Второй мировой Макнамара служил в Управлении статистического контроля, анализируя эффективность бомбардировок. После войны он и его коллеги по этому учреждению занялись консалтингом. Они поставили свои аналитические способности на службу корпорации Ford, используя принципы оптимизации, чтобы помочь переживавшему не лучшие времена автопроизводителю. Пройдя все ступени карьерной лестницы и в конечном итоге заняв пост генерального директора Ford, Макнамара принял предложение Кеннеди, хотя и не скрывал опасений по поводу того, что у него недостаточно военного опыта. Кеннеди успокоил Макнамару: «Мы можем вместе учиться выполнять свои обязанности. Я тоже не знаю, как быть президентом»[289].

Макнамара применил благую весть технологической оптимизации во время вьетнамской войны, задействовав в ходе этой катастрофической кампании принципы рационального управления. Его команда гражданских консультантов свела военные стратегии к их количественному каркасу: какие типы вооружений, куда и сколько? Решения принимались в соответствии с прогнозируемыми показателями эффективности и бюджетными соображениями: число убитых и раненых, доля поврежденной инфраструктуры. Макнамара заметным образом пренебрегал советами военных экспертов, предпочитая им синтетическую рациональность своих аналитиков. Политтехнолог из RAND Бернард Броди вспоминал, что Макнамара был «явно влюблен» в свой метод системного анализа: «Он упивался бесчисленными разноцветными графиками и называл "поэтами" тех, кто пытался привнести в дело немного политического чутья»[290]. Однако эта внешне научная методика привела к значительному увеличению численности задействованных во Вьетнаме американских войск без ясных критериев победы. Инструменты, которые Макнамара использовал для спасения Ford, оказались малоэффективными в военном деле.

Своим заместителем Макнамара назначил главу экономического отдела RAND Чарльза Хитча. Тот был лучше знаком с эмпирическими недостатками теории игр, что сильно снижало его уверенность в разумности восприятия людей как рациональных агентов. Поэтому он осторожнее относился к безудержному использованию хитроумной аналитики. Работая в RAND, он уже пришел к выводу, что теория игр «разочаровывает» при применении в военном деле[291]. Он выступал за более целостный анализ:

Будущее неопределенно[292]. Природа непредсказуема, а враги и союзники – тем более. У аналитика нет надежной универсальной методики для выявления предпочтительной стратегии – тут не подойдет ни максимизация ожидаемого чего-нибудь, ни максимин, ни теория игр. Как он может определить оптимальный курс, чтобы рекомендовать его руководителю? Простой ответ: вероятно, никак.

Эффективная в теории военная стратегия не смогла справиться во Вьетнаме с партизанской тактикой – отчасти потому, что американцы оптимизировали показатели, неприменимые в развивающейся стране. Американские бомбы не могли разрушить военную или промышленную инфраструктуру, потому что во Вьетнаме почти не было ни той ни другой. Руководители США предались смертному греху проецирования: они предположили, что функция полезности их противника совпадает с их собственной. К 1965 г. Макнамаре стало ясно, что его оптимистичные компьютерные прогнозы полностью расходятся с реальной обстановкой. Немцы в своих военных кампаниях делали точные предсказания с помощью кригшпиля, но американские игровые симуляции оказались бесполезными, потому что в них были прописаны совершенно неверные правила. Вьетнамские партизаны меняли саму природу войны. Оглядываясь назад в своем письме в журнал Foreign Policy, Броди признал, что он и его коллеги-аналитики «потерпели за последнее десятилетие полное фиаско в попытках предсказать характер и исход вьетнамской войны… Это важный и тревожный вывод»[293].

Макнамара выглядел так, будто находился на грани срыва. Президент Линдон Джонсон – преемник Кеннеди – обвинил его в том, что он «совсем расклеился». Макнамара покинул – или был вынужден покинуть – пост министра обороны в 1968 г. В свой последний день в должности он со слезами на глазах умолял Джонсона прекратить отправку войск во Вьетнам: «И что потом? Эта чертова кампания бомбардировок, она ничего не дала, абсолютно ничего, они сбросили больше бомб, чем по всей Европе за всю Вторую мировую войну, и это ни хрена не дало»[294]. Ничего не изменилось. В 1969 г., желая поддержать растущее антивоенное движение, специалист по теории игр из корпорации RAND Даниэль Эллсберг опубликовал семь тысяч страниц секретных документов, которые он получил благодаря своему допуску к военной тайне. Эти так называемые «документы Пентагона» разоблачили программу лжи, проводившуюся несколькими президентами и их военным окружением, а также череду военных преступлений, совершенных против гражданского населения по всей Юго-Восточной Азии. Большинство американских граждан уже не одобряли войну. Один армейский чиновник отмечал, что в стране «широко распространилась уверенность, что "истеблишмент" не в своем уме»[295]. Тем не менее вьетнамская война продолжалась еще шесть лет. Американское военное руководство считало ее ключевым фактором для поддержания убедительности угрозы сдерживания в отношении СССР.

Понятно, что американская общественность не питала теплых чувств к теории игр. Многие видели в ней инструмент для оправдания ядерной войны, «объективная» рациональность которого обосновывалась сомнительным аналитическим центром, финансируемым производителем вооружений в стремлении поддержать спрос на свою продукцию после окончания Второй мировой. Логика стратегической рациональности завела государства в тупик: их подталкивали к отказу от традиционной этики, чтобы сделать их угрозы заслуживающими большего доверия. Оппенгеймер не стеснялся в критике. «Что прикажете думать о цивилизации, – вопрошал он, – которая всегда считала этику неотъемлемой частью человеческой жизни и… которая разучилась говорить о перспективе убийства почти всех людей иначе, как в терминах должной осмотрительности и теории игр?»[296]

Угроза ядерного апокалипсиса сохраняется и по сей день. Кубрик был прав в «Докторе Стрейнджлаве»: один-единственный вышедший из-под контроля чиновник с доступом к ядерному оружию может уничтожить весь мир. В 2020 г. Россия внесла поправки в свою Конституцию, предоставив президенту Владимиру Путину основной контроль над своим ядерным арсеналом[297]. Такая же власть была всегда доступна американским президентам, обладающим правом единолично инициировать ядерную атаку общемирового масштаба. В 1974 г. Никсон хвастался репортерам: «Я могу зайти в свой кабинет, взять телефонную трубку, и через двадцать пять минут семьдесят миллионов человек будут мертвы»[298]. И граждане, и политики многократно требовали покончить с этой опасной привилегией. Учитывая легкость, с которой один человек может принять апокалиптическое решение из-за мгновенного помутнения рассудка, кажется разумным предоставить хотя бы единственному другому должностному лицу право наложить вето на распоряжение президента США. Личные слабости разных президентов усугубляли эту опасность. Кеннеди, например, был зависим от обезболивающих; Никсон – от алкоголя. Трамп публиковал в своем твиттере противоречащие одно другому высказывания о ядерном ударе по Северной Корее. Любой американский президент мог бы, в теории, спровоцировать конец света с похмелья или из личной обиды.

Пока теория игр разжигала во время холодной войны международную напряженность, игры совсем другого рода помогли ее ослабить. В начале 1980-х гг., после относительного затишья 1970-х., страх перед ядерной войной нарастал. По приглашению министра обороны США Шеллинг организовал широкомасштабные игровые командные учения, известные как Proud Prophet («Гордый пророк»). В течение нескольких недель двести высокопоставленных военных и политиков прорабатывали различные сценарии ограниченной и неограниченной ядерной войны в Азии, Европе и на Ближнем Востоке. Каждый раунд неумолимо заканчивался мрачным исходом. Наименее смертоносный из них подразумевал 500 млн гипотетических смертей, и это было еще не все, учитывая, что радиоактивные осадки сделали бы северное полушарие непригодным для жизни. Эскалационная, «ограниченная» ядерная война – та самая тактика, которую военные стратеги и теперь обсуждают в связи с конфликтом на Украине, – неумолимо ведет к взаимному уничтожению, стирая всю жизнь с лица планеты. Все участники Proud Prophet были глубоко подавлены и встревожены. Стало ясно, насколько неадекватны существующие стратегии Америки и насколько неподготовленны ее лидеры.

Мрачные итоги Proud Prophet наложились на впечатление президента Рейгана от недавно вышедшего фильма «Военные игры» (WarGames), который он посмотрел в своей резиденции в Кэмп-Дэвиде. Мэттью Бродерик играет там Дэвида Лайтмана, поднаторевшего в компьютерах подростка, который, думая, что взломал сервер игровой компании, случайно проникает в армейскую систему моделирования ядерной войны WOPR (War Operation Plan Response – «План реагирования на боевые действия») и едва не развязывает ядерную войну. Система постоянно прорабатывает возможные сценарии столкновения сверхдержав, чтобы «учиться на ошибках, которые мы не можем себе позволить»[299]. Считая, что это видеоигра, Лайтман, сам того не зная, предлагает WOPR начать Третью мировую. WOPR послушно планирует и осуществляет удар по СССР. После начала атаки Лайтман обнаруживает, что не в состоянии помешать компьютеру ее осуществить. Вместо этого он предлагает WOPR сыграть в крестики-нолики. Череда ничьих заставляет WOPR осознать, что иногда «единственная выигрышная стратегия – это не играть», и в последний момент машина деактивирует ракеты. «Военные игры» напугали Рейгана. Президент распорядился пересмотреть меры национальной безопасности и инициировал принятие антихакерского законодательства, которое в той или иной форме действует и сегодня. В свете итогов Proud Prophet администрация Рейгана сменила ядерную риторику Америки, сосредоточившись на обороне и деэскалации, а также сделала своим приоритетом переговоры о предотвращении дальнейшего распространения ядерного оружия. Вместе Proud Prophet и «Военные игры» стали на удивление эффективным фактором сдерживания военной эскалации. Риск дипломатии с помощью ядерного оружия несколько снизился.

Широкая общественность по-прежнему относилась к теории игр с недоверием. Кан – стратегический аналитик, разработавший концепцию ограниченного применения ядерного оружия NUTS, – жаловался на критику, которой подвергались его книги. Эта критика, по его утверждению, не касалась существа его доводов. Вместо этого она сосредоточивалась на том, не аморально ли писать или даже думать о стратегии термоядерной войны. Критикам, сплотившимся против «ледяной рациональности» теории игр, он отвечал так:

Вы предпочли бы теплый человеческий фактор? Вам лучше от милой эмоциональной ошибки? Бессмысленно ожидать плодотворного обсуждения проблем безопасности, если мы будем называть каждую попытку быть отстраненным черствой, а каждую попытку быть объективным – аморальной[300].

Однако, защищая объективность теории игр, Кан упускал из виду, что она тавтологична. Факты – это не то же самое, что математические трюизмы. Теория игр не может сделать наши решения безупречными или застраховать от неверного выбора. Она не избавляет мир от необходимости человеческих ценностей. Даже святой покровитель капитализма Адам Смит не выступал за безудержный эгоизм. Он утверждал, что забота о собственных интересах может приносить выгоду обществу, но при этом принимал мораль за данность. Покупатели все равно могут доверять эгоистичным торговцам, потому что любой из них обычно хочет сохранить свою репутацию человека честного и высоконравственного. Смит писал:

Какую бы степень эгоизма мы ни предположили в человеке, природе его, очевидно, свойственно участие к тому, что случается с другими, участие, вследствие которого счастье их необходимо для него, даже если бы оно состояло только в удовольствии быть его свидетелем[301][302].

В своей книге «Экономические басни» (Economic Fables) математик Ариэль Рубинштейн уподобляет теорию игр – абстрактное математическое представление сложных ситуаций – басням с чрезмерно упрощенной моралью. Нам следует быть осторожными и не принимать их за реальность. Теорию игр следует изучать ради ее математической красоты, но она не может претендовать на то, чтобы рассказывать нам о реальном мире. Рубинштейн утверждает, что даже многие ученые не до конца ее понимают и часто не способны донести до собеседника ее ограничения. Это не было бы проблемой, если бы теория игр оставалась чисто академическим занятием. Но теперь ее используют в современных системах, влияющих на жизнь миллиардов людей по всему миру. Рубинштейн пишет:

Думаю, для людей очень соблазнительна идея взять нечто простое и применить его к очень сложным ситуациям, таким как экономический кризис или ядерное сдерживание[303]. Но это иллюзия. Надо сказать, мои взгляды куда радикальнее, чем у многих моих коллег. Я считаю, что теория игр – очень интересная область. Я посвятил много времени размышлениям о ней, но не доверяю утверждениям, что она имеет прямые применения… За всю свою жизнь я не видел ни единого случая, когда специалист по теории игр смог бы дать основанный на ней совет, который был бы полезнее совета непрофессионала.

Теория игр была в некотором роде предшественницей искусственного интеллекта; это два примера синтетической рациональности, которая обещала дополнить, а то и полностью подменить процесс принятия решений человеком. В своем эссе 1962 г. математик Анатоль Рапопорт предупреждал о возможности злоупотребления теорией игр. Он критиковал распространенное среди стратегических аналитиков моделирование войн как игр с нулевой суммой («а они не такие!»). Теория игр может определить оптимальные стратегии лишь для некоторых типов игр. Более того, она хорошо очерчивает пределы возможного и невозможного, но редко способна подсказать практические действия. «Она сообщает нам, что мы должны быть способны сделать, чтобы интеллект оказался применим в науке о человеческих конфликтах», – писал он[304]. Мы можем рассчитывать перевести столкновения с уровня условного рефлекса на уровень игр. Но идеализированные решения теории игр упускают из виду такие важные соображения, как честность, ответственность и подобные им добродетели. Без учета этих «лежащих вне теории игр» соображений конфликты вроде дилеммы заключенного заходят в тупик. Выход из таких тупиков требует традиционных межличностных навыков – умения говорить, слушать и понимать состояния другого.

Надежда на то, что синтетическое мышление заменит процесс принятия решений человеком и облегчит бремя нашей моральной ответственности, сохраняется и в боевой автоматике нашего времени. Часто называемая одной из величайших ранних видеоигр, выпущенная в 1981 г. RobotWar Сайласа Уорнера, – это игра без игроков. Она стала предвестником современных военных действий с использованием дронов, представляя вселенную, где человеческие жизни заменены в арифметике войны машинами, схлестнувшимися в борьбе за выживание. «ДОБРО ПОЖАЛОВАТЬ НА ПОЛЕ БОЯ БУДУЩЕГО!»[305] – с этих слов начинаются ее титры:

Идет 2002 год. Войны все еще бушуют, но их наконец-то официально признали вредными для здоровья человека. Теперь единственные воины – это построенные в условиях секретности роботы, запрограммированные сражаться друг с другом насмерть!

Ваша страна только что разработала самого эффективного на сегодняшний день боевого робота. Он должен стать непобедимым, но часть его микрокомпьютерного «мозга» все еще пуста. Робот сможет сражаться, только когда в его память будет записана боевая стратегия.

Ваша задача:

ЗАПРОГРАММИРОВАТЬ РОБОТА, КОТОРОГО НЕ СМОЖЕТ УНИЧТОЖИТЬ НИКАКОЙ ДРУГОЙ РОБОТ!

Пользователи не играют в игру; вместо этого они программируют роботов, которые играют за них. Роботы просто реализуют положения заданных им фиксированных правил. Каждый из них оснащен имитацией радара и вооружением для поиска и нападения на вражеских роботов, тактика которых определена другими пользователями. Возможно, войны будущего не будут ставить под угрозу человеческие жизни, разворачиваясь в цифровых средах, где компьютерные программы пытаются одолеть друг друга, используя тактики из арсенала теории игр.

Игра Уорнера оказалась пророческой: в начале 2000-х гг., когда американские военные нацелились на террористические группировки на Ближнем Востоке, начало быстро нарастать использование беспилотных летательных аппаратов. Государства по всему миру до сих пор наперегонки разрабатывают такие технологии, иногда даже заимствуя решения из области компьютерных игр. В 2020 г. ВВС США объявили, что приспособили созданный Google DeepMind алгоритм для настольных игр MuZero к управлению сенсорами самолета U–2 в ходе выполнения задач по целеуказанию и разведке. Эта система, получившая название ARTUµ, – яркий пример того, как американская армия движется к созданию полностью автономных систем принятия решений, на практике осуществляющих мечту специалистов по теории игр переложить обременительную ответственность с человеческих плеч на синтетическую рациональность. Демонстрируя эту одержимость принятием решений, представитель ВВС Уилл Ропер писал: «Тот факт, что система ARTUµ самостоятельно осуществляла руководство, важен не столько для этой конкретной миссии, сколько как пример роли ИИ в сохранении нашими вооруженными силами преимущества в принятии решений на поле боя»[306].

С момента появления го и шахмат армии использовали игры для обучения своих солдат. Кригшпиль с его подсчетом очков на основе тщательно собранных данных перевел игры из области абстрактной стратегии в сферу количественного планирования. В 1980-х гг. Управление перспективных исследовательских проектов Министерства обороны США (Defense Advanced Research Projects Agency, сокращенно DARPA) начало выделять видеоигровым компаниям средства на создание игр, с помощью которых можно было обучать новобранцев. В наше время на разработку все более реалистичных военных симуляторов ежегодно тратятся десятки миллионов долларов. В начале 1990-х гг. DARPA привлекло гейм-дизайнеров для совершенствования авиатренажеров. Результатом стал SIMNET, многопользовательский авиасимулятор, предназначенный для обучения пилотов. Во время Первой войны в Персидском заливе американцы использовали SIMNET для тестирования и отработки сложных тактических маневров. SIMNET дал толчок к появлению подобных программ для персональных компьютеров и улучшения видеоигровых симуляций. Некоторые из угонщиков самолетов во время терактов 11 сентября никогда не сидели в кабине настоящего самолета, но тренировались с помощью игры Microsoft Flight Simulator.

Завеса между войной и играми продолжала истончаться. Макнамара попытался превратить вьетнамскую войну в своего рода игру с цифрами, набирая «очки» за смерть и разрушения. Первая война в Персидском заливе широко освещалась по телевидению. Нововведения вроде приборов ночного видения позволили простым гражданам наблюдать сражения на экране домашнего телевизора, но с помощью жутковатого зеленого свечения, напоминающего видеоигру, делали насилие далеким и абстрактным. Это стало началом того, что классик киберпанка Брюс Стерлинг окрестил «военно-развлекательным комплексом»[307]. Военные все чаще оказываются отделенными от непосредственного насилия мониторами компьютеров и управляют дронами с помощью переделанных контроллеров Xbox. «Игроки» не соприкасаются с моральными последствиями своих действий, а их противники обезличиваются и дегуманизируются из-за посредничества технологий. Такое дистанцирование снижает – но не устраняет – риск развития посттравматического стрессового расстройства у операторов дронов[308]. Некоторые военные исследователи предложили снабжать системы управления дронами антропоморфными цифровыми помощниками, которые бы принимали приказы от операторов. Таким образом, как предполагается, операторы с меньшей вероятностью будут чувствовать, что они сами прибегли к разрушительным действиям; это технологический способ переложить вину и успокоить совесть.

Сегодня вооруженные силы по всему миру используют видеоигры для привлечения и обучения новобранцев. Навыки, необходимые для успеха на войне, изменились со времен окопной войны, и армии теперь открыто вербуют геймеров. В 2018 г. Армия США учредила собственную киберспортивную команду, у которой есть канал на Twitch, где проводятся розыгрыши призов и распространяются ссылки на анкеты для потенциальных новобранцев. Дети от 13 лет общаются с вербовщиками в немодерируемых чатах. Самым успешным инструментом вербовки Армии США в настоящее время является видеоигра America's Army («Армия Америки»), впервые выпущенная в 2002 г. Критики хвалили ее за реализм: игроки учатся перевязывать раны, координировать действия с товарищами по подразделению во время тактических операций и обращаться с оружием. Однако в America's Army есть одно заметное расхождение с реальностью: там никто не умирает без немедленного воскрешения.

Другие военные организации последовали примеру американцев. Разработчики игр в разных странах ответили на вызов America's Army. В 2003 г. ливанская вооруженная группировка «Хезболла» выпустила игру Special Force («Силы специального назначения»), которая использует сцены с убийством детей, чтобы вызвать у игроков возмущение и привлечь новобранцев. Утечка данных из Агентства национальной безопасности США (АНБ), организованная Эдвардом Сноуденом в 2013 г., показала, что в этом ведомстве опасались вербовки новых членов экстремистских группировок через игровые форумы. Сотрудники АНБ, ЦРУ, ФБР и Министерства обороны создавали поддельные учетные записи, чтобы следить за игроками в онлайн-играх вроде World of Warcraft. Игры оказались настолько наводнены оперативниками, что спецслужбам пришлось создать особую группу по координации усилий, поскольку выяснилось, что они тратят массу времени на слежку друг за другом.

Подобные приемы используются не только для вербовки, но и для завоевания расположения публики. Исследования показали, что игры могут изменять представления общественности о военных кампаниях. Виртуально пережив боевые действия, игрок становится более склонным к их защите[309]. Бывшие военные и политики занимают руководящие посты в игровой компании Activision. Серия игр Call of Duty, бестселлер Activision, представляет собой фантазию на тему американских военных кампаний, очищенную от любой моральной двусмысленности. Игроки догадались, что игра Call of Duty: Modern Warfare (2019) воссоздает события Первой войны в Персидском заливе – печально известную бойню на дороге, которую впоследствии назвали «Шоссе смерти». В 1991 г. американские войска и их союзники часами добивали отступающую иракскую колонну, подвергая опасности жизни сотен мирных жителей, иностранных рабочих и уже сдавшихся солдат – Колин Пауэлл назвал эти действия «ничем не оправданным лишением жизни». Однако в игре все это делают русские, а не американцы. Многие пользователи были потрясены тем, что выглядело как бесстыдная пропаганда, очерняющая Россию за американские злодеяния. Игры издавна вызывали приступы моральной паники – от опасений по поводу игровой зависимости до страхов американских христиан, видевших «сатанинские» послания в Dungeons & Dragons. Сегодня такая паника обычно касается кровавости видеоигр, но исследователи не обнаружили связи между игровым и реальным насилием. Возможно, вместо этого мы должны быть озабочены тем, что игры могут маскировать безмерную трагичность войны.

Что отличает игрушку от реальной вещи? Величина ставок. Игрушечный кассовый аппарат не дает работу сотруднику и не кормит его семью. То, чем трейдер манипулирует как цифрами на экране, определяет все будущее пожилой семейной пары. Солдат в видеоигре подстрелен – и воскрес. Настоящий солдат – нет. В игре мы можем делать вид, что смерти и страданий не существует. В реальности – не можем. Военные стратеги были рады снять с себя бремя ответственности за решения, которые могут поставить под угрозу выживание человечества, и делегировали эти решения теории игр. Человечество чудом пережило несколько опасных моментов, спасенное человеческим – а не синтетическим – разумом.

То, что судьба планеты зависела от подверженных сбоям систем обнаружения ракетных запусков, – это ошеломляющее моральное фиаско. То же самое верно и сегодня в отношении нашей растущей зависимости от автоматизированных систем надзора и ведения боя, которые получают все более массовое распространение. В 2023 г. Европейский парламент призвал к созданию общества, свободного от массовой слежки, запретив использование автоматизированных средств для наблюдения за своими гражданами. В то же время он разрешил их использование в отношении мигрантов – это та же логика, по которой папа Иннокентий II запретил использование арбалетов против христиан, но не против мусульман. Технологии могут помогать нам отстраниться от ужасов войны с помощью игроподобных интерфейсов, но они не могут избавить нас от моральной ответственности за все живое.

Философ Тхи Нгуен подчеркивает важнейший аспект игрового процесса: хотя игроки, погруженные в игру, формально соревнуются, на самом деле они – даже в игре с нулевой суммой, такой как шахматы, – сотрудничают, чтобы соревноваться. Игроки договариваются приостановить на определенный период действие норм реальности, придерживаться правил игры и совместно стремиться к общей цели – приятно провести время. Соревнование – это средство достижения этой цели: игроки должны искренне стараться победить, чтобы получить максимальное удовольствие. «Игры можно даже назвать социальной технологией, способной преобразовывать агрессию в общую пользу, а возможно, и в моральное благо», – пишет Нгуен[310]. Именно на это исходно надеялись Эмануил Ласкер, мечтая о создании науки об играх, и Джон фон Нейман, разрабатывая теорию игр. И то и другое задумывалось как инструмент для минимизации насилия. Но те, кто применяет эти инструменты, часто упускают из виду более широкий контекст, подмеченный Нгуеном, – тот важнейший факт, что большинство людей просто хотят ладить друг с другом.

Рассуждая абстрактно, логика теории игр неоспорима. Игроков неумолимо тянет в точки равновесия. Точно так же и военные стратеги середины XX в. считали себя обреченными разрабатывать заранее предопределенное супероружие для поддержания равновесия сил. С тех пор государства попали в замкнутый круг, инвестировав за последнее столетие триллионы долларов во все более изощренные системы обороны и нападения вместо того, чтобы тратить деньги на технологии с положительной суммой. Чтобы угроза оставалась убедительной, сторонам требуется погрузиться в безумие и отбросить всякие моральные принципы. Американские военные убили сотни тысяч невинных людей, чтобы укрепить свою репутацию в глазах других ядерных держав. Несмотря на это, ясно, что каждый из нас в отдельности не совсем потерял совесть. Пока не появилась возможность полностью автоматизировать такие злодеяния – например, благодаря автономным дронам, – исследователи предлагают паллиативные решения, заговаривая совесть военных с помощью их отстранения от последствий собственных действий. Все это в конечном итоге можно рассматривать как проект, призванный переложить ответственность за трудные решения на машины, чьи мыслительные способности, как нам обещают, скоро превзойдут способности любого человека. Однако их синтетический разум совсем не похож на наш, и мы не можем делать вид, что это уместная или морально приемлемая замена.

Теория игр была приспособлена в качестве рационального фундамента неолиберального мирового порядка, и ее эгоистичные предпосылки до сих пор пронизывают наши сконструированные социальные системы. Изначально изобретенная для картографирования человеческого поведения, теория игр с тех пор искривила тот самый ландшафт, который должна была отображать. Пока ученые, изучавшие игры, надеялись создать науку, которая положит конец войнам, безудержное умножение оружия сделало нас всех более уязвимыми. Историки со временем обнаружили, что ядерная гонка, в которую включилась Америка, во многом была односторонней. Немецкая ядерная программа, ставшая первоначальным толчком к запуску Манхэттенского проекта, была свернута в 1942 г. Теоретики RAND работали с неверными разведданными о ядерном потенциале СССР. Они считали, что американские военные сильно отстали от советских, и этот так называемый «разрыв в ракетах» привил военным аналитикам, убежденным, что они спасают планету, почти мессианские наклонности. Десятилетиями американские стратеги соревновались со своими собственными фантазиями. Сегодня такие риски выше, чем когда-либо. Нынешняя ядерная дипломатия основана на еще более шатком равновесии между девятью странами. Некоторые опасаются, что схожие процессы разворачиваются сейчас и в области искусственного интеллекта, где корпорации наперегонки разрабатывают потенциально разрушительную технологию в убеждении, что она может спасти мир.

Как говорит специалист по компьютерной криптографии Брюс Шнайер, не существует такой вещи, как безопасность вообще. Антивирусное программное обеспечение не может спасти пользователя от гриппа; автомобильная сигнализация не убережет владельца машины от кражи личных данных. А иногда системы безопасности делают нас менее защищенными, потому что мы становимся самонадеянными под их защитой. Создатели теории игр искали универсальные ответы в отвлеченной математике, и мир оказался в худшем положении из-за веры наших лидеров в их технократические решения.

Все это должно заставить нас задуматься. В своем романе «Книга имен» лауреат Нобелевской премии Жозе Сарамаго писал: «Строго говоря, не мы принимаем решения, а они – нас»[311][312]. Если это правда, то кто мы такие, чтобы перепоручать свои решения математике? Одной из отличительных черт человеческой природы является ее пластичность и адаптивность, о чем свидетельствует разнообразие культур и норм по всему миру. Опасность использования упрощенных моделей для обоснования политических решений заключается в том, что люди учатся. Психолог Б. Ф. Скиннер утверждал, что мы не можем испортить или изменить физику, задействовав неверную модель атома. Но он ошибался, распространяя этот принцип на людей: избранная нами модель человека может вредить людям. Человеческое поведение определяется вознаграждениями и стимулами, а наши предпочтения зависят от усвоенных нами представлений об играх, в которые мы играем. То, что мы думаем о самих себе, может радикально влиять на наш образ жизни и решения, которые мы принимаем. Нет ничего невероятного в том, что мы можем изменять динамику человеческих взаимоотношений, выстраивая социальные, политические или экономические системы на основе моделей, стимулирующих эгоистичное поведение. Свидетельством тому – безрассудная политика, приведшая к балансированию на грани ядерной войны. Наши теории об окружающем нас мире привели к глубокому нравственному падению, к гонке по нисходящей. Мирные граждане были – и остаются – заложниками военных решений своих стран.