Несколько лет назад прекрасным позднелетним днем я сидел за столиком у студенческой библиотеки в кампусе Беркли и спокойно работал над проектом вместе с коллегами, приехавшими со мной на небольшой воркшоп. Я на минуту задумался над своей задачей, и тут мое внимание — штука ненадежная даже в лучшие времена — привлек обрывок разговора за соседним столиком. Разговаривали двое студентов: один постарше, другой — первокурсник. Старший пытался завлечь младшего в студенческую группу, продвигающую эффективный альтруизм — новый подход к благотворительности. Старшекурсник описывал это как веселый способ пообщаться с другими ребятами и одновременно сделать что-то стоящее, а в конце своей презентации добавил индивидуальный аргумент для первокурсника, который учился на инженерном. «Среди эффективных альтруистов много инженеров, — сказал он, — потому что они любят оптимизировать всё до умопомрачения».

Я тихонько усмехнулся, а затем мне пришлось объяснять коллегам за столом, в чем дело и что я вообще знаю об эффективном альтруизме. Чего я тогда не знал, так это того, что несколькими годами ранее, в 2012-м, похожий разговор произошел на другом конце страны между Уиллом, молодым философом, специализирующимся на этике, и Сэмом, студентом-третьекурсником МТИ. Сэм пытался понять, что ему делать со своей жизнью, и в кафе Au Bon Pain рядом с Гарвардской площадью Уилл изложил ему ключевую концепцию эффективного альтруизма: «зарабатывать, чтобы отдавать» (earn to give). Суть идеи в общих чертах сводилась к тому, что один из лучших способов сделать мир лучше — это заработать кучу денег, а затем пожертвовать большую их часть на благородные дела, помогающие людям.1 Сэм кивнул и просто сказал: «Ага. Логично». Он последовал совету Уилла — и его философии — и ринулся воплощать их в жизнь. Он всем сердцем принял эффективный альтруизм и принес его с собой на работу в Jane Street, фирму с Уолл-стрит, специализирующуюся на высокочастотном трейдинге. Проработав там несколько лет трейдером (по его утверждениям, около половины своего заработка он жертвовал на благотворительность), Сэм уволился и устроился на работу вместе с Уиллом, заняв должность директора по развитию бизнеса в Центре эффективного альтруизма (CEA).2 Вскоре после этого карьера Сэма по-настоящему пошла в гору.

К сожалению, сегодня Уилл и Сэм уже не так дружны, как раньше. «Я не знаю, какое чувство сильнее: моя ярость по отношению к Сэму (и остальным?) за то, что они причинили такой вред стольким людям, — писал Уилл в ноябре 2022 года, — или же моя грусть и ненависть к себе за то, что я повелся на этот обман».3

*    *    *

Невозможно толком объяснить, что произошло между Уиллом и Сэмом — и что такое натворил Сэм, разозлив Уилла (и многих, многих других), — если сначала не рассказать об эффективном альтруизме. На первый взгляд эффективный альтруизм кажется довольно простым и понятным: нужно оценить наилучшие способы сделать мир лучше, а затем посвятить этим усилиям как можно больше времени и денег. Суть этой идеи восходит к философу Питеру Сингеру, профессору этики в Принстоне. Сингер утверждал, что каждый человек должен отдавать на благотворительность все (или почти все) свои свободные средства.4 Его самый известный аргумент в пользу этой идеи начинается с простого мысленного эксперимента.

Представьте, что вы гуляете по довольно оживленной дорожке в небольшом парке. На улице прохладно, поэтому на вас надет свитер — возможно, очень приличный свитер, кашемировый или вроде того, — а поверх него удобное, но модное пальто. Прогуливаясь дальше, вы подходите к грязному пруду и вдруг замечаете, что там тонет ребенок. Более того, ребенок, кажется, вот-вот полностью скроется под мутной, илистой водой и уже едва может звать на помощь. Никто другой ребенка не заметил, а если и заметил, то никому до этого нет дела — люди проходят мимо, даже не замедляя шага. Каждая секунда на счету, но, к счастью, пруд довольно мелкий, так что если вы поторопитесь, то сможете войти в воду вброд и спасти малыша. Но вы также понимаете, что если броситесь в воду прямо сейчас, то наверняка испортите свой красивый свитер, любимое пальто и остальную одежду. И кажется, что как только ребенок уйдет под воду, вы его уже не увидите, так что ваш единственный шанс успеть вовремя — прыгнуть в воду сразу, не останавливаясь, чтобы снять одежду. Как вы поступите? Спасёте ребенка? Стоят ли время и деньги, которые придется потратить на покупку новой одежды взамен испорченной, того, чтобы спасти жизнь? Или одежда и деньги всё-таки важнее?

Почти каждый согласится, что спасти ребенка в такой ситуации — единственно верное решение, которое определенно стоит испорченной одежды. Но, рассуждает Сингер, если это так — если комплект одежды всегда менее ценен, чем жизнь ребенка, — то, конечно, не имеет значения, где именно находится этот ребенок. И, как отмечает далее Сингер, для человека со средним достатком на самом деле спасти жизнь реального бедного ребенка в другой части света ничуть не сложнее, чем жизнь гипотетического тонущего в грязном пруду малыша поблизости. «Все мы находимся в положении прохожего у мелкого пруда, — писал Сингер в своем эссе 1997 года "Тонущий ребенок и расширяющийся круг". — Каждый из нас может спасать жизни людей, как детей, так и взрослых, которые иначе погибли бы, и мы можем делать это с ничтожно малыми затратами с нашей стороны: стоимость нового компакт-диска, рубашки или вечера в ресторане или на концерте может стать вопросом жизни и смерти для кого-то в другой части света — а международные благотворительные организации вроде Oxfam помогают преодолеть проблему расстояния».5

Как выясняется, Сингер, вероятно, ошибался относительно стоимости спасения одной жизни этими благотворительными организациями. Хотя в рекламных материалах подобных фондов иногда утверждается, что спасти жизнь можно менее чем за 100 долларов, более реалистичная оценка, скорее всего, составляет около 5000 долларов.6 Но аргумент Сингера всё равно остается в силе, и его мысленный эксперимент легко скорректировать с учетом этого: если предположить, что во время прогулки на вас надета исключительно дорогая дизайнерская куртка, которую вы одолжили у богатого друга, вы, вероятно, всё равно предпочли бы спасти ребенка, даже если это означает необходимость купить другу новую куртку взамен испорченной. Или мы могли бы представить ситуацию, когда вы гуляете с большой компанией друзей и вам всем нужно прыгнуть в грязный пруд, чтобы вытащить ребенка, при этом каждый из вас лишается одежды, мобильных телефонов и других личных вещей на сумму в несколько сотен долларов. Против позиции Сингера существуют контраргументы, но большинство из них направлены на самый крайний вывод, который можно из нее сделать, а именно на то, что все свои свободные средства человек должен тратить на спасение жизней по всему миру.7 Но даже если это не так, аргумент Сингера указывает на то, что нам следует тратить на спасение жизней больше, чем большинство из нас обычно делает.

Хотя аргумент Сингера звучит убедительно, его подход к этике в целом менее убедителен. Сингер — утилитарист. Утилитаристы считают, грубо говоря, что поступать этично — значит делать выбор, который ведет к наибольшему благу и наименьшим страданиям, максимизируя абстрактную величину, известную как «полезность». Сингер включает в этот моральный расчет и животных. Он выступал против промышленного животноводства и в защиту вегетарианства, и его труды на эти темы пользуются большим влиянием среди активистов за права животных. Но утилитарный взгляд на этику в своей простейшей форме сводит этические вопросы к задаче оптимизации: какие действия приведут к наибольшему количеству полезности в мире? Очевидные последующие вопросы касаются того, что именно представляет собой «полезность» и как узнать, какие действия будут ей способствовать, причем ни на один из них нет ясного ответа. Современные утилитаристы добавили нюансов в свои позиции, чтобы как-то справиться с этими вопросами. Тем не менее порой даже более изощренные формы утилитаризма могут приводить к тревожным — или даже отталкивающим — выводам относительно наилучшего способа способствовать общему благу и избегать страданий. Например, Сингер заявлял, что эвтаназия младенцев с тяжелыми формами инвалидности, а также взрослых с прогрессирующей деменцией при определенных обстоятельствах этически приемлема.

Неудивительно, что Сингер пользуется дурной славой из-за своих взглядов на эвтаназию. Помимо этого, он, пожалуй, наиболее известен своими взглядами на права животных. Но именно его аргумент в пользу того, чтобы больше жертвовать на благотворительность, оказал наибольшее влияние на Уильяма Макаскилла — Уилла — и небольшую группу его коллег-философов. В 2009 году, учась в аспирантуре Оксфорда, Макаскилл вместе с Тоби Ордом, другим местным философом, стал соучредителем некоммерческой организации Giving What We Can. Организация предлагает своим членам взять на себя обязательство жертвовать 10 процентов своего дохода на благотворительность вплоть до выхода на пенсию. Макаскилл и Орд сами подписали это обещание. «Мне нравилась идея связать обязательствами себя будущего — у меня было много юношеской энергии, и я боялся, что со временем стану более консервативным», — вспоминал Макаскилл.8

Орд и Макаскилл не просто стремились жертвовать как можно больше денег — они хотели найти наилучший способ распределения этих средств, чтобы приносить максимальную пользу людям. Орд жертвовал 25 процентов своего дохода на благотворительность и решил, что лучше всего направлять эти деньги в фонд, занимающийся лечением слепоты в развивающихся странах. Макаскилл убедил его, что организации, занимающиеся борьбой с кишечными паразитами, — более удачный выбор, указав на экономические исследования, согласно которым такие фонды были в сто раз более экономически эффективными. Дальнейшие исследования показали, что организации, распространяющие противомалярийные сетки в тропиках, могут спасти еще больше жизней на каждый потраченный доллар.9 Позже Макаскилл, Орд и еще несколько человек назовут этот основанный на данных подход к благотворительности «эффективным альтруизмом», или ЭА; еще до того, как определиться с названием, Макаскилл и Орд начали активно проповедовать эту идею, предлагая друзьям и коллегам подписать обещание жертвовать 10 процентов. Когда они основали Giving What We Can, «у нас было двадцать три участника, и большинство из них были нашими с Тоби друзьями», — вспоминал Макаскилл.10 Макаскилл также стал соучредителем еще одной организации, 80,000 Hours (названной так в честь количества часов, которые человек в среднем тратит в течение жизни на обычной работе с сорокачасовой рабочей неделей), которая сосредоточилась на предоставлении научно обоснованных рекомендаций о том, какие карьеры лучше всего выбирать, чтобы помогать другим людям, включая концепцию «зарабатывать, чтобы отдавать».11

Тем временем дела у самого Макаскилла шли в гору. В 2015 году вышла его первая книга — Doing Good Better, 272-страничное обоснование подхода эффективного альтруизма к благотворительности. В том же году, в возрасте двадцати восьми лет, он стал доцентом философии в Оксфорде, став на тот момент одним из самых молодых доцентов философии в мире.12 Он выступил соучредителем CEA, еще одной некоммерческой организации, которая объединила под одной институциональной крышей Giving What We Can и 80,000 Hours.13 Только в 2019 году его организации выделили гранты на сумму 9,8 миллиона долларов, а к 2022 году, когда вышла его вторая книга, более семи тысяч человек обязались пожертвовать в общей сложности 2,5 миллиарда долларов.14

Эта книга, «Что мы должны будущему», отстаивает нечто куда менее очевидное, чем польза от противомалярийных сеток в развивающихся странах. Макаскилл выступает не просто в защиту ЭА, но за его конкретное направление, известное как «лонгтермизм». «Люди будущего имеют значение. Их может быть очень много. Мы можем сделать их жизнь лучше», — пишет он в начале книги.15 «То, что мы делаем сейчас, повлияет на неисчислимое множество будущих людей. Мы должны действовать мудро».16 Развивая аналогию Сингера, Макаскилл утверждает, что временная дистанция должна иметь для наших этических рассуждений не больше значения, чем дистанция пространственная. «Расстояние во времени — то же самое, что расстояние в пространстве. Люди важны, даже если они живут за тысячи миль от нас. Точно так же они важны, даже если они будут жить тысячи лет спустя... Подобно тому как мир не заканчивается у нашего порога или у границ нашей страны, он не заканчивается и на нашем поколении или на следующем».17

Большинство людей согласятся с Макаскиллом в том, что у нас есть моральные обязательства перед будущими поколениями. Призывы к борьбе с глобальным потеплением и спасению хрупких экосистем часто опираются на подобную логику, равно как и аргументы в пользу сохранения культуры — например, архивации исчезающих языков или сохранения древних произведений искусства. Макаскилл целиком и полностью поддерживает такие проекты. Но лонгтермизм подразумевает гораздо большее. В своей книге Макаскилл утверждает, что просто пытаться оставить лучший мир для тех, кто придет после нас, недостаточно — мы также должны постараться сделать так, чтобы после нас пришло как можно больше людей. Речь идет не просто о том, чтобы сделать будущие поколения более многочисленными; речь идет о максимизации вероятности того, что этих поколений будет как можно больше и все они будут до краев наполнены счастливыми людьми. Макаскилл мыслит категориями поистине далекого будущего. «Чтобы проиллюстрировать потенциальный масштаб будущего, предположим, что мы просуществуем лишь столько же, сколько существует типичный вид млекопитающих, — то есть около миллиона лет. Также предположим, что численность нашего населения останется на нынешнем уровне. В таком случае в будущем родится еще восемьдесят триллионов человек; люди будущего будут превосходить нас числом в соотношении десять тысяч к одному».18 (Для наглядности: это означает, что наши потомки будут превосходить по численности ныне живущих людей в той же пропорции, в какой все остальное человечество превосходит население Сан-Франциско.) По мнению Макаскилла, мы обязаны постараться сделать жизнь этих людей как можно лучше. И он утверждает, что мы находимся в уникальном положении для этого. «Если человечество проживет хотя бы малую часть своего потенциального срока жизни, то, как ни странно, мы окажемся древними: мы живем в самом начале истории, в глубочайшем прошлом... Мало кто из когда-либо живущих людей будет обладать такой же возможностью положительно повлиять на будущее, как мы».19

Это влияние, по его утверждению, распространяется и на то, превысит ли число будущих людей упомянутые восемьдесят триллионов. Примерно через миллиард лет возросший жар Солнца испарит океаны Земли, запустив неуправляемый парниковый эффект, который сделает планету смертельно опасной для жизни на основе воды. Если наш вид доживет до этого времени, каким-то образом сохраняя нынешнюю численность населения около восьми миллиардов человек на протяжении всего этого периода, то в будущем родится около ста квадриллионов (сто миллионов миллиардов, или 1017) людей — по двенадцать миллионов на каждого человека, живущего сегодня.20 И если вместо того, чтобы ограничиваться поверхностью Земли, мы выведем человечество в космос, число потенциальных людей будущего станет соответственно астрономическим. За тот же миллиард лет осваивающее космос человечество могло бы расселиться по всей нашей галактике Млечный Путь, где насчитывается не менее ста миллиардов планет. Даже если только 1 процент из них пригоден для жизни людей, это все равно оставляет нам достаточно места для 1026 людей будущего в течение следующего миллиарда лет при средней численности населения в восемь миллиардов человек на планету в любой момент времени. Но и это не предел: на других планетах жидкая вода будет сохраняться гораздо дольше, чем миллиард лет. И если мы сможем заселить Млечный Путь, то почему бы не заселить и наблюдаемую Вселенную? Если человечество заполнит Вселенную до краев, и его численность в космосе будет неуклонно расти, пока не погаснут практически все звезды, число людей будущего может приблизиться к 1040. Это десять миллионов миллиардов триллионов триллионов человек — единица с сорока нулями.21 И все это предполагает, что наши потомки останутся людьми с нашими телами и мозгом из плоти. Если мы найдем способ переносить человеческий разум в компьютеры или если нашими основными потомками станут сознательные ИИ, то будущее может быть наполнено бесчисленными мириадами электронных форм жизни, чьи кремниевые микросхемы будут безмолвно бороздить межгалактические пустоты вплоть до тепловой смерти Вселенной.

Для Макаскилла буквально действует принцип «чем больше, тем лучше». Пока счастье наших потомков перевешивает их страдания, его логика требует признать: чем больше их численность, тем лучше будущее. Он утверждает, что мы должны всеми силами стремиться к максимально масштабному из этих вариантов будущего. «Будущее цивилизации может быть буквально астрономическим по своим масштабам, и если мы придем к процветающему, цветущему обществу, то сделать это будет делом колоссальной важности».22 И все же в этих футуристических видениях «последнего рубежа» так много вещей кажутся маловероятными или невозможными. Идея о том, что численность населения в расчете на одну планету будет оставаться на уровне в среднем восьми миллиардов в течение сотен тысяч лет, не говоря уже о миллионах или миллиардах, уже сама по себе весьма сомнительна. Как отмечает сам Макаскилл, нынешний период роста человеческой популяции уникален, и мы уже находимся на историческом максимуме, который, судя даже по краткосрочным демографическим прогнозам, мы вряд ли сильно превзойдем. Но если оставить это возражение в стороне, есть куда более серьезные проблемы. Жизнь в космосе невероятно трудна. В нашей Солнечной системе нет подходящих кандидатов для долгосрочного обитания людей, а учитывая колоссальные расстояния, отправка человека к другим звездным системам с огромной долей вероятности так и останется научной фантастикой. Перенос человеческого разума в компьютеры, скорее всего, невозможен по целому ряду веских научных причин. Появление сознательного ИИ, возможно, чуть более вероятно, но все же далеко не гарантировано — а отправка такого ИИ в космос повлечет за собой собственный ряд практических трудностей и этических проблем.

Вероятность наступления такого будущего крайне мала — не только потому, что эти сценарии научно неправдоподобны, но и потому, что они слишком специфичны и зависят от совпадения множества крупных и мелких факторов, о которых мы ничего не можем знать, таких как индивидуальные желания и культурные нормы будущих людей. Однако обманчивая прелесть лонгтермизма заключается в том, что ничтожно малая вероятность сценариев будущего, в которых фигурирует огромное количество людей, на самом деле не имеет значения. В арифметике Макаскилла низкая вероятность этих сценариев с лихвой компенсируется числом населяющих их людей, поскольку шансы на то, что такое будущее наступит, пусть и чрезвычайно низки, но все же не равны нулю. Допустим, существует один шанс из десяти миллиардов, что человечество расселится по всей доступной части наблюдаемой Вселенной. И допустим, существует один шанс из десяти миллионов, что если такое будущее действительно наступит, то конкретный выбор, который вы делаете прямо сейчас — например, пожертвуете деньги фонду, изучающему возможные способы межзвездных путешествий, — ощутимо поможет всем людям, живущим в этом будущем. Тогда в общей сложности вероятность того, что подобное пожертвование поможет людям будущего, составляет один к 1017. (Это примерно те же шансы, что выиграть в лотерею Powerball и погибнуть от удара молнии в один и тот же день.)

Если бы такое космическое будущее действительно наступило, число людей, живущих в нем, было бы невообразимо огромным. Если умножить фантастически малые шансы на то, что ваши нынешние действия помогут обитателям этого будущего, на еще более фантастически огромное число гипотетических людей, которые будут его населять, мы получим «математическое ожидание» — оценку того, скольким людям в среднем станет жить лучше, если вы сделаете это пожертвование. В данном случае ответом будет примерно 1023 человек — во много триллионов раз больше, чем все ныне живущее население Земли (примерно столько же атомов содержится в одном вдохе воздуха). Таким образом, при выборе между подобным пожертвованием и любым другим гипотетическим действием, которое принесло бы ощутимую пользу каждому живущему сегодня человеку, математика лонгтермизма указывает на то, что пожертвование в пользу аналитического центра по космическим двигателям является лучшим выбором. Помочь одним действием всем восьми миллиардам живущих людей — задача не из легких, но это лишь усугубляет проблему: сейчас на Земле просто нет таких действий, которые могли бы сравниться по значимости с благородной миссией помощи людям будущего, потому что ныне живущих людей попросту слишком мало, чтобы конкурировать с потребностями гипотетических квадриллионов и квинтиллионов людей из нашего славного, хотя и маловероятного научно-фантастического будущего.

Макаскилл заявляет, что его книга — это лишь обоснование лонгтермизма, то есть идеи о том, что люди будущего являются важным фактором при принятии этических решений, а не того, что он называет «сильным лонгтермизмом» — идеи о том, что при принятии этических решений интересы людей будущего важнее всего остального. Аргументы в пользу сильного лонгтермизма он называет «удивительно убедительными», но настаивает, что защищает не его.23 (Хотя он весьма активно отстаивает его в отдельной научной работе.)24 Впрочем, ему это и не нужно — за него все делают те колоссальные массы людей, которые фигурируют в его сценариях будущего. Если воспринимать всерьез моральные расчеты в его книге, они прямо требуют, чтобы подобные варианты будущего были определяющим фактором при любом выборе, направленном на то, как принести миру наибольшую пользу.

Главный источник проблемы здесь — неопределенность: мы не знаем, какое именно будущее наступит. Если бы мы знали наверняка, что возможных сценариев всего два — один, при котором человечество вскоре вымрет, и другой, при котором мы будем бесконечно расселяться среди звезд, — аргументы Макаскилла выглядели бы убедительнее. Но у нас нет этой информации. И это опровергает утверждение Макаскилла о том, что временная дистанция подобна пространственному расстоянию. Расстояние в пространстве принципиально отличается от расстояния во времени, поскольку, хотя у нас и есть телефоны и самолеты, машин времени у нас нет. Мы можем общаться с людьми со всего мира, даже навещать их и спрашивать, в чем они нуждаются. Но мы не можем отправиться в далекое будущее, чтобы узнать, что его жителям нужно от нас прямо сейчас. В своей книге Макаскилл подробно рассуждает об этой неопределенности, но те радикальные выводы, которые он делает относительно необходимых действий в настоящем — основываясь исключительно на гипотетической возможности этих, казалось бы, диковинных сценариев будущего, — полностью обесценивают эти рассуждения. Он делает слишком бескомпромиссные выводы, опираясь всего лишь на догадки о том, что может принести далекое будущее. Да и способность самого Макаскилла прогнозировать будущее — даже на короткий срок — вызывает серьезные сомнения. Обладая гораздо большим объемом информации, чем большинство людей, он все же не смог точно предсказать, что произойдет с Сэмом всего через несколько месяцев после публикации книги «Что мы должны будущему».

*    *    *

Очевидных проблем лонгтермизма оказалось недостаточно, чтобы ослабить интерес к книге «Что мы должны будущему», когда она вышла в свет в августе 2022 года. За неделю до ее публикации в New Yorker появился профайл Макаскилла объемом в десять тысяч слов с заголовком, окрестившим его «пророком поневоле эффективного альтруизма»25. На следующий день New York Times опубликовала интервью с Макаскиллом, которое взял Эзра Кляйн26. А еще через день журнал Time поместил на обложку статью об эффективном альтруизме и Макаскилле, резюмировав: «Если будущее может быть столь же грандиозным и прекрасным, каким его видит Макаскилл, то ради этого, пожалуй, стоит постараться»27. Как только книга «Что мы должны будущему» действительно вышла, она почти сразу же попала в список бестселлеров New York Times и продержалась там три недели подряд28. Джозеф Гордон-Левитт назвал книгу «оптимистичным взглядом на будущее, который растрогал меня до слез», а Стивен Фрай охарактеризовал ее как «книгу огромной смелости, ясности, проницательности и воображения»29. На фоне медийного ажиотажа раздавались и отдельные голоса несогласных, но в целом запуск «Что мы должны будущему» прошел с оглушительным успехом30. (Раскрытие информации: книга «Что мы должны будущему» была опубликована издательством Basic Books, которое также выпустило эту книгу, как и мою первую работу.)

Само по себе в этом нет ничего примечательного. Множество научно-популярных книг с откровенно слабыми аргументами в итоге получают массу внимания и одобрения в СМИ. Но для этого часто есть веская причина. Книги, доказывающие, что глобальное потепление — не такая уж большая проблема, активно раскручиваются правыми медиа, поскольку в их интересах продвигать нарратив о том, что глобального потепления либо не существует, либо оно не имеет значения. Эффективный альтруизм и лонгтермизм далеко не так коварны и разрушительны, как отрицание изменения климата. Но, как и в случае с отрицанием климатических изменений, за эффективным альтруизмом стоят огромные корпоративные деньги. Почти все эти средства поступают из технологической индустрии в виде пожертвований различным благотворительным организациям эффективного альтруизма. Крупнейшим спонсором Effective Ventures — зонтичной некоммерческой организации, под крышей которой сегодня находятся CEA, 80,000 Hours, Giving What We Can и ряд других организаций эффективного альтруизма, — является Open Philanthropy, фонд, чей подход к благотворительности сам по себе основан на принципах эффективного альтруизма31. Open Philanthropy финансируется в основном за счет состояния Дастина Московица, одного из сооснователей Facebook, и его жены Кари Туны. По состоянию на август 2024 года фонд Open Philanthropy пожертвовал организации Effective Ventures и связанным с ней структурам более 200 миллионов долларов32.

Другие некоммерческие организации в более широкой экосистеме эффективного альтруизма получили еще более щедрое финансирование от технологического сектора. «Экзистенциальный риск» — угрозы человечеству в целом, такие как апокалипсис ИИ, который предвидит Юдковский, — является одним из главных направлений, беспокоящих сторонников эффективного альтруизма. Институт будущего жизни (Future of Life Institute, FLI) — это некоммерческая организация, связанная с сообществом эффективного альтруизма, которая сосредоточена именно на предотвращении подобных «экстремальных крупномасштабных рисков», исходящих от технологий33. FLI также имеет прочные связи с IT-индустрией. Одним из его сооснователей стал Яан Таллинн, эстонский технологический миллиардер, помогавший создавать Skype и Kazaa; Илон Маск также пожертвовал этой некоммерческой организации 14 миллионов долларов34. Однако подавляющее большинство денег FLI поступает из одного источника: Виталик Бутерин, сооснователь криптовалюты Ethereum, в 2021 году пожертвовал FLI более 650 миллионов долларов (в виде другой криптовалюты под названием Shiba Inu), что мгновенно вывело институт на один финансовый уровень с более известными и влиятельными аналитическими центрами вроде Брукингского института35.

Эффективный альтруизм и лонгтермизм вполне совместимы с другими направлениями, которые вызывали живой интерес и щедрое финансирование со стороны технологической индустрии задолго до того, как Макаскилл встретил Орда. Представление лонгтермистов о прекрасном будущем требует колоссального уровня роста — роста численности населения, экономической производительности, потребления энергии, доступных природных ресурсов. Стремление к росту — это общая черта капитализма в целом. Но идея великого будущего, наполненного практически неограниченным ростом — будущего именно того типа, который предлагает лонгтермизм, — уже многие десятилетия пользуется огромной популярностью в Кремниевой долине36. Наиболее ярким примером этого является концепция технологической сингулярности, которую обычно называют просто Сингулярностью.

Сторонники Сингулярности утверждают, что технологический прогресс ускоряется и продолжит ускоряться, что приведет к точке сингулярности, где столь масштабные перемены будут происходить так стремительно, что сама суть повседневной человеческой жизни изменится до неузнаваемости, превзойдя любые фантазии и понимание. Сверхинтеллектуальный ИИ и гибриды человека и машины откроют путь к утопии, покончат с дефицитом ресурсов и совершат биомедицинские открытия, которые позволят нам жить вечно или почти вечно. Ограниченная лишь законами физики, постсингулярная цивилизация не будет знать никаких практических пределов своим достижениям. По мнению Рэя Курцвейла, самого видного сторонника Сингулярности, нынешние темпы технологических изменений со всей очевидностью указывают на то, что Сингулярность наступит уже совсем скоро — не позднее чем через двадцать лет, в 2045 году. «В конечном счете это повлияет на все, — заявляет он. — Мы сможем удовлетворить физические потребности всех людей. Мы расширим возможности своего разума и сможем выразить те творческие качества, которые мы ценим»37.

Идея Сингулярности и всех сопутствующих ей чудес, которые она якобы должна явить миру, почти не имеет научных оснований. Тем не менее эта концепция поразительно популярна в Кремниевой долине и во всей технологической индустрии. Курцвейл — вовсе не какая-то маргинальная фигура. Он занимает должность директора по разработке в Google, а его книги о Сингулярности стали бестселлерами. «Сингулярность — это новая религия, причем на редкость чудаковатая, — считает специалист в области компьютерных наук и художник Джарон Ленье. — Сингулярность — это пришествие Мессии, рай на Земле, Армагеддон, конец времен. А фанатики всегда думают, что конец времен наступит еще при их жизни»38.

Эта религия зиждется на идее роста. И Сингулярность с лонгтермизмом — далеко не единственные ее проявления. Риторика о необходимости безграничного роста ради спасения мира стала общим местом в выступлениях некоторых наиболее влиятельных руководителей технологических компаний. «Я верю — и с каждым годом убеждаюсь в этом все сильнее, — что космическая компания Blue Origin — это самое важное дело моей жизни, — говорил Джефф Безос в 2018 году. — Я занимаюсь этим, потому что верю: если мы этого не сделаем, то в конечном итоге окажемся в цивилизации стазиса, а это кажется мне крайне удручающим. Я не хочу, чтобы правнуки моих правнуков жили в цивилизации стазиса». Затем он объяснил истоки своего беспокойства:

«Если взять базовое мировое энергопотребление и увеличивать его всего на несколько процентов в год в течение нескольких сотен лет, вам придется покрыть всю поверхность Земли солнечными батареями. Вот это и есть настоящий энергетический кризис. И он наступит скоро. И под «скоро» я имею в виду всего несколько сотен лет. На самом деле у нас не так много времени. И что же делать? Ну, можно выбрать жизнь в условиях стазиса, когда вы ограничиваете количество энергии, которую нам дозволено использовать... Стазис — это, по-моему, очень плохо... [Но] Солнечная система может легко обеспечить существование триллиона человек. И если бы у нас был триллион человек, у нас была бы тысяча Эйнштейнов и тысяча Моцартов, а также практически неограниченные ресурсы и практически неограниченная солнечная энергия. Вот в каком мире я хочу, чтобы жили правнуки моих правнуков»39.

В своем выступлении в 2019 году Безос подробно остановился на опасностях стазиса: «Жизнь в стазисе — это контроль над рождаемостью в сочетании с нормированием энергии. Вот в каком мире стазиса вы будете жить, если останетесь [на Земле]»40. Тем временем Илон Маск видит альтернативу росту в еще более мрачных тонах, нежели стагнация и нормирование: он описывает стремление к созданию космических колоний в манихейских категориях — как борьбу между «светом сознания» и вечной тьмой вымирания41. Маск и Безос не одиноки в подобных суждениях. Они весьма популярны среди генеральных директоров технологических компаний и венчурных капиталистов, грезящих о бесконечном будущем инвестиционных возможностей в глубоком космосе. Наиболее четкая формулировка этого тезиса прозвучала в подкасте Anatomy of Next, созданном Founders Fund, крупной технологической венчурной компанией. «Судьба человечества — это бинарный выбор. Мы можем построить совершенно новые миры вокруг новых звезд или угаснуть, — провозгласил Майк Солана, ведущий подкаста и директор по маркетингу Founders Fund. — Этот подкаст о том, как не угаснуть никогда»42.

Этот выбор между бесконечным ростом и гибелью человечества — ложная дихотомия. Возможны и другие, вполне благополучные варианты будущего, в то время как бесконечный рост попросту невозможен. Исторически экономический рост всегда был тесно связан с ростом энергопотребления. Подобно тому как мировой ВВП за последние несколько десятилетий рос в среднем на 3–5 % в год, потребление энергии за тот же период увеличивалось в среднем на 3 % ежегодно. Но так не может продолжаться до бесконечности. Если энергопотребление человечества продолжит расти даже более скромными темпами — на 2,3 % в год, — то примерно через четыреста лет мы достигнем предела Земли: мы будем расходовать столько же энергии, сколько Солнце ежегодно посылает на всю земную поверхность. (К этому моменту другие невозобновляемые источники энергии давно бы иссякли, за возможным исключением урана. Но при таком уровне энергопотребления законы физики гарантируют, что выделяемое тепло в любом случае испарит океаны.)43 Именно это имел в виду Безос: чтобы потребление энергии росло и дальше, нам пришлось бы покинуть Землю. Однако Безос, похоже, упустил из виду ключевой момент: хотя доступная на Земле энергия действительно конечна, энергия в космосе столь же конечна и точно так же подчиняется лимитам роста. Если бы рост энергопотребления человечества продолжался теми же темпами и после четырехвекового рубежа, то через 1350 лет мы бы поглощали всю энергию, производимую Солнцем; еще через 1100 лет — всю энергию, производимую всеми звездами Млечного Пути. А примерно через 1250 лет после этого, то есть через 3700 лет от сегодняшнего дня, мы бы расходовали всю энергию, производимую всеми звездами в наблюдаемой Вселенной.44 Если Безос считает, что прекращение роста энергопотребления неизбежно ведет к культуре стагнации, ему лучше привыкать к этой мысли. В какой-то момент в ближайшие 3700 лет — а это всего около 80 процентов от нынешнего возраста Великой пирамиды в Гизе — человечеству придется прекратить наращивать потребление энергии. И это, скорее всего, произойдет гораздо раньше.45

Тем не менее ложное обещание бесконечного роста как единственной утопии, единственного мыслимого и достойного будущего для человечества, ничуть не тускнеет от подобных соображений. Напротив, как и любая группа, узревшая рай, сторонники такого будущего в первую очередь озабочены надуманными страхами, которые могут помешать осуществлению их маловероятных видений. Это позволяет им сосредоточиться на проблемах, которые они сами же и выдумали, вместо реальных проблем, стоящих перед человечеством сегодня. Одна из таких воображаемых проблем — идея о том, что мы потребляем недостаточно энергии; эту озабоченность Безос разделяет с Марком Андриссеном, пионером интернета и венчурным капиталистом. Вариацию на эту тему предлагает Макаскилл в книге «Что мы должны будущему». Он признает существование предельных ограничений для экономического роста и энергопотребления, но считает, что мы обязаны продолжать расти, пока не накопим достаточно технологий для предотвращения вымирания человечества.46 (Он весьма туманно описывает, как именно это должно выглядеть.) «Меня беспокоит здесь не просто замедление инноваций, а почти полная остановка роста и выход технологического прогресса на плато», — пишет он в главе под названием «Стагнация». — «Стагнация вполне может стать одним из главных источников риска вымирания или необратимого коллапса, с которыми мы сталкиваемся».47

Эти страхи — своего рода вариация на тему стандартных опасений по поводу прекращения роста: якобы это приведет к рецессии или чему-то худшему. (Под «худшим» могут пониматься угроза войны и гибель человечества — тревоги, которые разделяют Макаскилл и лонгтермисты.) Но есть и другое пугало, уникальное именно для технологической индустрии. По мнению рационалистов школы Юдковского, самая насущная проблема в мире — это согласование ИИ (AI alignment): как гарантировать, что цели и желания общего искусственного интеллекта (ОИИ) будут совместимы с человеческими. Рационалисты утверждают, что без согласования ИИ мы стремительно катимся к неизбежному будущему, где мир окажется во власти сверхинтеллектуальной машины. Эта машина не будет злой сама по себе, она просто будет безразлична к людям и их желаниям, обладая при этом возможностью использовать любые ресурсы Земли — включая те, из которых сегодня состоят человеческие тела, — для достижения любых собственных целей.

Это апокалиптическое видение — оборотная сторона утопии Сингулярности, движимой ИИ, и стоящие за ним рассуждения столь же несостоятельны — особенно утверждение, будто предотвращение этого сценария является важнейшей задачей, стоящей сегодня перед человечеством. Подобно тому как технологические миллиардеры боятся стагнации и угасания, одержимость рационалистов согласованием ИИ позволяет им игнорировать реальные проблемы сегодняшнего дня в угоду воображаемым проблемам завтрашнего. У лонгтермизма тоже есть эта проблема, на что указывал сам Питер Сингер. «Взгляд на текущие проблемы — помимо вымирания нашего вида — сквозь призму "лонгтермизма" и "экзистенциального риска" может обесценить их почти до нуля, одновременно служа оправданием практически для любых действий, повышающих наши шансы выжить достаточно долго, чтобы расселиться за пределами Земли, — пишет он. — Предпринимая шаги по снижению риска нашего вымирания, мы должны сосредоточиться на средствах, которые также отвечают интересам людей настоящего и ближайшего будущего».48

Макаскилл и другие сторонники эффективного альтруизма и лонгтермизма утверждают, что это не их позиция и что эффективный альтруизм не считает, будто цель оправдывает средства. «Здравомыслящий сторонник эффективного альтруизма должен решительно выступать против логики "цель оправдывает средства"», — писал Макаскилл.49 Но Питер Сингер прав. Моральные рамки лонгтермизма легко адаптировать под любую выбранную вами идеологию. Во имя спасения будущего цивилизации можно оправдать практически все что угодно.

В этом-то всё и дело. Пока такие миллиардеры, как Илон Маск и Джефф Безос, облекают обоснование своего поведения в апокалиптические формулировки лонгтермизма и смежных идей — то есть пока они утверждают, что делают всё это ради спасения будущего человечества, — они могут выставлять своих критиков врагами цивилизации и человеческого вида. Маск поступил именно так, причем вполне недвусмысленно: он заявил, что лонгтермизм «очень близок моей философии», и утверждает, что лишь предпринимает шаги, необходимые для сохранения человечества.50 «Идея Илона о том, что SpaceX выполняет миссию по скорейшему достижению Марса ради спасения человечества, пронизывает всю компанию», — говорит Том Молин, бывший инженер SpaceX. «Компания оправдывает пренебрежение всем, что может помешать достижению этой цели, включая безопасность сотрудников». Молина уволили после того, как он пожаловался на условия труда в SpaceX. В расследовании Reuters за 2023 год сообщалось о более чем шестистах производственных травмах в компании, включая ампутации, травмы головы и одну смерть. О большинстве из них так и не сообщили в OSHA. Согласно Reuters, «пренебрежительное отношение к безопасности в SpaceX, по словам более чем десятка действующих и бывших сотрудников, отчасти обусловлено презрением Маска к тому, что он считает бюрократией, а также укоренившейся в компании верой в то, что она выполняет неотложную миссию по созданию в космосе убежища для жителей угасающей Земли».51

Подобная одержимость одной идеей всё упрощает. Вместо того чтобы содержательно отвечать на обоснованную критику — или признать сопричастность самих себя и своих компаний к сегодняшним проблемам, — технологические миллиардеры могут просто отмахиваться от критиков, заявляя, что тем не хватает масштаба мышления, чтобы понять их цели. «Я выиграл в лотерею, в гигантскую лотерею под названием Amazon.com. И я использую свой выигрыш, чтобы продвинуть нас чуть дальше в космос», — сказал Джефф Безос в 2017 году. «Нам нужно строить многоразовые ракеты, и именно этому посвящена Blue Origin… брать мой выигрыш в лотерею Amazon и отдавать [его] на [это]… Это страсть, но это также и важно».52 Не смотрите на ужасающие условия труда в местном логистическом центре Amazon. Смотрите лучше на блестящую ракету. Игнорируйте проблемы этого мира. В космосе всё будет лучше.

*    *    *

Здесь действует целая идеология — разветвленная и аморфная. Ее подпитывает целый комплекс взаимосвязанных устремлений, разделяемый рядом влиятельных лиц и сообществ в технологической индустрии и районе залива Сан-Франциско. Эти группы — лонгтермисты, сторонники Сингулярности, рационалисты и другие — тесно связаны друг с другом. Их связывают прямые человеческие контакты (состав этих групп во многом пересекается), а также общие цели и убеждения. В частности, их идеи объединяют три важные черты, которые во многом объясняют популярность этих воззрений как внутри самих групп, так и в технологической индустрии в целом.

Во-первых, эти идеи редукционистские, поскольку сводят все проблемы к технологическим. Все беды мира будут устранены, когда наступит Сингулярность, или когда сверхинтеллектуальный ИИ решит их за нас, или когда мы отправимся в космос. Глобальное потепление можно победить с помощью нанотехнологий.53 Болезни, смерть и любые другие проблемы, связанные с наличием физического тела, можно решить путем переноса разума в компьютер. Социальные и политические проблемы — включая те, что созданы самими технологическими компаниями, — отметаются как несущественные или второстепенные по сравнению с более «насущными» задачами: например, предотвращением создания несогласованного ИИ или заботой о судьбе гипотетических нерожденных квадриллионов людей, которые могли бы жить на другом конце космоса через миллиард лет. Это философия плотников, твердо уверенных, что весь мир — это гвоздь, который обязательно поддастся их стараниям.

Во-вторых, эти идеи выгодны: они прекрасно согласуются с финансовыми интересами технологической индустрии, суля вечный рост. Безос приравнивает прекращение роста к «цивилизации стагнации». Лонгтермисты говорят о важности максимального увеличения численности человеческого вида, чтобы обеспечить существование как можно большего числа счастливых жизней. Венчурные капиталисты из Founders Fund заявляют, что бесконечная экспансия в будущем — единственный достойный путь для человечества. Обоснования звучат благородно, но цель одна и та же: рост любой ценой, рост, который повлечет за собой увеличение корпоративных прибылей и инвестиционных портфелей миллиардеров.

В-третьих, и это, пожалуй, самое главное, эти идеи предлагают трансцендентность, позволяя своим приверженцам чувствовать, что они могут спокойно игнорировать любые ограничения. Отправляйтесь в космос — и вы сможете забыть о дефиците ресурсов, не говоря уже о юридических ограничениях. Будьте лонгтермистом — и вы сможете игнорировать общепринятую мораль, оправдывая любые свои действия тем, что они необходимы для обеспечения будущей безопасности человечества. Приближайте Сингулярность — и вы сможете игнорировать саму смерть или, по крайней мере, убедить себя в том, что сможете отложить ее на несколько миллиардов лет.

Эта совокупность взаимосвязанных концепций и философских идей, которую я буду называть идеологией технологического спасения, лежит в основе мировоззрения многих венчурных капиталистов, топ-менеджеров и других «лидеров мнений» в технологической индустрии. Эта идеология сулит славное будущее: безудержный, ничем не сдерживаемый технологический прогресс. Согласуйте ИИ, предотвратите апокалипсис, а со всем остальным справятся технологии. Человечество распространится по космосу, осваивая все новые и новые запасы природных ресурсов. Любые ограничения для экономического роста и энергопотребления исчезнут сами собой. ИИ увеличит продолжительность нашей жизни в триллионы раз, слившись с нами или загрузив наш разум в свой кремниевый рай. Вся эта запутанная мешанина междоусобных конфликтов, политической борьбы, политики идентичности и всевозможных видов неравенства просто утратит актуальность. А действия, направленные на приближение этой утопии путем тотальной и беспощадной оптимизации всего на свете, провозглашаются величайшим благом.

Это будущее (или этот набор сценариев будущего) попросту нежизнеспособно. Если взять лишь один пример, нет ни одного убедительного, научно обоснованного аргумента в пользу того, что будущее человечества станет безопаснее, если мы построим поселение на Марсе (на самом деле это может сделать его даже менее безопасным), да и технологий для строительства подобного поселения сегодня не существует. Более того, есть все основания полагать, что создать на Марсе самодостаточную человеческую цивилизацию практически невозможно — по крайней мере, без радикального изменения биологии человека, что тоже может оказаться невыполнимым. Уровень радиации там слишком высок, гравитация слишком слаба, воздуха нет, а грунт буквально состоит из яда. С этой идеей связано множество других проблем, хотя она — одна из самых простых во всех этих футуристических видениях. На фоне межзвездных перелетов полет на Марс выглядит как быстрая поездка по делам после работы. Различия между компьютерной архитектурой и нейрофизиологией человека (не говоря уже о сложности прижизненного сканирования мозга на атомном уровне) делают перенос человеческого разума в компьютер в лучшем случае сомнительной перспективой. Список трудностей можно продолжать бесконечно. Но все эти препятствия не помеха для идеологии технологического спасения, которая рядится в научные одежды, прекрасно понимая, какой авторитет дает печать научной истины. С одной стороны, наука привлекается для оправдания притязаний этой идеологии, а с другой — реальные научные сомнения в реализуемости этих планов отметаются так же легко, как и любые другие ограничения.

Эффективный альтруизм и лонгтермизм идеально вписываются в эту картину. И неважно, что мы игнорируем бедственное положение тихоокеанских островных государств, которые поглощает поднимающийся океан и терзают вызванные глобальным потеплением штормы; неважно и то, что есть веские научные причины сомневаться в способности человечества расселиться по космосу. Достаточно лишь одного шанса на квинтиллион, что подобное будущее все-таки наступит — будущее, в котором дециллионы еще не родившихся людей будут жить на не открытых нами планетах, пользуясь технологиями, создание которых, возможно, никогда не станет осуществимым.

Несмотря на его настойчивые утверждения, что для эффективных альтруистов цель не всегда оправдывает средства, временами Макаскилл опасно приближался к одобрению такой версии эффективного альтруизма, которая поразительно напоминает новое «Евангелие богатства», облекающее богатых налетом моральной добродетели — особенно когда речь заходит о концепции «зарабатывать, чтобы отдавать». «Очевидно, есть некоторые опасения, что вы оторветесь от реальности и растеряете свои ценности, но я склоняюсь к мысли, что риск этого при подходе „зарабатывать, чтобы отдавать“ ничуть не выше, чем при прямом участии, — говорит он. — Если вы зарабатываете, чтобы отдавать, вы живете в полном комфорте: вы отдаете 50 процентов, но у вас все равно остается отличная зарплата, вы работаете с очень умными людьми и знаете, что приносите колоссальную пользу, ведь вы можете жертвовать благотворительным организациям с доказанной эффективностью»54.

Подход «зарабатывай, чтобы отдавать» основан на идее о том, что источник денег далеко не так важен, как цели, на которые они идут. В статье, обосновывающей моральную сторону такого подхода, Макаскилл пишет, что зачастую «с этической точки зрения предпочтительнее заниматься филантропией, выбрав более высокооплачиваемую, но сомнительную с моральной точки зрения карьеру» — например, «работу в нефтехимической компании, работу в оборонной промышленности или некоторые сферы финансов — скажем, спекуляцию пшеницей, которая усиливает колебания цен и лишает средств к существованию беднейшие слои населения планеты»55. Отсюда и тесные связи эффективного альтруизма с технологическими миллиардерами, которые Макаскилл и другие лидеры движения усердно культивировали. Тем временем его друг Сэм стал одним из таких миллиардеров. И когда Сэм основал благотворительный фонд, он предложил Макаскиллу руководящую должность. Деньги Сэма поступали от криптовалюты — финансовых инструментов, известных своей крайней нестабильностью и разрушительным воздействием на окружающую среду. Он заверил Макаскилла, что покупает углеродные компенсации и борется за снижение углеродного следа криптоиндустрии в целом56. Поэтому Макаскилл принял предложение Сэма и помогал распределять его состояние. Но в итоге Макаскилл оказался прав: порой цель все-таки не оправдывает средства.

*    *    *

Еще работая в Центре эффективного альтруизма, Сэм начал задумываться о том, как заработать огромные деньги, чтобы принести миру больше пользы (или, по крайней мере, так он утверждал позже)57. И нашел способ: арбитраж биткоина, то есть извлечение выгоды из разницы курсов биткоина и обычных, «фиатных» валют вроде доллара США и японской иены. Сэм знал, что теоретически на этом можно заработать: купить биткоины за доллары, продать их за иены, а затем обменять иены обратно на доллары. На практике же японские банковские правила, направленные на борьбу с отмыванием денег и иной преступной деятельностью, делали подобную цепочку сделок практически неосуществимой.

Что произошло дальше, не вполне ясно. По словам Сэма, он нашел небольшой сельский японский банк, готовый проводить нужные ему транзакции. Один из знакомых Сэма по движению эффективного альтруизма в Японии открыл там счет. Начав с 50 тысяч долларов, новая компания Сэма, Alameda Research, приступила к торгам, гоняя биткоины туда-сюда между США и Японией с доходностью в 10 процентов ежедневно. Доказав, что способен делать это стабильно, Сэм снова воспользовался своими связями в сообществе эффективного альтруизма. Он начал нанимать людей: первые пятнадцать сотрудников пришли из сообщества эффективного альтруизма. «Все это не взлетело бы без эффективного альтруизма», — признавался Нишад Сингх, один из первых сотрудников Сэма. «Все сотрудники, все финансирование — на первых порах все было связано с эффективным альтруизмом»58. Сэм получил кредит на сумму 110 миллионов долларов от Яана Таллинна (под умопомрачительные 43 процента годовых), который и составил большую часть первоначального капитала Alameda. Всего через несколько месяцев Таллинн потребовал вернуть большую часть кредита, но к тому моменту Alameda приносила уже более чем достаточно, чтобы покрыть долг59. На это новое состояние Сэм начал строить свою империю.

В 2019 году Сэм запустил новую платформу для торговли криптовалютой. Если бы она оказалась успешной — а Сэм делал ставку именно на это, — она позволила бы ему и его коллегам из сообщества эффективного альтруизма в Alameda зарабатывать на комиссиях за транзакции и инвестировании имеющегося капитала (подобно тому как инвестиционный банк поступает с деньгами клиентов), то есть заниматься «зарабатыванием, чтобы отдавать» в колоссальных масштабах. Загвоздка заключалась в том, что торговля криптовалютой сомнительна с этической точки зрения: помимо прочего, феноменально сложные вычисления требуют от компьютеров колоссальных затрат энергии, большая часть которой вырабатывается за счет ископаемого топлива. В 2022 году мировое потребление энергии, связанное с криптовалютной деятельностью, оценивалось в 120–240 миллиардов киловатт-часов — это больше, чем вся Австралия потребляет за год, и составляет почти 1 процент от общего объема электроэнергии в мире. Углеродный след от криптовалюты столь же огромен: выбросы составляют около 140 миллионов метрических тонн углерода в год, что превышает годовые выбросы Австрии, Норвегии и Португалии вместе взятых60. В обмен на этот удар по экологии экономика получает нерегулируемый финансовый инструмент, который гораздо более громоздок и менее полезен, чем обычная валюта. Но в одном Сэм точно оказался прав — на этом можно было заработать кучу денег: уже через два года после запуска своей новой криптовалютной торговой фирмы Сэм превратил свои миллионы в миллиарды. Он набрал в высшее руководство компании друзей со времен работы в Jane Street и из сообщества эффективного альтруизма. Он привлек Макаскилла к руководству благотворительным фондом, который создал для распределения своего нового богатства. К 2021 году компания Сэма стала третьей по величине криптоторговой платформой в мире61. Руководители компании принимали знаменитостей и инвесторов в своей новой штаб-квартире на Багамах. Состояние Сэма превысило 20 миллиардов долларов, что сделало его самым богатым человеком в мире моложе тридцати лет. В августе 2022 года — в том же месяце, когда вышла книга «Что мы должны будущему», — он даже попал на обложку журнала Fortune с заголовком, вопрошающим, не является ли Сэм Бэнкман-Фрид «следующим Уорреном Баффетом».

Остальную часть истории вы, вероятно, уже знаете. Криптовалютная биржа Сэма Бэнкмана-Фрида, FTX, с грохотом рухнула в ноябре 2022 года. Он и его ближайшие помощники в FTX использовали средства с личных счетов клиентов для покрытия сделок, совершаемых Alameda Research — хедж-фондом, которым Бэнкман-Фрид (он же SBF) и его банда эффективных альтруистов продолжали управлять параллельно с торговой платформой. Когда осенью 2022 года активы Alameda обесценились вместе с крипторынком, клиенты FTX остались у разбитого корыта: по оценкам, Бэнкман-Фрид и компания проиграли на неудачных ставках около 8 миллиардов долларов клиентских средств, а также спустили их на элитную недвижимость, политические пожертвования и другие роскошные покупки. В декабре 2022 года SBF арестовали на Багамах и экстрадировали в США; позже его признали виновным в мошенничестве с ценными бумагами, мошенничестве с использованием электронных средств связи, отмывании денег и по ряду других обвинений. В итоге его приговорили к двадцати пяти годам заключения в федеральной тюрьме62.

Падение Бэнкмана-Фрида случилось в самый неподходящий момент для Макаскилла и лонгтермистов. Всего через несколько месяцев после выхода книги «Что мы должны будущему», когда восторженные отзывы в прессе еще продолжали сыпаться, новость о крахе SBF взорвала информационное пространство. Сообщения о разоблачении юного криптокороля-мошенника были повсюду, и во многих подробных статьях разбиралась необычная моральная философия, которая якобы лежала в основе его карьеры. В то же самое время, когда SBF проворачивал свои крупномасштабные финансовые махинации, он щедро спонсировал множество организаций эффективного альтруизма. Фонд FTX Future Fund — подразделение благотворительной организации FTX, в команду которого входили Макаскилл и другие светила эффективного альтруизма, — выделял гранты на типичные для эффективного альтруизма и лонгтермизма направления, такие как исследования по выравниванию ИИ и подготовка к пандемиям. Они давали деньги собственным организациям Макаскилла, в том числе почти 27 миллионов долларов — фонду Effective Ventures63. Они также жертвовали миллионы долларов другим лонгтермистским и рационалистическим организациям и рекомендовали инвестиции для продвижения лонгтермистских и рационалистических идей, включая 400 тысяч долларов «на поддержку создания анимационных видеороликов по темам, связанным с рациональностью и эффективным альтруизмом, для объяснения этих тем широкой аудитории»64. Семейный фонд SBF, Building a Stronger Future, также делал пожертвования новостным организациям, освещающим темы эффективного альтруизма. В частности, он выделил 200 тысяч долларов новостному сайту Vox (где уже был раздел Future Perfect, посвященный журналистике с позиций эффективного альтруизма) специально для публикаций о «технологических и инновационных барьерах, препятствующих человеческому прогрессу», и миллионы долларов другим изданиям, таким как ProPublica и Semafor65. (Гранты, выданные Effective Ventures, Vox, ProPublica и Semafor, с тех пор были возвращены в конкурсную массу FTX в рамках продолжающейся процедуры банкротства.) Теперь, благодаря SBF, желание сообщества эффективного альтруизма наконец сбылось. Эффективный альтруизм ворвался в массовое сознание — но наихудшим из всех возможных способов. «Как эффективный альтруизм допустил появление Сэма Бэнкмана-Фрида», — гласил один из заголовков на сайте Vox сразу после краха SBF66. New York Times, Atlantic, New Yorker, Washington Post и многие другие издания вышли с похожими заголовками67.

В некоторых новостях о крахе FTX всплывали и более странные подробности об SBF и его окружении — вещи, которые на первый взгляд не укладывались в голове. Например, Кэролайн Эллисон, бывшая девушка SBF, его бывшая коллега по Jane Street и бывший генеральный директор Alameda Research, судя по всему, вела странный аккаунт в Tumblr. В сообщениях СМИ об этом блоге под названием «worldoptimization» приводились крайне убедительные доказательства того, что за ним стояла именно Эллисон (автор Tumblr обладал множеством черт, присущих Эллисон, аккаунт ссылался на ее Twitter, да и сам SBF подтвердил, что блог принадлежал ей)68. Пресса также обратила внимание на то, что она одобрительно писала о расистской лженауке «человеческого биоразнообразия» (human biodiversity), а также признавалась, что раньше считала «сексуальную революцию ошибкой» и верила, будто «женщины больше приспособлены для ведения домашнего хозяйства и воспитания детей, чем для построения карьеры»69. Но были там и другие публикации, которые большинству наблюдателей казались еще более бессмысленными. В список «~милых мальчишеских качеств~» она включила «контроль над большинством ключевых мировых правительств» и «ответственность за множество важных изобретений и научных открытий», подкрепив этот список рядом утверждений:

если ты парень, который стремится добиться успеха в амбициозных целях, ты нормальный

если ты парень, который приходит к собственному мнению путем логических рассуждений, ты нормальный

если ты парень, которому хватает уверенности отстаивать нестандартные идеи и действовать в соответствии с ними, ты нормальный70

Эти цитаты из предполагаемого блога Эллисон в Tumblr, по всей видимости, содержат косвенные отсылки к основополагающему тексту сообщества рационалистов, да и само название блога — «worldoptimization» — указывает на него напрямую71. Хотя эффективный альтруизм теоретически не зависит от рационализма, эти две группы настолько сильно пересекаются по составу участников — так много эффективных альтруистов являются рационалистами, и наоборот, — что на практике невозможно полностью проанализировать поведение и мотивы одной группы в отрыве от другой. В этом контексте публикации в Tumblr Эллисон кажутся уже не столько нелепыми, сколько пугающими. Она и другие сотрудники FTX, судя по всему, верили, что ради спасения мира им необходимо копить богатство и власть, чтобы направлять будущее человечества исключительно силой экономического и политического влияния, независимо от того, нравятся ли их идеи остальным из нас или нет.

Но верил ли SBF на самом деле, что спасает мир, а не просто копит богатство и власть, — само по себе под вопросом. Летом 2022 года он сказал журналистке Келси Пайпер (которая сама является сторонницей эффективного альтруизма и работает в Future Perfect, связанном с этим движением разделе Vox): «Существует множество сложных, но важных побочных эффектов второго порядка, если ваш основной бизнес вредит миру, с точки зрения... вашей способности работать с партнерами в вашей благотворительной деятельности». Но в ноябре того же года, когда FTX рушилась прямо у него на глазах, он снова пообщался с Пайпер (на этот раз в личных сообщениях в Твиттере), и она спросила его, был ли этот ответ искренним или он просто сказал то, что от него ожидали. «Чувак, вся та глупая чушь, которую я нес, — написал он. — Это неправда, во всяком случае, не совсем... Мне жаль тех, кого из-за этого поимели, из-за этой дурацкой игры, в которую играем мы, прогрессивные жители Запада, когда произносим все правильные шиболеты [sic], чтобы всем нравиться»72. Позже SBF заявил New York Times, что имел в виду гринвошинг и подобные пустые корпоративные пиар-кампании; он также утверждал, что «по глупости забыл», что Пайпер — журналистка73.

Но верит ли ультрабогатая технологическая элита на самом деле в этические обоснования, предлагаемые лонгтермизмом, и в будущее, обещанное технологическим спасением, или нет, подобные идеи могут служить удобным инструментом для пиара. О планах Илона Маска по заселению Марса Люсианна Валкович, астроном и сооснователь JustSpace Alliance, говорит мне следующее: «Я не сомневаюсь, что он действительно хочет этого и считает идею захватывающей». Но, добавляют они, «это звучит гораздо лучше, чем: „Мы бы хотели получить побольше контрактов с НАСА, пожалуйста“... И мне кажется, что иногда вопрос „Зачем люди говорят об [этом желании полететь на Марс]?“ на самом деле вообще не связан с желанием туда отправиться. Он связан с созданием красивой истории о том, ради чего на самом деле осуществляются их земные проекты»74.

Даже если миллиардеры из Кремниевой долины используют риторику технологического спасения и рисуют подобные картины будущего лишь для того, чтобы снискать расположение общественности, это работает только потому, что другие люди действительно верят в эти идеи или, по крайней мере, находят их правдоподобными. Таким образом, осмысление идеологии технологического спасения — это не просто попытка понять мотивы ультрабогатых людей. Это также важнейший шаг к ослаблению их власти. Технологическое спасение используется как предлог для того, чтобы направить общество по опасному пути во имя невыполнимого будущего. Вырваться из плена этих видений — значит понять их суть. Для технологической элиты это видения трансцендентности, избавления. Но для всех остальных они не сулят никакого избавления — лишь приближающиеся кошмары. Чтобы очнуться от этого сна, мы должны сначала понять его очертания. И лучше всего начать с чистейшего выражения этой идеологии непрерывного роста, фантастического видения идеальной, неостановимой и неизбежной технологической утопии — Сингулярности.