Первая предпосылка гласит, что хотя бы одна из десяти популяций не-симов создаст тысячу популяций симов. Обратите внимание, эта предпосылка касается того, что будут делать популяции не-симов в целом, а не того, что будем делать мы.
Возражения против первой предпосылки – это возражения в стиле «Такого никогда не случится»: симуляция невозможна, симуляция слишком сложна, все популяции не-симов умрут до создания симов, не-симы предпочтут не создавать симуляции. Мы можем назвать эти возражения блокаторами симов*, поскольку они будут стремиться блокировать (или предотвратить) существование симов.
Разумные симы невозможны*. Одно из возражений заключается в том, что процессы, порождающие разумное поведение, не поддаются вычислению – то есть их невозможно успешно смоделировать на компьютере. Это может быть связано с тем, что нефизический ум влияет на поведение непостижимым образом. Также это может быть связано с тем, что в мозге существуют физические процессы, которые невозможно смоделировать. Например, физик-математик Роджер Пенроуз предположил, что теория квантовой гравитации (то есть теория, пытающаяся объединить квантовую механику и общую теорию относительности) может включать процессы с неалгоритмическим элементом, который имеет решающее значение для поведения человека. Если так, то может оказаться, что разумные симы невозможны – а следовательно, симы вообще невозможны, поскольку мы уже говорили, что симы разумны по определению.
Существование таких процессов было бы удивительным, поскольку в настоящее время имеется мало свидетельств существования в природе невычислимых процессов. Если в природе все же имеются процессы, которые не может смоделировать ни один классический компьютер, то, быть может, их удастся использовать для создания нового типа более мощного компьютера. Мы уже знаем, что, руководствуясь квантовой механикой, можно создать квантовые компьютеры. Если Пенроуз прав в том, что квантовая гравитация включает процессы, которые не поддаются классическому вычислению, мы должны быть в состоянии использовать эти процессы для создания более мощных квантово-гравитационных компьютеров*, которые не смоделирует ни один классический компьютер. Тогда эти квантово-гравитационные компьютеры могли бы смоделировать процессы нашего мозга, и в итоге мы получили бы новую версию аргумента в пользу симуляции с участием этих сверхмощных компьютеров.
Симы потребляют слишком много вычислительной мощности. Здесь идея заключается в том, что для моделирования целой популяции разумных существ человеческого уровня потребовалось бы нереальное количество вычислительной мощности. Однако это далеко не очевидно. Мозг велик, но конечен. Он содержит около 100 миллиардов нейронов с примерно 1000 соединениями (или синапсами) для каждого нейрона. По нынешним оценкам, мозг совершает примерно 10 квадриллионов (1016) операций с плавающей запятой в секунду (или флопсов) – вычислительная скорость, также известная как 10 петафлопсов*. Это много, но это примерно на одном уровне с лучшими из существующих суперкомпьютеров.
Если это верно, то, как только мы узнаем достаточно о мозге, одна секунда времени работы суперкомпьютера позволит симулировать одну секунду обработки данных мозгом. Если технология будет развиваться с обычной скоростью, можно ожидать, что скорость работы компьютеров будет увеличиваться в десять раз каждое десятилетие или в 10 миллиардов раз (1010) за столетие. Это говорит о том, что в течение столетия (при скорости 1026 флопсов) за секунду компьютерного времени можно будет смоделировать 10 миллиардов мозгов на секунду каждый. В течение следующего столетия (при скорости 1036 флопсов) за секунду компьютерного времени можно будет смоделировать 10 миллиардов мозгов на жизненный срок в 100 лет (или 3 миллиарда секунд) каждый. Для полномасштабного моделирования потребуется также создать окружающую среду, но нет видимых причин, по которым это должно увеличивать рабочую нагрузку более чем на два-три порядка. Таким образом, для всего этого потребуется скорость вычислений около 1039 флопсов. И даже если прогресс замедлится, это, в принципе, все еще будет в пределах возможностей будущих компьютеров.
В нынешнем виде Вселенная обладает огромным неиспользуемым потенциалом для вычислений*. В громадном пространстве содержится гигантское количество материи. Материя также имеет обширную микроструктуру, которую можно использовать для вычислений. Как в 1959 году озаглавил посвященную нанотехнологиям лекцию Ричард Фейнман: «Внизу много места». Физик Сет Ллойд подсчитал, что теоретически система весом в один килограмм может выполнять до 1050 операций в секунду. Этот метод использует быстро испаряющуюся черную дыру, поэтому у него много ограничений, но предлагались и другие методы, которые выполняют более 1040 операций в секунду. Даже с небольшой долей этих ресурсов эффективное моделирование огромных популяций окажется тривиальным.
Если Вселенная конечна, то будут и пределы. В один прекрасный день большая часть доступной материи может быть превращена в компьютроний* – гипотетическое состояние, в котором материя используется для вычислений настолько эффективно, насколько это вообще возможно. С этого дня создание новых крупных симуляций может стать непомерно трудным. Однако этот день находится гораздо дальше в будущем, чем тот, когда симуляции станет легко создавать. Логично предположить, что к тому моменту в нашем далеком будущем количество симуляций значительно превысит количество не-симуляций. Таким образом, долгосрочный предел мощности компьютеров не представляет собой большого препятствия для рассматриваемого аргумента.
Однако вас может обеспокоить другое: если мы находимся в симуляции, все имеющиеся свидетельства о спрятанных в физике окружающего мира теоретических запасах вычислительных мощностей могут оказаться фикцией*. Может быть, разработчики поместили нас в недорогую симуляцию, возможности которой не простираются так далеко. Если это так, то, когда мы попытаемся создать гигантские симуляции, мы можем потерпеть неудачу. Ясно, что разработчики нашей симуляции обладают возможностями поддерживать, как минимум, одну симуляцию, но, быть может, – не миллионы симуляций, которые указаны в первой предпосылке. Однако это возражение имеет под собой почву только в том случае, если мы уже находимся в симуляции, – а если мы в симуляции, то можем гораздо быстрее прийти к выводу о том, что мы, вероятнее всего, находимся в симуляции!
Не-симы вымрут раньше, чем появятся симы*. Звучит пессимистично, однако мы понимаем, что подобное вполне возможно. Технологии создания ядерного оружия уже сейчас способны уничтожить большую часть или все человечество на этой планете. Многие считают, что нанотехнологии вскоре смогут делать то же самое, запустив на микроскопическом уровне цепную реакцию, которая превратит все в «серую слизь». Уже в этом столетии искусственный интеллект сможет стать достаточно мощным для того, чтобы уничтожить, если пожелает, всю разумную жизнь на Земле. Эти возможности иногда называют «экзистенциальными рисками»* – рисками, которые угрожают самому существованию людей и разумной жизни в целом.
Некоторые экзистенциальные риски, вероятно, трудно избежать. Все, что нам нужно, – это разрушительная технология, отвечающая следующим условиям. Во-первых, ее неизбежно обнаружат популяции человеческого уровня развития. Во-вторых, ее достаточно легко и заманчиво использовать, к чему неизбежно и приведет открытие. В-третьих, она настолько разрушительна, что при ее использовании погибнут все. Нетрудно представить, что в итоге сверхразрушительные ядерные технологии могут стать доступными практически кому угодно, что приведет к неизбежной гибели. То же самое может касаться нанотехнологий, искусственного интеллекта или какой-нибудь неизвестной пока технологии. Если и есть надежда, то она заключается во втором условии. Возможно, существует какой-то способ предотвратить использование всеразрушающей технологии. Но к гипотезе о том, что разумные цивилизации неизбежно уничтожат сами себя, следует отнестись серьезно.
Эта гипотеза могла бы объяснить некоторые наши наблюдения. Например, почему мы никогда не видели признаков внеземного разума – разумные популяции уничтожают себя примерно в то же время, когда обретают способность посылать сигналы. Это также могло бы объяснить, почему кажется, что мы живем в начале истории человечества. Эти рассуждения лежат в основе так называемой теоремы о конце света, придуманной астрофизиком Брэндоном Картером и философом Джоном Лесли. Их ключевое утверждение заключается в том, что с вероятностной точки зрения любой из нас может предполагать, что до него на Земле родилось примерно столько же людей, сколько родится после. Учитывая быстрый рост человеческой популяции, это означает, что стоит ожидать окончания существования человечества в течение столетий, а не его продолжения еще на миллионы лет (в этом случае мы были бы в самом начале истории человечества).
Тем не менее гипотеза о том, что почти все популяции человеческого уровня погибают до того, как получают возможность создать множество симуляций, была бы удивительной, окажись она верна. Разумно предположить, что хотя бы одна из десяти популяций человеческого уровня будет обладать достаточной коллективной рациональностью, чтобы не уничтожить саму себя; или, если для вас это вдруг слишком оптимистично, мы можем рассмотреть версию аргумента, требующую выживания лишь одной из тысячи популяций.
Не-симы предпочтут не создавать симов. В этом сценарии популяции человеческого уровня развивают способность создавать множество симуляций с популяциями, однако в итоге они отказываются от реализации этой возможности. Возможно, они считают это слишком рискованным. Возможно, те немногие популяции, которые пережили появление всех разрушительных технологий, крайне не любят рисковать и беспокоятся, например, о том, что симы сбегут из симуляции и захватят их мир. Возможно, они считают неэтичным создавать мир, в котором симы могут пострадать. Или, возможно, им просто неинтересно – у них могут быть иные приоритеты.
Тем не менее для создания этих симуляций существует множество серьезных стимулов. Во-первых, обычное любопытство, в том числе научное – запустив симуляцию, можно узнать много нового. Уже сейчас для ученых привычно запускать на ночь тысячи небольших компьютерных симуляционных моделей и, возвращаясь утром, собирать результаты. Легко представить, как то же самое будет происходить с моделированием популяций. Здесь также может присутствовать практическое соображение – прежде чем принять сложное решение, часто имеет смысл сначала его смоделировать и посмотреть, как пойдут дела*. И с этической точки зрения, вероятно, возникнет необходимость создавать миры, в которых хорошее значительно перевешивает плохое. Учитывая возможность создавать симуляции и стимул для этого, было бы удивительно, если бы этим занималось лишь небольшое число популяций.
Будет создано больше не-симов, чем симов. Могли бы мы создать для всех этих целей не-симов вместо симов? Например, использовали бы роботов в физическом пространстве. А чтобы смоделировать нашу историю, населили бы терроформированную среду искусственными биологическими организмами.
В принципе это было бы возможно, однако создание симов выглядит значительно дешевле и проще. Не-симы требуют гораздо больших физических ресурсов. Как уже было сказано выше, система весом в один килограмм за одну секунду времени может симулировать мир с миллиардом людей, живущих по сто лет каждый. Маловероятно, что биологический мозг способен работать так же быстро. Мозг робота в принципе может работать с той же скоростью, что и мозг сима, однако физическая среда накладывает множество ограничений. Если тела роботов будут работать в масштабах человеческого тела (то есть окажутся несколько больше и тяжелее килограммового ноутбука), то популяция роботов займет более чем в миллиард раз больше места, чем популяция симов. И масса этих роботов будет в миллиард раз больше. Возможно, мы могли бы миниатюризировать их до наноразмеров* (одна миллиардная метра), но тогда их физическая среда и их опыт не будут иметь ничего общего с нашими.
Учитывая все это, стоит ждать, что количество человекоподобных симов будет значительно превосходить количество человекоподобных не-симов (здесь человекоподобные – это те, чей опыт в целом схож с нашим). При этом в основе рассматриваемого аргумента лежит предположение, что не-симам будет дешевле и проще создавать человекоподобных симов, чем человекоподобных не-симов. Если же окажется, что создавать не-симов для тех же целей проще – возможно, с использованием нанотехнологий, бесконечного пространства или дочерних вселенных, – тогда стоит ожидать большего распространения не-симов.
В целом мы можем с уверенностью сказать, что если нет блокаторов симов, то большинство разумных существ – симы. Мы не исключили наличие блокаторов симов полностью, но их присутствие стало бы довольно неожиданным. У нас нет оснований полагать, что попытке создать симов непременно помешают такие вещи, как невычислимые законы, недостаточная мощность компьютеров, почти всеобщее вымирание, почти всеобщее стремление избегать симуляции или бо́льшая эффективность не-симов. А раз нам неизвестны эффективные блокаторы симов, тогда, опираясь на имеющиеся знания, мы можем заключить, что большинство разумных существ – это симы.