Теперь мы можем ответить на симуляционную проблему вагонетки. Ответ отрицательный: неприемлемо убивать пятерых симулированных людей ради спасения одного обычного. Если бы симулированные люди не обладали сознанием, это было бы приемлемо. Но поскольку полномасштабные симуляции людей обладают во многом таким же, как у нас, сознанием, то и моральный статус они имеют тот же, что и мы.

С определенной точки зрения этот вывод может показаться необоснованным. Неужели вы пожертвуете человеческой жизнью ради спасения нескольких компьютерных процессов? Но мы можем задать этот вопрос с другого ракурса, предположив, что мы сами находимся в симуляции. Если мы в симуляции, этично ли для наших создателей убить пятерых из нас, чтобы спасти жизнь одного из своих во вселенной более фундаментального уровня? Я бы сказал, что, с нашей точки зрения, ответ отрицательный. Даже если у создателей есть необходимая для этого сила, это вовсе не делает убийство правильным. То же касается и наших собственных действий по отношению к сознательным людям в созданных нами симуляциях.

Кто-то может сказать, что, хотя сознание и важно для морального статуса, другие факторы тоже имеют значение. Например, возможно, несимулированные люди имеют более высокий моральный статус, чем симулированные, просто потому, что находятся во вселенной высшего уровня. Или, возможно, краткосрочные симуляции менее важны просто потому, что длятся недолго. Однако на мой взгляд, эта точка зрения неоправданна. И опять же, давайте снова представим, что мы являемся обитателями симуляции, и речь идет о нас. Почему тот факт, что мы не находимся во вселенной высшего уровня, должен делать наше убийство более этичным?

Я склонен думать, что по отношению к симам у нас примерно те же моральные обязательства, что и по отношению к не-симам. Если что-то вредит обычному человеку, то же самое вредит и симу. Убивать симов будет так же плохо, как убивать обычных людей. Воровать у симов будет так же плохо, как воровать у обычных людей. Эксперименты над симами могут иметь те же моральные ограничения, что и эксперименты на людях. И так далее.

Однако все это касается того, как мы должны будем вести себя по отношению к симам уже после их появления. А что можно сказать по поводу наличия или отсутствия у нас морального права создавать симов и симуляции в целом?

Давайте начнем с крайних случаев. Допустимо ли создавать симуляцию с участием миллиона сознательных существ, которые испытывают муки на протяжении всего своего существования? Я бы сказал, что очевидно нет. А нормально ли создавать симуляцию с участием миллиона сознательных существ, которые ведут в основном счастливую, насыщенную жизнь? На первый взгляд это кажется приемлемым.

Кто-то может возразить, что даже в симуляциях с миллионом счастливых людей мы «играем в богов». Я считаю, что мы не должны легкомысленно относиться к созданию подобных симуляций. Следует хорошенько обдумать свои действия. Возможно, общество захочет наложить строгие ограничения на то, кто может создавать симуляции вселенной и с какими намерениями.

В то же время сложно понять, почему создание счастливой симуляции было бы аморальным. В конце концов, размножаясь, мы же создаем новые осознанные жизни. Опять же, к этому нельзя относиться легкомысленно. Философы иногда утверждают, что размножение аморально*, поскольку в любой жизни содержится страдание, но с этим согласны очень немногие. Если допустимо произвести на свет обычного человеческого ребенка, то должно быть приемлемо и создание симуляции.

Допустимо ли с моральной точки зрения создавать симов со значительным перевесом счастья по отношению к страданию? Утилитарист может сказать, что это будет нелучший поступок, поскольку предпочтительнее создать мир, где счастье бьет ключом, а страданий нет совсем, и обеспечить процветанием как можно большее число индивидов. Согласно утилитаристской логике, мы должны создать самую масштабную симуляцию, на какую только способны, с симами, которые будут исключительно счастливы и никогда не будут страдать. Возможно, симуляции будут допускать небольшие страдания, поскольку те могут сделать жизнь лучше. Однако даже с этой точки зрения великодушный разработчик запустит самую совершенную из всех возможных симуляций.

Лейбниц считал, что именно так и должен поступать Бог – создавать лучший из возможных миров; соответственно, наш мир – лучший из возможных. Если в нем и есть зло, то оно необходимо затем, чтобы мир был настолько хорош, насколько это вообще возможно.

С другой стороны, разработчики VR могут запустить несколько симуляций. Предположим, что мы уже создали наилучшую из возможных симуляций и теперь подумываем о второй, которая чуть хуже, но в целом замечательна. Стоит ли ее создавать? Кто-то может сказать «нет»: лучше создать копию лучшей симуляции. Однако можно возразить, что идентичная копия не имеет ценности оригинала. Вот один из возможных вариантов развития событий: насколько нам известно, когда две симуляции идентичны, они поддерживают идентичные популяции сознательных существ, поэтому вторая симуляция избыточна. Если так, то, возможно, было бы предпочтительнее создать вторую по качеству симуляцию вместо копии лучшей. Создание второй по качеству симуляции, по крайней мере, тоже привнесет в мир много добра. Согласно этой точке зрения, может существовать моральный императив создавать как можно больше симуляций, в которых счастье будет преобладать над страданиями.

Этот пример можно использовать для формирования теодицеи симуляции*. Теодицея – это теологическое объяснение того, почему Бог допускает существование в мире зла. Теодицея симуляции – это оправдание действий разработчиков. Одна из теодицей симуляции гласит, что благой разработчик симуляций должен создавать миры с преобладанием счастья. Это приведет к появлению в мире страданий только в том случае, если счастье все же будет превалировать над ними. Если гипотеза симуляции верна, то эта идея, вероятно, могла бы даже объяснить существование зла в нашем мире. Или, может быть, наши создатели не особенно великодушны, и у них есть иные приоритеты, помимо благополучия созданных существ.

Другая теодицея симуляции гласит, что разработчики не всемогущи и поэтому не способны учесть все процессы в симуляции. Если бы результат можно было заранее предсказать, было бы меньше причин запускать симуляцию! Поэтому, создавая симулированные вселенные, не стоит рассчитывать на то, что удастся избежать возникновения страданий. Какое-нибудь зло проявит себя непредсказуемым образом. Тем не менее мы можем иметь некоторое представление о том, какие симуляции приводят к хорошей жизни, а какие – нет. А раз так, то при прочих равных условиях мы должны стремиться к первым.

Многие этические теории укажут на то, что моральная сторона создания симуляции может зависеть от наших мотивов. Например, принцип гуманности Иммануила Канта гласит, что нужно относиться к людям не просто как к средству достижения целей, но как к самоцели. Мы всегда должны признавать человечность других и принимать ее во внимание. Неочевидно, что Кант распространил бы свой принцип на не-людей (скажем так), которые обладают разумом и сознанием, или на симулированных людей, но было бы вполне естественно так предположить. Принцип гуманности, который ограничивался бы исключительно людьми, являлся бы видовой дискриминацией. Симы тоже живые создания! Нам нужен расширенный принцип гуманности, распространяющийся на всех сознательных индивидов: мы всегда должны относиться к индивиду не как к средству достижения цели, а как к самоцели.

Расширенный принцип гуманности гласит, что мы должны относиться к симам не как исключительно к средству достижения цели, а как к самоцели. То есть с моральной точки зрения неправильно создавать симулированную вселенную (населенную при этом сознательными существами) просто для развлечения, или просто для предсказывания будущего, или просто для пользы науки. Мы должны уважать индивидуальность созданных нами существ. Создание симулированных вселенных для упомянутых целей может быть допустимо, но только если имеет место уважительное отношение к симам. Например, мы разрешаем и проводим научные эксперименты на людях в тех случаях, когда не причиняется вред испытуемым. Аналогичным образом мы можем запускать симуляции для научных целей в тех случаях, когда это является благом для симулируемых субъектов. Конечно, такой подход затруднит симуляцию неприятных ситуаций. Полномасштабные симуляции войн могут оказаться запрещены. Воспроизведение в симуляции войны только для того, чтобы принести пользу обитателям другой вселенной, нельзя назвать отношением к участникам подобной симуляции как к самоцели.

Будут ли создатели симуляций на самом деле подчиняться этим нормам морали? Вполне возможно, что и нет. У человечества долгая история несоответствия моральным идеалам. Симы могут оказаться настолько удобными и полезными, что их будут эксплуатировать, не задумываясь о морали. В «Черном зеркале» персонажи создают симов, чтобы те готовили им завтраки и помогали тестировать потенциальных романтических партнеров. Легко представить, что к симам будут относиться как к расходному материалу. Также легко представить борьбу за предоставление симам тех же прав, что и обычным людям. Я не берусь предсказывать, какой подход в итоге победит. Но если Мартин Лютер Кинг-младший был прав, и длинная дуга нравственной вселенной склоняется к справедливости, то она склонится и к предоставлению симам равных прав.