Проблема машинного сознания – это особенно сложная версия проблемы других сознаний. Как мы можем узнать, обладает ли машина вроде Дейты из «Звездного пути» сознанием? Коммандер Мэддокс настаивает на том, что Дейта – кремниевый зомби, совершенно лишенный сознания. Базовая структура Дейты сильно отличается от нашей, и у него нет биологического мозга. Поэтому мы не можем использовать выводы нейробиологии в рассуждении. Безусловно, поведение Дейты ассоциируется у нас с сознанием. Это, конечно, очень убедительно на психологическом уровне, но неясно, какой доказательственный вес имеет в случае системы с настолько иным содержанием.

Я сосредоточусь только на одном типе машин: совершенной симуляции мозга, такого как мой собственный. Симуляция мозга – это цифровая система, запущенная на компьютере. Если мы сможем установить, что одна цифровая система обладает сознанием, то это будет означать, что и в общем случае нет никаких причин, по которым цифровые системы не могут обладать сознанием. В отличие от иных систем, симуляция мозга обладает преимуществом максимального сходства с человеческим мозгом, что упрощает некоторые рассуждения. Например, в этой ситуации нам не требуется полная теория, которая скажет, какие системы обладают сознанием, поскольку можно начать с того единственного примера, который, как мы знаем, обладает сознанием, – с нас самих. Кроме того, обсуждение симуляции мозга поможет пролить свет на симулированные миры и возможность загрузки человеческого сознания в компьютер, а это основные причины для наших размышлений о цифровом сознании.

Как будет работать симуляция мозга? Мы можем представить, что каждый нейрон будет смоделирован идеально, как и каждая глиальная клетка и прочие клетки мозга. Взаимодействия между нейронами также будут точно воссозданы. Будет смоделирована вся электрохимическая активность, а также другие процессы, например кровоток. Таким образом, каждый физический процесс, который влияет на функционирование мозга, будет учтен. Для краткости моих дальнейших рассуждений я приму упрощающее допущение, что нам якобы достаточно моделировать одни только нейроны. Но при этом все, что я скажу сейчас, будет применимо и без этого допущения.

Кто-то может возразить, что симуляция мозга невозможна. Здесь я исхожу из того, что мозг – физическая система, а следовательно, подчиняется законам, которые могут быть смоделированы с помощью вычислений. Безусловно, современные научные данные свидетельствуют в пользу обоих этих предположений. Если они верны, то компьютерная симуляция мозга должна быть возможной. При этом упомянутые допущения не гарантируют того, что симуляция на уровне нейронов будет работать, – возможно, чтобы действительно хорошо смоделировать мозговые процессы, нам придется спуститься на уровень физики. При необходимости симуляция мозга на физическом уровне сможет сыграть нужную для нас роль.

Ситуация с симуляцией мозга имеет для наших целей одно большое преимущество. Она повышает вероятность того, что мы могли бы стать машиной*. И тогда у нас появились бы свидетельства о сознании машин от первого лица. Как вы можете стать симулированным мозгом? Создание такой симуляции, вероятно, приведет к путанице. Если ваш оригинальный мозг все еще цел, он будет считать, что является первоначальной личностью. Тогда можно было бы уничтожить оригинальный мозг, но этот смелый шаг оставил бы открытыми все вопросы об идентичности. Вы действительно превратились в симулированный мозг или же был создан совершенно новый индивид?

Самый безопасный способ стать симуляцией мозга – становиться ей поэтапно. Этот процесс иногда называют постепенной загрузкой*. Для него мы можем симулировать ваш мозг по одной клетке за раз (или по одной области за раз). Мы создадим симуляцию каждой клетки и организуем ее взаимодействие через рецепторы и эффекторы с соседними биологическими клетками. Сначала всего несколько исходных клеток будут заменены симуляционными моделями. Через некоторое время будут заменены уже многие, и тогда в некоторых областях соседние клетки смогут взаимодействовать полностью в рамках симуляции. В итоге будет симулирована четверть вашего мозга, затем половина, затем три четверти, пока результатом не станет полная симуляция мозга. Возможно, она будет подключена эффекторами к исходному физическому телу, или же тело тоже будет симулировано.

Мы можем представить, что процесс загрузки занимает несколько недель. После замены первых нескольких клеток вы делаете перерыв. Допустим, у вас небольшой шок после операции, но в остальном вы чувствуете себя нормально. Симулированные клетки функционируют так же, как прежние, и в вашем поведении нет изменений. Учитывая это, вы, безусловно, скажете, что остаетесь сознательным.

Нечто подобное будет происходить на каждом этапе, при условии, что симулирование нейронов достаточно точное. Кто-нибудь спросит: «Как вы себя чувствуете?» – и вы ответите: «Я чувствую себя прекрасно», а, возможно: «Я голоден», «Я испытываю боль» или «Мне скучно». Опять же, предполагая, что наши нейроны контролируют наши реакции и что они были идеально смоделированы, мы будем ожидать от симуляции характерного для вас поведения.

Наконец на последнем этапе ваш мозг будет полностью заменен симуляцией. Вас снова спросят: «Как вы себя чувствуете?» – и вы дадите типичный для вас ответ. Если симуляция работает хорошо, вы скажете, что обладаете сознанием. Если спросят, уверены ли вы в этом, ответите: «Да!» (По крайней мере, если вы относитесь к тому типу людей, которые и до загрузки были уверены, что сознательны.) Вы, вероятно, решите, что это совершенно убедительное доказательство того, что машины могут иметь сознание.

В книге 2019 года «Искусственный ты»* американский философ Сьюзан Шнайдер скептически высказывается о перспективе появления сознания у машин и возможности сохранить сознание в процессе загрузки. По мнению Шнайдер, если бы ее загрузили в машину, то, скорее всего, она превратилась бы в философского зомби. Конечно, этот свежеиспеченный зомби мог бы нам сказать: «Я все еще здесь» и «Я обладаю сознанием», но ведь именно это мы ожидали бы услышать от зомби.

Однако скептикам вроде Шнайдер можно задать несколько неудобных вопросов. Если постепенная загрузка сохраняет ваше поведение, но в конечном счете устраняет ваше сознание, то что же происходит с сознанием во время самой процедуры? Предположительно, после замены всего нескольких биологических нейронов на их симуляции вы будете по-прежнему полностью в сознании. А что будет после замены четверти вашего мозга или половины, как показано на рисунке 39? Ваше сознание угаснет постепенно? Или оно исчезнет внезапно?

Рисунок 39. Сьюзан Шнайдер подвергается постепенной загрузке

В книге «Сознающий ум» я назвал это аргументом «блекнущих квалиа», поскольку он фокусируется на идее о том, что качества (или квалиа) вашего сознательного опыта могут постепенно исчезать. Похоже, что те, кто скептически относится к перспективе появления сознания у машин, могут занимать две позиции.

Во-первых, можно предположить, что ваше сознание исчезает внезапно, – то есть вы переходите от полной осознанности к отсутствию сознания после замены очередного нейрона, роль которого по стечению обстоятельств становится критической. Тогда это был бы экстраординарный скачок, не похожий ни на что наблюдаемое нами в природе. Возможно, замена одного нейрона могла бы отключить сознание, если бы она отключала значительную часть мозга; но если замена нейронов выполняется достаточно аккуратно, то остальная часть мозга останется незатронутой. Более того, мы можем локально растянуть нашу процедуру, заменяя субмикроскопические части критического нейрона по одной за раз, пока в конечном счете не найдем критический кварк, замена которого приводит к полному разрушению сознания. Гипотеза критического кварка кажется еще более неправдоподобной, чем гипотеза критического нейрона. Более вероятно, что сознание постепенно угасает, чем то, что оно исчезает внезапно.

Это подводит нас ко второму варианту: ваше сознание ослабевает постепенно, поэтому есть моменты, когда оно притухает, но еще не исчезает. Возможно, некоторые аспекты вашего первоначального сознания остались, а другие исчезли. Или, возможно, все они в равной мере поблекли. Но, поскольку ваши нейроны были заменены их совершенными симуляциями, ваше поведение останется прежним. На протяжении всего процесса вы будете клясться, что находитесь в полном сознании, с нормальными, а не затуманенными сознательными переживаниями. Так что в этом случае такому скептику, как Шнайдер, придется признать, что вы заблуждаетесь относительно своего сознания. В промежуточный момент, когда ваше сознание лишь частично угасло, вы по-прежнему остаетесь сознательным существом (не зомби) и не проявляете никакой очевидной иррациональности. Тем не менее вы полностью утрачиваете связь с собственным сознанием – вы думаете, что с ним все в порядке, когда на самом деле оно исчезает. Это тоже кажется довольно странным.

Есть третья гипотеза, которая гораздо более правдоподобна: ваше сознание остается нетронутым на каждом этапе операции и присутствует в конце процесса. Эта гипотеза позволяет избежать неправдоподобности плавного угасания или внезапного исчезновения сознания и не вызывает возражений, подобных тем, с которыми сталкиваются другие упомянутые гипотезы. Однако из этой гипотезы следует, что симулированный мозг может быть сознательным. По крайней мере в том особом случае, когда используется способ постепенной загрузки, симуляция мозга полностью сохранит сознание.

Раз мы дошли до этого этапа, то теперь естественно сделать вывод, что симуляции мозга и в целом могут обладать сознанием, по крайней мере, когда мозг, который служит исходной моделью для симуляций, сознателен. Для любой обладающей сознанием системы можно запустить сценарий постепенной загрузки, ведущий к симулируемой версии. Тогда рассуждения, приведенные выше, позволят предположить, что такие симуляции обладают сознанием. Я полагаю, кто-то мог бы подумать, что только постепенно загружаемые симуляции обладают сознанием, возможно, потому, что они переносят из исходного мозга душу. Но это делает сознание неоднородным и вызывает беспокойство, ведь почти любая система может оказаться зомби, в зависимости от того, привязана она к душе или нет. Более правдоподобно выглядит мысль, что если сознание присутствует в одной симуляции мозга, то оно будет присутствовать во всех симуляциях сознательного мозга.