В эпизоде сериала «Звездный путь: Следующее поколение» под названием «Критерий человека» проводится испытание для определения, является ли андроид Дейта разумным существом. Кибернетик Звездного флота Брюс Мэддокс хочет разобрать Дейту, чтобы изучить его устройство. Дейта отказывает ему в просьбе. Мэддокс утверждает, что андроид является собственностью Звездного флота, обычной машиной, не имеющей права отказывать. Капитан Пикар утверждает, что Дейта – разумное существо, наделенное правами, включая право выбирать свою судьбу.

Перед судом стоит вопрос: является ли Дейта разумным? Пикард просит Мэддокса дать определение термину «разумный», и Мэддокс отвечает: «Интеллектуальный, сознающий самого себя, обладающий сознанием». Из этих критериев Мэддокс быстро соглашается с тем, что Дейта обладает интеллектом: «Он способен учиться и понимать, а также действовать в новых обстоятельствах». Затем Пикард убедительно доказывает, что Дейта обладает самосознанием, спрашивая, что он сейчас делает. Дейта отвечает: «Я принимаю участие в судебном слушании по определению моих прав и статуса», где на карту поставлено «мое право выбора, а возможно, даже моя жизнь».

Проблема сводится к третьему критерию: обладает ли Дейта сознанием? Удивительно, но Пикард не приводит прямых аргументов в пользу положительного ответа. Вместо этого он говорит: «Видите, он соответствует двум из трех ваших критериев. Так что, если он соответствует третьему? Сознателен хотя бы в самой малой степени. Кто же он тогда?»

Даже без аргументов в пользу наличия сознания этого вопроса Пикарда оказывается достаточно для победы. Судья говорит, что основной вопрос заключается в том, есть ли у Дейты душа. Ответа она не знает, но постановляет, что ему должна быть предоставлена свобода, чтобы исследовать этот вопрос.

Рисунок 36. Является ли Дейта сознательным существом или философским зомби?

Ключевой третий вопрос остается без ответа. Обладает ли Дейта сознанием? Или Дейта – это то, что философы называют зомби (или иногда философским зомби, чтобы отличать их от зомби, которых можно увидеть в голливудских фильмах)? Для философов зомби – это система, которая внешне во многом ведет себя как сознательное существо, но не имеет сознательного опыта. Пикард предполагает, что Дейта сознателен: он обладает потоком осознанного восприятия, чувств и мышления. Мэддокс предполагает, что Дейта – зомби: он ведет себя разумно, но полностью лишен сознательной внутренней жизни. (Трудно изобразить зомби, поскольку внешне они ничем не отличаются от обычных сознательных существ, но на рисунке 36 сделана попытка.) Кто из них прав?

Если обобщить вопрос: может ли цифровая система обладать сознанием? Или эта черта характерна только для людей и животных?

Этот вопрос очень важен при размышлении о цифровых мирах. Рассмотрим виртуальный мир романа Даниэля Галуйе «Симулакрон-3», который (как мы видели во второй главе) положил начало жанру симуляций. Этот виртуальный мир – чистая симуляция, содержащая множество симулированных людей со смоделированным мозгом. Обладают ли эти симулированные люди сознанием? Если да, то необратимое отключение системы было бы зверством, своего рода геноцидом. Если же сознания у них нет, то они цифровые зомби, и выключение системы выглядит не страшнее отключения обычной видеоигры.

Пока что в созданных нами виртуальных мирах нет цифровых существ, которые по сложности хотя бы отдаленно напоминали человека. В большинстве виртуальных миров биологические игроки-люди, безусловно, самые сложные существа, а цифровые неигровые персонажи кажутся безмозглыми – мало кто счел бы, что они обладают сознанием. Но, в конечном счете, появятся симулированные миры с гораздо более проработанными неигровыми персонажами, у которых виртуальный мозг будет таким же сложным, как у нас. После создания подобных миров не избежать вопроса о цифровом сознании.

Этот вопрос приобретает еще большее значение, когда мы думаем о цифровой загрузке сознания: попытке перенести наше сознание из биологического мозга в цифровой компьютер. Многие люди видят в этом лучший вариант достижения своего рода бессмертия. В эпизоде сериала «Черного зеркала» под названием «Сан-Джуниперо» люди, приближаясь к концу своей биологической жизни, могут создать цифровую копию своего мозга, которая затем подключается к виртуальному миру. Виртуальный мир функционирует как некоторого рода рай, где прошедшие загрузку могут жить вечно.

Цифровая загрузка сознания* поднимает много научных вопросов. Некоторые касаются поведения загруженной системы. Может ли подобная система генерировать такое же разумное поведение или демонстрировать те же воспоминания и те же черты личности, что и исходная биологическая система? Можем ли мы действительно измерить все параметры мозга настолько точно, чтобы смоделировать его? Можем ли мы идеально воссоздать сети нейронов в цифровой системе?

Если эти научные проблемы смогут разрешиться, то нас ждут более глубокие философские проблемы. Одна из самых глубоких касается сознания. Для того, чтобы загрузка работала как путь к бессмертию, крайне важно, чтобы загруженная система была сознательной. Если система является лишенной сознания – системой-зомби, – то загрузка не будет формой сохранения жизни, а станет равносильна уничтожению, по крайней мере, по отношению к сознающему уму. Большинство людей сочтут такого рода зомбификацию не многим лучше смерти.

Еще одна серьезная проблема, связанная с цифровой загрузкой, касается идентичности. Если я загружу себя в компьютер, будет ли загруженная система мной? Или это будет совершенно новый человек, который ведет себя точно так же, как я, сродни недавно созданному близнецу? Если я создам загруженную цифровую версию себя, оставив неприкосновенным биологический оригинал, большинство из нас посчитает биологическую версию мной, а цифровую копию – кем-то другим. Почему же должно быть иначе, если биологическая версия умерла и сохранилась только цифровая копия?

По сути, загрузка поднимает версии трех вопросов Пикарда. Первый – это вопрос о разумном поведении: будет ли загруженный субъект вести себя как я? Второй – вопрос о сознании: будет ли загруженный субъект обладать сознанием? Третий – вопрос о самости: будет ли загруженный субъект мной? Нужно ответить утвердительно на все эти вопросы, чтобы цифровая загрузка стала реальным путем к продлению жизни.

Ниже я буду обсуждать все эти вопросы, но в основном сосредоточусь на касающемся сознания. Он особенно актуален для оценки гипотезы симуляции: если симуляции сами по себе не могут быть источниками сознания, то тогда факт наличия у нас сознания уже с самого начала исключает гипотезу чистой симуляции.