На сегодняшний день несколько философов сообщили мне, что планируют принять мой вызов и предложить защиту зомби без предвосхищения основания, однако единственная попытка, которую я видел до сих пор, предполагает постулирование «логически возможного», но фантастического существа — потомка воображаемой Недом Блоком «Гигантской таблицы поиска»…

На языке программистов «Гигантская таблица поиска» (ГТП) — это когда вы реализуете функцию в виде огромной таблицы входных и выходных данных, обычно для того, чтобы сэкономить время вычислений при работе программы. Если моей программе нужно узнать произведение двух чисел от 1 до 100, я могу написать алгоритм умножения, производящий вычисления при каждом вызове функции, а могу заранее рассчитать Гигантскую таблицу поиска на 10 000 записей с двумя индексами. Бывают случаи, когда вы действительно хотите так поступить — хотя и не ради умножения, — например, когда функция используется очень часто, а количество возможных входных значений невелико; или когда процессорное время дешево во время инициализации, но критически дорого в процессе выполнения.

Гигантские таблицы поиска разрастаются до колоссальных размеров невероятно быстро. ГТП для всех возможных диалогов глубиной в двадцать реплик по десять слов в каждой, с использованием базового английского (Basic English) объемом всего в 850 слов, потребовала бы 7,6 × 10⁵⁸⁵ записей.

Замена человеческого мозга Гигантской таблицей поиска всех возможных сенсорных сигналов и моторных откликов (в рамках какой-нибудь детальной схемы оцифровки) потребовала бы немыслимо огромного объема памяти. Но «в принципе», как любят выражаться философы, это сделать можно.

ГТП не является зомби в классическом смысле, поскольку микрофизически она не похожа на человека. (На самом деле ГТП не может по-настоящему работать по тем же физическим законам, что и человек — она слишком велика, чтобы уместиться в нашей вселенной. Для философских целей мы проигнорируем это и предположим наличие неограниченного запаса памяти.)

Но является ли ГТП зомби вообще? То есть ведет ли она себя в точности как человек, не обладая при этом сознанием?

Язык ГТП-управляемого тела говорит о сознании. Его пальцы пишут философские статьи. Во всех отношениях, пока вы не заглянете внутрь черепа, ГТП выглядит точно так же, как человек... что, безусловно, кажется подходящим примером зомби: ведет себя в точности как человек, но дома никого нет.

Разве что сама ГТП обладает сознанием — но в этом случае пример окажется некорректным.

Не припомню, чтобы мне попадались утверждения кого-либо, будто ГТП обладает сознанием. (Надо признать, мои познания литературы в этой области не дотягивают до профессионального уровня; не стесняйтесь меня поправить.) Даже те, кого обвиняют в том, что они (о боже!) функционалисты, не утверждают, что ГТП могут быть сознательными.

ГТП — это reductio ad absurdum для любого, кто предполагает, будто сознание — это просто шаблон «ввод-вывод», избавляясь тем самым от всех беспокоящих вопросов о том, что происходит внутри.

Так что же Обобщенный антизомбийный принцип (ОАЗП) говорит о Гигантской таблице поиска (ГТП)?

На первый взгляд кажется, что ГТП — это сам архетип Повелителя Зомби: отдельная, дополнительная, обнаруживаемая, бессознательная система, которая оживляет зомби и заставляет его говорить о сознании по иным причинам.

Внутри ГТП скрывается лишь простейшая компьютерная программа, которая ищет входные данные и выдает соответствующий ответ. В подобном случае даже говорить о «простой компьютерной программе» — значит преувеличивать. ГТП больше похожа на ПЗУ, чем на ЦП. С тем же успехом мы могли бы говорить о системе переключаемых желобов, по которым шары скатываются из заранее уложенной стопки в приемник — и точка; это всё, что делает ГТП.

Представитель организации «Люди за этичное обращение с зомби» (ЛЭОЗ) возражает: «О, все антимеханисты говорят одно и то же, не так ли? Что если заглянуть в мозг, то обнаружишь лишь кучку нейромедиаторов, открывающих ионные каналы? Если ионные каналы могут быть сознательными, то почему бы и рычагам с шарами, катящимися в лотки, ими не быть?»

«Проблема не в рычагах, — отвечает функционалист, — проблема в том, что у ГТП неправильный паттерн рычагов. Нужны рычаги, которые реализуют такие вещи, как, скажем, формирование убеждений об убеждениях или самомоделирование... Черт, вам нужна возможность записывать данные в память просто для того, чтобы для вычисления могло идти время. Если только вы не считаете, что можно запрограммировать сознательное существо на Haskell».

«Этого я не знаю, — говорит представитель ЛЭОЗ, — я знаю лишь то, что этот так называемый зомби пишет философские статьи о сознании. Откуда берутся эти статьи, если не из сознания?»

Хороший вопрос! Давайте поразмыслим над ним глубже.

В физике есть игра под названием «Проследи за энергией». Отец Ричарда Фейнмана играл в неё с маленьким Ричардом:

Мой отец заговорил бы примерно об этом: «Что заставляет её двигаться? Всё движется потому, что светит Солнце». И дальше мы бы с увлечением обсуждали это:

— Нет, игрушка движется, потому что заведена пружина, — говорил я. — А как завелась пружина? — спрашивал он.

— Я её завёл.

— А откуда движение в тебе самом?

— Из еды.

— А еда растёт только потому, что светит Солнце. Получается, именно потому, что светит Солнце, все эти вещи и движутся. Так он доносил до меня идею о том, что движение — это просто трансформация солнечной энергии.²

Когда становишься немного старше, узнаёшь, что энергия сохраняется — она не создается и не уничтожается, поэтому понятие расходования энергии теряет смысл. Полное количество энергии изменить невозможно, так в каком же смысле вы её используете?

И когда физики вырастают, они учатся играть в новую игру под названием «Проследи за негэнтропией» — которая, по сути, представляет собой всё ту же игру, в которую они играли всегда; только правила в ней более математизированы, сама игра полезнее, а её принципы сложнее уложить в голове концептуально.

Рационалисты учатся игре под названием «Проследи за невероятностью» — взрослой версии игры «Откуда ты знаешь?». Правило игры рационалистов состоит в том, что любое кажущееся маловероятным убеждение требует эквивалентного количества доказательств для своего обоснования. (У этой игры поразительно похожие правила с «Проследи за негэнтропией».)

Каждый раз, когда кто-то нарушает правила этой игры, в их аргументации можно найти место, где некое количество невероятности возникает из ниоткуда; и это столь же явный признак проблемы, как, скажем, хитроумная конструкция из соединенных колес и шестеренок, которая работает вечно.

Кто-то приходит к вам и говорит: «Я твердо и непоколебимо верю, что в поясе астероидов есть объект, фут в поперечнике и целиком состоящий из шоколадного торта; вы не можете доказать, что это невозможно». Но если у этого человека нет доступа к какому-либо свидетельству в пользу этого убеждения, то вероятность того, что истинное убеждение сформируется самопроизвольно, крайне мала. Так что либо этот человек может указать на доказательства, либо убеждение окажется ложным. «Но вы не можете доказать, что для моего разума невозможно спонтанно породить убеждение, которое случайно окажется верным!» Нет, но подобное самозарождение крайне невероятно — примерно как, скажем, разбитое яйцо, собирающееся обратно.

В игре «Проследи за невероятностью» крайне подозрительно даже просто говорить о конкретной гипотезе, не имея достаточных доказательств, чтобы сузить пространство возможных гипотез. Почему вы не уделяете столько же эфирного времени дециллиону других столь же правдоподобных гипотез? Вам нужны достаточные свидетельства, чтобы вообще обнаружить гипотезу о «шоколадном торте в поясе астероидов» в пространстве гипотез — иначе нет никаких причин уделять ей больше внимания, чем триллиону других кандидатов вроде «В поясе астероидов летает деревянный комод» или «Летающий Макаронный Монстр срыгнул мне на кроссовки».

В «Проследи за невероятностью» вам не позволено брать сложные, подробные, конкретные гипотезы с потолка, не имея уже соответствующего объема доказательств; потому что нереалистично предполагать, будто вы можете спонтанно начать обсуждать истинную гипотезу по чистому совпадению.

Философ говорит: «В черепе этого зомби содержится Гигантская таблица поиска (GLUT), где записаны все входные и выходные сигналы мозга какого-то человека». Это очень большая невероятность. И вы спрашиваете: «Как произошло это маловероятное событие? Откуда взялась GLUT?»

Но это не стандартная философская процедура для мысленных экспериментов. В стандартной философской процедуре вам разрешается постулировать вещи вроде «Представьте, что вы летите верхом на световом луче...», не беспокоясь о физической возможности, не говоря уже о простой невероятности. Но в данном случае происхождение GLUT имеет значение; и именно поэтому важно понимать побудительный вопрос: «Откуда взялась невероятность?»

Очевидный ответ заключается в том, что вы взяли вычислительную спецификацию человеческого мозга и использовали её, чтобы заранее рассчитать Гигантскую таблицу поиска. (Тем самым создав бесчисленные гуголы человеческих существ, некоторые из которых испытывают невыносимую боль, а подавляющее большинство совершенно сошло с ума во вселенной хаоса, где входные сигналы никак не связаны с выходными. Но к черту этику, это же ради философии.)

В этом случае GLUT действительно пишет статьи о сознании благодаря сознательному алгоритму. GLUT — никакой не зомби, точно так же как мобильный телефон не является зомби из-за того, что может говорить о сознании, будучи всего лишь небольшим бытовым электронным устройством. Телефон просто передает философские речи того, кто оказался на другом конце провода. GLUT, созданная на основе исходной спецификации человеческого мозга, делает то же самое.

«Хорошо, — говорит философ, — GLUT была создана случайным образом и совершенно случайно обладает теми же соотношениями входов и выходов, что и некий эталонный человек».

Как именно вы случайно сгенерировали GLUT?

«Мы использовали источник истинной случайности — квантовое устройство».

Но квантовое устройство лишь выполняет инструкцию «ветвления в обе стороны»; когда вы генерируете бит с помощью квантового источника случайности, детерминированным результатом будет то, что один набор ветвей вселенной (локально связанных облаков амплитуды) видит единицу, а другой набор вселенных — ноль. Сделайте это четыре раза и создадите 16 (наборов) вселенных.

Так что, по сути, это всё равно что сказать, будто вы получили GLUT, записав все возможные последовательности нулей и единиц нужной длины в чертовски огромный бак с таблицами поиска, а затем запустили туда руку и каким-то образом вытащили именно ту GLUT, которая совпала со спецификацией человеческого мозга. Откуда же взялась невероятность?

Ведь если это не было просто совпадением — если у вас была какая-то функция запуска руки в бак, которая вытащила соответствующую человеку GLUT по замыслу, а не случайно, — тогда эта функция сама по себе, вероятно, сознательна, и значит, GLUT — это снова мобильный телефон, а не зомби. Он подключен к человеку через два посредника, а не через одного, но это всё ещё мобильный телефон! Отличная попытка скрыть источник невероятности!

И посмотрите, куда привела нас игра «Проследи за невероятностью»: где же источник того, что язык этого тела рассуждает о внутреннем слушателе? Сознание — не в таблице поиска. Сознание — не на фабрике, которая производит кучу возможных таблиц поиска. Сознание было в том, что указало на одну конкретную, уже изготовленную таблицу поиска и сказало: «Используй эту!»

Теперь понятно, почему я ввел игру «Проследи за невероятностью». Обычно, когда мы разговариваем с человеком, мы склонны думать, будто то, что находится у него в черепной коробке, и есть то самое место, «где обитает сознание». И только играя в «Проследи за невероятностью», мы можем осознать, что истинный источник происходящего разговора — это то, что отвечает за невероятность самого этого разговора, как бы далеко во времени или пространстве оно ни находилось, подобно тому как Солнце приводит в движение заводную игрушку.

«Нет-нет! — говорит философ. — В мысленном эксперименте они не генерируют случайным образом множество GLUT, чтобы потом с помощью сознательного алгоритма выбрать одну GLUT, похожую на человека! Я постулирую, что в этом мысленном эксперименте они запускают руку в невообразимо огромный бак с GLUT и по чистой случайности вытаскивают GLUT, входы и выходы которой идентичны входам и выходам человеческого мозга! Вот! Теперь я загнал вас в угол! Вы больше не сможете играть в «Проследи за невероятностью»!»

Оу. Значит, источником невероятности здесь является само ваше допущение.

И если мы снова сыграем в «Проследи за невероятностью», то окажемся за пределами мысленного эксперимента, глядя на философа.

То, что указывает на одну-единственную GLUT, рассуждающую о сознании, изо всего гигантского пространства возможностей — это теперь… сознательный человек, который просит нас представить этот сценарий. И наш собственный мозг, который заполнит пробел, когда мы станем воображать: «Что ответит эта GLUT на просьбу „Расскажи о своём внутреннем слушателе“?»

Мораль этой истории в том, что когда вы прослеживаете вспять рассуждения о «сознании», вы обычно находите само сознание. Оно не всегда лежит прямо перед вами. Иногда оно спрятано очень искусно. Но оно там есть. Отсюда — Обобщённый антизомби-принцип.

Если существует Хозяин зомби в виде чат-бота, который обрабатывает и переиначивает любительские рассуждения людей о «сознании», то люди, создавшие исходный корпус текстов, сознательны.

Если однажды вы поймёте природу сознания, оглянетесь назад и увидите, что можно написать программу, выдающую путаные философские рассуждения, которые чертовски похожи на человеческие, хотя сама она при этом сознанием не обладает, — то на мой вопрос «Как же вышло, что эта программа зазвучала похоже на людей?» ответом будет то, что вы написали её так, чтобы она звучала похоже на сознательных людей, а не выбирали её по критерию сходства с чем-то другим. Это не значит, что ваш маленький Хозяин зомби сознателен, — но это значит, что я могу найти сознание где-то во Вселенной, если прослежу причинно-следственную связь обратно к истоку, а значит, мы находимся не совсем в Мире зомби.

Но предположим, что кто-то на самом деле запустил руку в бак с GLUT и по совершенно чистой случайности вытащил GLUT, которая пишет философские статьи?

Ну, тогда она не была бы сознательной. По моему скромному мнению.

Я хочу сказать, здесь должно быть нечто большее, чем просто входы и выходы.

Иначе даже GLUT была бы сознательной, верно?

Ах да, и для тех из вас, кому интересно, как всё это связано с моей основной работой…

В нашей сфере деятельности постоянно сталкиваешься с кучей людей, которые думают, будто произвольно созданный мощный ИИ будет «моральным». Они не могут договориться между собой ни о том, почему это так, ни о том, что они вообще понимают под словом «моральный», но все сходятся на том, что разрабатывать теорию Дружественного ИИ совершенно ни к чему. И когда вы спрашиваете их, каким образом произвольно созданный ИИ придет к моральным результатам на выходе, они предлагают сложные, ориентированные на ИИ рационализации того, что сами считают «моральным»; и с этим связано множество всевозможных проблем, но главная из них звучит так: «А вы уверены, что ИИ пойдёт тем же путём рассуждений, который вы выдумали для обоснования человеческой морали, если ИИ, в отличие от вас, изначально даже не знает, что именно вы хотите, чтобы он рационализировал?» Этот контрпринцип можно назвать «Проследи за информацией о решении» или как-то в этом роде. Вы можете объяснить существование ИИ, который делает невероятно хорошие дела, если расскажете мне, как именно вы выбрали архитектуру этого ИИ из гигантского пространства возможностей, но в противном случае эта невероятность берётся из ниоткуда — хотя и маскируется всё сильнее и сильнее, по мере того как рационализированные предпосылки, в свою очередь, подвергаются новой рационализации.

Так что я уже написал целую серию эссе, созданных мной на основе принципа «Проследи за невероятностью». Но в то время я не формулировал эти правила явно, поскольку тогда ещё не написал эссе по термодинамике…

Просто решил об этом упомянуть. Поразительно, в скольких моих эссе совершенно случайно оказываются идеи, удивительным образом связанные с обсуждением теории Дружественного ИИ… если, конечно, вы верите в совпадения.

*

1. Дэниел Деннет, «The Unimagined Preposterousness of Zombies», Journal of Consciousness Studies 2 (4 1995): 322–26.

2. Ричард Фейнман, «Judging Books by Their Covers», в Surely You’re Joking, Mr. Feynman! (New York: W. W. Norton & Company, 1985).