Пришла пора нам заняться тем, чего все вы, я знаю, ждете: философской битвой на тортах на тему мозга, машин и разума!

Однако сначала давайте закончим разговор о вычислимости. Есть одна концепция, которая будет нужна нам в этой главе снова и снова; речь идет о концепции оракула. Идея достаточно очевидна: мы допускаем, что у нас имеется некий «черный ящик», или «оракул», который мгновенно решает некоторую сложную вычислительную проблему, а затем смотрим, что из этого выйдет! (На первом курсе я однажды завел с профессором разговор о том, что было бы, если бы у нас была некая гипотетическая «фея NP-полноты» — существо, которое мгновенно отвечало бы на вопрос, является ли данная булева формула выполнимой. Профессору пришлось меня поправить: на самом деле их называют не «феями», а «оракулами». Так намного профессиональнее!)

Судя по всему, первым оракулы исследовал Тьюринг в 1938 г. в своей диссертации на степень доктора философии. Очевидно, всякий, кто способен написать целую диссертацию об этих воображаемых сущностях, должен быть чрезвычайно чистым теоретиком — человеком, который ни за что на свете не хотел бы заниматься чем-то практически полезным. В случае Тьюринга это, безусловно, так и было, — в самом деле, несколько лет после защиты докторской диссертации, с 1939 по 1943 г., он потратил на изучение некоторых мудреных преобразований симметрии в 26-буквенном алфавите[15].

Будем говорить, что задача A сводима, по Тьюрингу, к задаче B, если A может быть решена машиной Тьюринга при наличии оракула для B. Иными словами, «A не сложнее B»: если у нас есть гипотетическое устройство для решения B, мы можем решить также и A. Две задачи эквивалентны по Тьюрингу, если каждая из них сводима по Тьюрингу к другой. Так, к примеру, задача о том, можно ли доказать некое утверждение на базе аксиом теории множеств, эквивалентна по Тьюрингу проблеме остановки: если вы можете решить одну из них, вы можете решить и вторую.

Далее, степень Тьюринга, или степень неразрешимости, составляют множество всех задач, эквивалентных по Тьюрингу некоей данной задаче. Можно ли привести примеры степени неразрешимости? Мы с вами уже видели два таких примера: это (1) множество вычислимых задач и (2) множество задач, эквивалентных по Тьюрингу проблеме остановки. Сказать, что эти степени неразрешимости не равны, — все равно что сказать, что проблема остановки неразрешима.

Существуют ли степени неразрешимости выше двух названных? Иными словами, существует ли задача сложнее проблемы остановки, такая, что мы будем не в состоянии ее решить даже с помощью оракула по проблеме остановки? Ну, можно рассмотреть следующую «суперпроблему останова»: пусть у вас есть машина Тьюринга с оракулом по проблеме остановки, определите, остановится ли она?! Можем ли мы доказать, что суперпроблема остановки неразрешима, даже если у нас будет оракул для обычной проблемы остановки? Да, можем! Мы просто возьмем оригинальное доказательство, при помощи которого Тьюринг доказал, что проблема остановки неразрешима, и «сдвинем все на уровень вверх», дав всем машинам оракул по проблеме остановки. Все в доказательстве будет работать в точности как прежде, а мы, чтобы отразить этот факт, скажем, что доказательство «релятивизируется».

А вот более тонкий вопрос: существует ли задача промежуточной сложности между множеством вычислимых задач и задачей остановки? Этот вопрос первым задал Эмиль Пост в 1944 г., а ответили на него в 1954 г. Пост и Стивен Клини (хотя в первоначальной формулировке задачи у Поста было добавлено дополнительное условие, названное «рекурсивной перечислимостью», и только два года спустя Ричард Фридберг и Альберт Мучник показали, как можно его выполнить). Ответ был «да». На самом деле у нас есть и более сильный результат: существуют две задачи A и B, каждая из которых разрешима при наличии оракула для проблемы остановки, но ни одна из них не разрешима при наличии оракула для другой. Эти задачи строятся посредством бесконечного процесса, цель которого — устранить любую машину Тьюринга, способную свести A к B или B к A. К несчастью, получающиеся в результате задачи выглядят в высшей степени неестественно; не похоже, что что-то подобное может возникнуть на практике. И даже сегодня у нас нет ни единого примера «естественной» задачи с промежуточной степенью неразрешимости.

После прорыва в решении задачи Поста структура степеней неразрешимости по Тьюрингу исследовалась в таких подробностях, что трудно себе представить. Вот, к примеру, один из простейших вопросов: если две задачи A и B сводимы к задаче остановки, то должна ли существовать задача C, сводимая к A и B, такая, что любая задача, сводимая как к A, так и к B, сводима также и к C? Ну, чем бы дитя ни тешилось! Но мы, пожалуй, дошли до точки, в которой некоторые скажут: не пора ли нам перейти к следующей теме… (Кстати говоря, ответ на приведенный вопрос: «нет».)

Ну хорошо, главная философская идея, стоящая за понятием вычислимости, — так называемый тезис Чёрча — Тьюринга. Назван он в честь Тьюринга и его научного руководителя Алонзо Чёрча, хотя вопрос о том, что они сами думали об этом «их» тезисе, остается открытым! Сам тезис, по сути, заключается в том, что любая функция, которую «естественно рассматривать как вычислимую», вычислима на машине Тьюринга. Или, иными словами, любая «разумная» модель вычисления даст вам либо то же множество вычислимых функций, что и модель машины Тьюринга, либо его собственное подмножество.

Возникает очевидный вопрос: к какому классу отнести это утверждение? Быть может, это эмпирическое утверждение о том, какие функции могут быть вычислены в физической реальности? Или это определение, объясняющее смысл слова «вычислимый»? Или то и другое понемногу?

Как бы то ни было, тезис Чёрча — Тьюринга можно считать чрезвычайно успешным представителем тезисов. Как вам известно, — и мы поговорим об этом позже, — квантовые вычисления представляют серьезный вызов для так называемого «расширенного тезиса Чёрча — Тьюринга»: что любая функция, которую естественно рассматривать как эффективно вычислимую, является эффективно вычислимой на машине Тьюринга. Но, на мой взгляд, оригинальный тезис Чёрча — Тьюринга до сих пор не встретил ни одного серьезного вызова — ни как утверждение о физической реальности, ни как определение «вычислимости».

С другой стороны, несерьезных вызовов тезису Чёрча — Тьюринга было немало. Более того, есть целые конференции и журналы, посвященные этим вызовам, — погуглите по термину «сверхтьюринговые вычисления» или «гипервычисления». Я читал кое-что на эту тему, в основном там идут примерно такие рассуждения: предположим, вы можете выполнить первый шаг некоторого вычисления за одну секунду, следующий шаг за полсекунды, следующий за четверть секунды, следующий за восьмую долю и т. п. Тогда за две секунды вы выполните бесконечное количество вычислений! Ну, в таком виде все это звучит немного глупо, так что можно немного подсыпать перчику, добавив «до кучи» какую-нибудь черную дыру или еще что-нибудь. Разве смогут узколобые реакционеры — сторонники Тьюринга что-нибудь возразить? (Это напоминает мне шутку про суперкомпьютер, который был настолько быстр, что мог выполнить бесконечный цикл за 2,5 секунды.)

Конечно, мы должны серьезно усомниться в том, что если бы Природа собиралась подарить нам такие громадные вычислительные возможности, то она сделала бы это так обыденно, так неинтересно. Не заставила бы нас потрудиться или еще что. Но, должен признать: чтобы по-настоящему понять, почему предложения по сверхтьюринговым вычислениям не проходят, вам потребуются пределы энтропии по Бекенштейну, Буссо и другим — они суть часть того немногого, что физики, по их мнению, знают о квантовой гравитации и о чем мы поговорим немного позже. Так что тезис Чёрча — Тьюринга — даже его оригинальный, нерасширенный вариант — действительно связан с некоторыми глубочайшими вопросами физики. Но мне представляется, что ни квантовые вычисления, ни аналоговые, ни что-либо другое не смогли бросить этому тезису серьезный вызов за все 75 лет с момента его появления.

Вот еще одно возражение к приведенной выше идее вычислений в геометрической прогрессии. Мы более или менее понимаем, почему эта модель не физична: мы уверены, что само понятие времени начинает рушиться, когда мы доходим интервалов около 10–43 секунды (планковское время). Мы не знаем в точности, что там происходит. Тем не менее ситуация представляется ни в малейшей степени не похожей на квантовые вычисления (к примеру). В квантовых вычислениях, как мы увидим, никто не имеет никаких количественных представлений о том, где теория может нарушиться, а компьютер — перестать работать, что естественно порождает гипотезу о том, что он, быть может, и не перестанет работать.

Можно, конечно, сказать, что по достижении планковского времени начинаются по-настоящему хитрые вещи. Почему бы просто не сказать, что на практике нас всегда ограничивает шум и несовершенство мира?

Вопрос в следующем: почему мы ограничены? Почему мы не можем хранить в регистре действительное (вещественное) число? Мне кажется, что если попытаться сделать рассуждение точным, то в конце концов мы все равно будем говорить о планковском масштабе.

Если мы интерпретируем тезис Чёрча — Тьюринга как утверждение о физической реальности, оно должно охватывать все в этой реальности, включая самодовольную нейронную сеть, имеющуюся у нас между ушами. Это, разумеется, приводит нас прямо на изрытое воронками поле интеллектуального сражения, куда я и обещал вас привести.

В качестве исторического замечания интересно отметить, что возможность существования мыслящих машин не относится к тем идеям, которые пришли к человеку постепенно, после нескольких десятков лет пользования компьютерами. Нет, они возникли мгновенно, в ту самую минуту, когда разговор впервые зашел о компьютерах как таковых. Такие люди, как Лейбниц, Беббидж, Лавлейс, Тьюринг и фон Нейман, с самого начала понимали, что компьютер станет не просто очередной новинкой вроде парового двигателя или тостера, — что компьютер обладает свойством универсальности (не важно, называли они его так или нет), и потому сложно даже говорить о компьютерах, не говоря одновременно о самих себе.

А теперь я прошу вас отложить на несколько минут эту книгу и прочитать вторую по известности работу Тьюринга «Вычислительные машины и разум»[16].

Какова основная идея этой статьи? Я считаю, что это призыв против животного, или мясного, шовинизма. Конечно, Тьюринг приводит кое-какие научные доводы, кое-какие математические аргументы, кое-какие эпистемологические соображения. Но под всем этим лежит единственный моральный аргумент. А именно: если бы компьютер взаимодействовал с нами так, что был бы неотличим от человека, то, конечно, мы все равно могли бы сказать, что «на самом деле» компьютер не думает, что это всего лишь моделирование. Но на тех же основаниях мы могли бы заявить, что на самом деле другие люди не думают, что они просто действуют так, как будто думают. Так что же заставляет нас заниматься подобной интеллектуальной акробатикой в одном случае и отвергать все с порога в другом?

Если вы позволите мне откомментировать сказанное с моей собственной пристрастной позиции (как будто я когда-нибудь упускаю возможность это сделать…), то именно в этом моральном вопросе, в вопросе двойных стандартов Сёрлу, Пенроузу и всем остальным «скептикам сильного ИИ» нечего мне предложить. В самом деле, можно приводить весомые и убедительные аргументы против возможности существования мыслящих машин. Единственная проблема этих аргументов состоит в том, что они одновременно являются аргументами против возможности существования мыслящего мозга!

К примеру: один из популярных аргументов состоит в том, что если компьютер представляется разумным, то это лишь отражение человеческого разума, который его запрограммировал. Но что если человеческий разум — это лишь отражение эволюционного процесса длиной в миллиарды лет, который и дал ему начало? Что неизменно разочаровывает меня всякий раз, когда я читаю скептиков ИИ, так это их неспособность рассматривать эти параллели честно. «Квалиа», то есть первичные ощущения, и «близость» других людей принимаются как нечто само собой разумеющееся. Сомнению подвергается только квалиа машин.

Возможно, на это скептик мог бы ответить: я уверен, что другие люди думают, потому что я точно знаю, что сам я думаю, а другие люди выглядят, в общем-то, примерно так же, как я: у них тоже по пять пальцев на руках, волосы подмышками и т. п. Но робот-то выглядит иначе: он сделан из металла, у него есть антенна, он с трудом перемещается по комнате и т. п. Поэтому даже если робот действует так, как будто умеет думать, кто знает, думает ли он на самом деле? Но если я принимаю этот аргумент, то почему не пойти дальше? Почему я не могу сказать: я признаю, что белые люди думают, но что касается чернокожих и азиатов… кто знает? Выглядят они слишком непохоже на меня.

На мой взгляд, все сказанное об искусственном интеллекте можно разделить на две категории: те 70 %, которые содержатся где-то в работе Тьюринга 1950 г., и еще 30 %, что появились в результате полувека более поздних исследований.

Так что сегодня, спустя шестьдесят с лишним лет, мы можем сказать кое-что, что удивило бы Алана Тьюринга. Что именно? Ну, во-первых, насколько мал оказался прогресс в этом направлении по сравнению с ожиданиями! Вы ведь помните, что Тьюринг сделал проверяемое предсказание?

Я уверен, что лет через пятьдесят станет возможным программировать работу машин с емкостью памяти около 109 так, чтобы они могли играть в имитацию настолько успешно, что шансы среднего собеседника установить присутствие машины через пять минут после того, как он начнет задавать вопросы, не поднимались бы выше 70 %.

Какова судьба этого предсказания? Во-первых, отметим, что предсказание о собственно компьютерах оказалось чертовски точным. Тьюринг предсказал, что через 50 лет (т. е. в 2000 г.) мы будем программировать компьютеры с емкостью памяти примерно в 109 (т. е. 1 гигабайт).

Но что с программированием компьютеров, способных пройти тест на имитацию человека? Какова судьба этого предсказания Тьюринга?

Ну, некоторые из вас, возможно, слышали о программе под названием ELIZA, которую написал в 1966 г. Джозеф Вейценбаум. Эта программа моделирует психотерапевта, который все, что бы вы ему ни сказали, возвращает вам же в виде вопросов. Вейценбаум выяснил поразительную вещь: многие люди готовы открыть этой программе душу! И иногда, если рассказать, что беседовали они с программой (причем чрезвычайно простой), они не хотят этому верить.

Много лет назад кому-то пришла в голову блестящая идея взять оригинальную программу ELIZA, запустить ее в чат провайдера America Online и посмотреть, что из этого получится. Если зайти на сайт http://fury.com/aoliza, можно увидеть там ужасно смешные (к счастью, анонимные) диалоги, в которых люди пытаются соблазнить программу, рассказывая ей о своих изменах и т. п. Вот одна из моих любимых бесед, в которой человек, прежде чем приступить к амурным домогательствам, сказал программе, что планирует в ближайшее время получить степень бакалавра бизнес-администрирования, а затем «вступить в корпоративное сотрудничество с компанией Starbucks».

Парень: Мне кажется, тебе нравится играть с моим сознанием

ELIZA: Твоим сознанием?

Парень: Дразнить меня, отказываясь участвовать в моих фантазиях

ELIZA: Твоих фантазиях?

Парень: О крышесносном сексе с тобой

ELIZA: А это как-то связано с тем фактом, что ты собираешься получить степень бакалавра, а потом вступить в корпоративное сотрудничество с компанией Starbucks?

В настоящее время искусство беседы между машиной и человеком продвинулось вперед по сравнению с тем, что показано в этом примере, но не слишком сильно. Создается впечатление, что на самом деле нам нужно пересмотреть тест Тьюринга: необходимо оговорить, что если мы хотим проверить интеллект компьютера, то и человек, который ведет беседу с машиной, должен обладать каким-то минимальным уровнем интеллекта.

Разумеется, часть проблемы здесь в том, что все эти люди были уверены, что разговаривают с человеком, а при прохождении теста Тьюринга человек будет пытаться отличить человека от компьютера. Так что нельзя, конечно, считать подобные беседы в чатах настоящим тестом Тьюринга; это просто забавно. Однако на протяжении уже пятнадцати лет человек по имени Хью Лёбнер проводит конкурс[17], условия которого намного ближе к тому, что имел в виду Тьюринг. Здесь людям, участвующим в испытаниях, говорят, что их задача — отличить человека от компьютера, но многие беседы в записи выглядят не менее уныло, чем прежде, причем с точки зрения как машинного интеллекта, так и человеческого. (К примеру, женщину, которая пыталась завести интеллектуальную беседу о Шекспире, сочли компьютером, потому что «не может быть, чтобы человек знал столько всего о Шекспире…»)

Вы можете спросить: что если мы поручим вести разговор не человеку, а компьютеру? Оказывается, это вовсе не гипотетическая ситуация. В 2006 г. человек по имени Луис фон Ан получил премию Мак-Артура за (помимо всего прочего) работу над «капчами» — теми самыми тестами, которые используются на сайтах для отличения настоящих живых пользователей от спамботов. Я уверен, что вы с ними встречались, — знаете, такие прямоугольнички со странными изогнутыми буквами и цифрами, которые вы должны перепечатать. Ключевое свойство этих тестов — то, что компьютер должен уметь их генерировать и оценивать, но не пройти сам! (Похоже на то, как профессора готовят материалы для контрольных…) Только человек, причем любой человек, должен уметь проходить такие тесты. По сути, эти тесты используют слабости ИИ. (Впрочем, еще они пользуются вычислительной сложностью создания необратимых функций, до обсуждения которой мы дойдем позже.)

У капчей есть один интересный аспект: их создание уже привело к «гонке вооружений» между их программистами и программистами ИИ. Когда я учился в Беркли, несколько моих однокурсников написали программу[18], способную пройти капчу под названием Gimpy в примерно 30 % случаев. Так что в каждом подобном случае капчи приходится усложнять, после чего творцы ИИ вновь берутся за дело, и т. п. Кто победит?

Вот видите: всякий раз, когда вы заводите себе новый аккаунт на почтовом сервере, вы непосредственно сталкиваетесь с вековой загадкой о том, что значит быть человеком…

Несмотря на все, что я сказал по поводу теста Тьюринга, кое-какие решительные успехи в области ИИ, безусловно, имели место. Все мы знаем о Каспарове и компьютере Deep Blue, слышали о компьютере Watson фирмы IBM (это тот компьютер, который выиграл в «Свою игру» у человеческого чемпиона Кена Дженнингса). Может быть, менее известно, что в 1996 г. при помощи программы под названием Otter была решена алгебраическая задача, продержавшаяся 60 лет и известная как гипотеза Роббинса[19]; в свое время над ней работали Тарский и другие знаменитые математики. (Судя по всему, несколько десятилетий Тарский давал эту задачу своим лучшим студентам. Со временем, однако, он начал давать ее своим худшим студентам…) Формулировка задачи проста: можно ли, имея следующее три аксиомы:

• A или (B или C) = (A или B) или C

• A или B = B или A

• не (не (A или B) или не (A или не (B))) = A,

вывести в качестве следствия, что не (не (A)) = A?

Позвольте мне подчеркнуть, что это доказательство непохоже, к примеру, на доказательство Аппеля и Хакена гипотезы о четырех красках, где роль компьютера заключалась в основном в проверке тысяч вариантов. В данном случае все доказательство заняло 17 строк. Человек вполне способен проверить его вручную, ну и, скажем, я сам мог бы предложить такое решение (в принципе!).

Что еще? Есть мнение, что уже сегодня существует достаточно сложная система ИИ, которой почти все вы пользовались сегодня утром и будете еще пользоваться в течение дня. Что за система? Правильно, Google.

Вы можете взглянуть на любой из этих примеров — Deep Blue, гипотеза Роббинса, Google, наконец, Watson — и сказать, что это не настоящий ИИ. Это всего лишь система массивного поиска, поддержанная хитроумными программами. Замечу, что от подобных разговоров исследователи ИИ начинают лезть на стену. Они говорят: если бы в 1960-е гг. вы сказали кому-нибудь, что через 30 лет мы сможем обыграть в шахматы гроссмейстера мирового уровня, и спросили бы, можно ли будет считать такую систему искусственным интеллектом, вам бы ответили: разумеется, это будет ИИ! Но теперь, когда мы знаем, как это сделать, никто уже не считает это настоящим ИИ — это просто поиск. (Философы тоже жалуются на подобное: как только некое направление философии дает какой-то конкретный результат, оно тут же перестает называться философией, а начинает именоваться математикой или физикой!)

И еще один момент, который мы сегодня осознаем, но который во времена Тьюринга еще не осознавали до конца. Дело в том, что мы, пытаясь моделировать человеческий интеллект, соревнуемся с миллиардом лет эволюции. А это чертовски сложно. Одно из неочевидных следствий этого обстоятельства заключается в том, что намного проще запрограммировать компьютер на победу над Гарри Каспаровым в шахматной игре, чем научить компьютер распознавать человеческие лица при разных условиях освещения. Часто наиболее сложными для ИИ задачами оказываются те, что с легкостью выполняет любой пятилетний ребенок: структуры для их выполнения так прочно встроены в мозг эволюцией, что мы даже не задумываемся о них.

Были ли за последние 60 лет новые озарения и прорывы в отношении теста Тьюринга? На мой взгляд, очень немного. С одной стороны, была знаменитая «попытка озарения», известная как Китайская комната Сёрла. Эта штука была предложена около 1980 г. как аргумент в пользу того, что даже компьютер, который пройдет тест Тьюринга, не будет по-настоящему разумным. Суть дела здесь примерно в следующем. Допустим, вы не говорите по-китайски. Вы сидите в закрытой комнате, и кто-то передает вам через окошечко в стене листочки бумаги с вопросами, написанными по-китайски. При этом вы, справляясь с некой книгой инструкций, можете отвечать на эти вопросы (тоже по-китайски). В результате вы можете вести осмысленную беседу на китайском языке, не понимая при этом (по условию) ни слова по-китайски! Получается, что манипуляции с символами не обеспечивают понимания.

Как мог бы сторонник сильного ИИ ответить на подобные аргументы? Ну, он мог бы сказать: вы, может, и не понимаете китайского, но это делает за вас инструкция! Или, если хотите, понимание китайского — это эмерджентное свойство системы, состоящей из вас самих и справочника, в том же смысле, в каком понимание родного языка есть эмерджентное свойство нейронов человеческого мозга.

Сёрл отозвался на эти возражения так: прекрасно, а теперь просто заучите книгу инструкций наизусть! После этого не будет уже никакой «системы», помимо вашего мозга, но вы по-прежнему не будете «понимать» китайский. На что сторонник ИИ отвечает: в этом случае тоже присутствует «система»! Предположим, вы заучили инструкцию, тогда нам следует различать «первоначального» вас и новое, смоделированное существо, родившееся в результате вашего следования заученным правилам, — существо, которое, может быть, объединяет с вами тот единственный факт, что вы с ним обитаете в одном черепе. Такой ответ может показаться безумным, но только человеку, который никогда не изучал информатику. Любой компьютерщик совершенно спокойно скажет, что один вычислительный процесс (скажем, интерпретатор языка LISP) может породить другой, никак с ним не связанный вычислительный процесс (скажем, игру по управлению космическим аппаратом) посредством просто строгого следования некоторым правилам.

Лично я не знаю — об этом мы поговорим чуть позже, — является ли вывод мысленного эксперимента с китайской комнатой верным или неверным. Я не знаю, какие условия необходимы или достаточны для того, чтобы какая-то физическая система «понимала» китайский язык; я уверен, что этого не понимает ни сам Сёрл, ни кто бы то ни было еще. Но если рассматривать историю с китайской комнатой как рассуждение, то в нем есть некоторые аспекты, которые меня всегда раздражали. Один из них — неосознанная апелляция к интуитивным понятиям («это всего лишь инструкция, чтобы просто зачитывать ответы») в вопросе как раз того сорта, где, как мы должны понимать, на интуицию можно полагаться меньше всего. Второе — это двойные стандарты: идея о том, что кучка нервных клеток может понимать китайский, принимается не просто как очевидная, но как совершенно беспроблемная и не вызывающая даже намека на вопрос о том, почему напечатанная инструкция не может тоже понимать китайский. Третье, что раздражает меня в истории с китайской комнатой, — то, как старается автор дистанцироваться от возможной ошибки при выборе картины, или, если сформулировать иначе, раздражает попытка обойти весь вопрос вычислительной сложности чисто за счет внешних атрибутов. Нам предлагается представить себе, как кто-то перебирает клочки бумаги без какого бы то ни было понимания или представления об их содержании — примерно как глупый первокурсник, который пишет в контрольной (a + b)² = a² + b². Но о каком количестве клочков бумаги мы говорим? Насколько толстой должна быть книга инструкций и с какой скоростью вы должны отыскивать в ней соответствующее место, чтобы вести осмысленную беседу по-китайски хотя бы приблизительно в реальном времени? Если бы каждая страница книги соответствовала одному нейрону мозга человека, для которого китайский — родной язык, то мы, вероятно, говорили бы о книге инструкций размером по крайней мере с Землю, нужное место на страницах которой искали бы полчища роботов, передвигающихся с околосветовой скоростью. Если рассматривать ситуацию именно так, то не так уж сложно, наверное, представить, что порожденная нами громадная китайскоязычная сущность может обладать чем-то, что мы готовы назвать пониманием или проникновением в суть[20].

Разумеется, все, кто говорит о подобных вещах, буквально на цыпочках обходят вопрос сознания. Понимаете, сознание обладает странным дуализмом: с одной стороны, есть мнение, что это самая загадочная из всех известных нам сущностей, а с другой — мы не только воспринимаем ее непосредственно, но в определенном смысле это единственная вещь, которую мы воспринимаем непосредственно. Ну, вы знаете: cogito ergo sum[21] и все такое прочее. К примеру, я в принципе могу ошибаться, считая, что на мне голубая рубашка, — может, у меня галлюцинации или еще что, — но я никак не могу ошибаться в том, что я воспринимаю ее голубой. (Ну а если могу, то это называется бесконечным регрессом.)

Хорошо, а есть ли у нас еще что-нибудь, что также дает ощущение абсолютной уверенности? Правильно, математика! Кстати говоря, я считаю, что именно сходством между математикой и субъективным восприятием в значительной степени объясняются «квазимистические» наклонности многих математиков. (Я уже слышу, как некоторые математики морщатся. Простите!) Физикам полезно понимать: когда говоришь с математиком, дело не обязательно в том, что он боится реального мира и потому уходит в этакую интеллектуальную мастурбацию. Может быть, для этого человека реальный мир просто никогда не был особенно реален!

Вот что я имею в виду. Возьмите компьютерное доказательство гипотезы о четырех красках, которую я уже мельком упоминал. Это доказательство разрешило великую математическую задачу, державшуюся целый век, но сделало это посредством сведения ее к скучному перечислению тысяч конкретных случаев. Почему некоторые математики недовольны этим доказательством или, по крайней мере, надеются на появление другого, лучшего? Потому что компьютер «мог сделать ошибку»? Ну, это довольно слабый аргумент, поскольку доказательство было проверено несколькими независимыми группами программистов с использованием разного оборудования и программного обеспечения; к тому же человек и сам делает множество ошибок!

Мне кажется, суть разногласий здесь сводится к тому, что есть определенный смысл, в котором гипотеза о четырех красках доказана, и есть смысл, в котором многие математики понимают доказательство, — и смыслы эти не совпадают. Для многих математиков утверждение нельзя считать доказанным в тот момент, когда некий физический процесс (это может быть классический расчет, квантовый расчет, интерактивный протокол или еще что-то) завершается и говорит, что оно доказано, какими бы серьезными ни были причины считать этот физический процесс достоверным. Скорее так: утверждение считается доказанным, когда они (математики) чувствуют, что их разум может непосредственно воспринять его истинность.

Конечно, трудно обсуждать подобные вещи прямо. Я пытаюсь указать лишь, что «враждебность к роботам» у многих людей представляет собой, вероятно, комбинацию из двух ингредиентов:

1. Непосредственно воспринимаемая уверенность в том, что сами они обладают сознанием — что они воспринимают цвета, звуки, положительные целые числа и т. п., независимо от того, делают ли это все остальные, и

2. Уверенность в том, что если бы они были всего лишь вычислительным процессом, то они не могли бы обладать сознанием в этом смысле.

К примеру, я считаю, что возражения Пенроуза против сильного ИИ базируются именно на этих двух факторах. Я считаю, что его критика теоремы Гёделя — всего лишь занавесочка на окне, добавленная позже.

Для тех, кто думает так (и я сам — в соответствующем настроении), признание за роботом права на сознание представляется в каком-то странном смысле эквивалентным отрицанию собственного сознания. Существует ли достойный выход из этой дилеммы, или, иными словами, хоть какой-нибудь выход, не основанный на совершенно шовинистических двойных стандартах, когда к самим себе применяются одни правила, а к роботам — другие?

Мне больше всего нравится выход, который продвигает философ Дэвид Чалмерс[22]. Суть того, что предлагает Чалмерс, состоит в «философской редукции NP-полноты», то есть в сведении одной загадки к другой. Он говорит, что если компьютеры когда-нибудь научатся имитировать людей во всех наблюдаемых отношениях, то мы будем вынуждены рассматривать их как обладающие сознанием, в точности по тем же причинам, по которым мы рассматриваем окружающих нас людей как обладающих сознанием. Что же касается того, как они могут обладать сознанием, — ну, мы при этом будем понимать это точно так же хорошо или точно так же плохо, как мы понимаем, как кучка нейронов может обладать сознанием. Да, это загадка, но в данном случае одна загадка, кажется, не так уж сильно отличается от другой.