Так, сморим далее: Роджер Пенроуз — один из величайших специалистов по математической физике на Земле. Может ли быть, что мы неверно восстановили ход его мысли?

На мой взгляд, самые правдоподобные варианты аргумента Пенроуза те, что основаны на «асимметрии понимания», а именно то, что мы, понимая внутреннее устройство и принципы работы компьютера, не понимаем пока внутреннего устройства и принципов работы мозга.

Как можно использовать эту асимметрию? Ну, если дана любая известная машина Тьюринга M, безусловно, можно построить высказывание, которое поставит ее в тупик:

S(M) = «Машина M никогда не выведет это высказывание».

Есть два варианта: либо M выведет S(M), и это будет означать, что она вывела ложь, либо M не выведет S(M), и это будет означать, что существует математическая истина, с которой она не может согласиться.

Очевидный ответ таков: почему бы нам не сыграть в ту же игру с человеком?

«Роджер Пенроуз никогда не выведет это высказывание».

Можно полагать, что на это есть ответ: потому что мы можем формально определить, что значит для машины M вывести нечто, если разберемся в ее внутреннем устройстве. В самом деле, «M» — это всего лишь сокращенное обозначение диаграммы состояния подходящей машины Тьюринга. Но можем ли мы формально определить, что значит для Пенроуза что-то вывести? Ответ зависит от того, что нам известно о внутреннем устройстве и работе человеческого мозга, или, точнее, мозга Пенроуза! А это приводит нас к представлению Пенроуза о мозге как объекте «некомпьютерном».

Есть распространенная ошибка: люди думают, что Пенроуз считает мозг квантовым компьютером. На самом же деле квантовый компьютер был бы намного слабее, чем ему нужно! Как мы видели ранее, квантовые компьютеры, судя по всему, не способны даже решать NP-полные задачи за полиномиальное время. Пенроуз, напротив, хочет, чтобы мозг решал невычислимые задачи с использованием гипотетических эффектов коллапса из еще не открытой квантовой теории гравитации.

Я однажды спросил Пенроуза: почему не пойти дальше и не предположить, что мозг способен решать задачи, невычислимые даже при наличии оракула для проблемы остановки, или оракула для проблемы остановки машины Тьюринга с оракулом для проблемы остановки, и т. п.? Он ответил, что да, это он бы тоже предположил.

Я лично всегда считал, что если Пенроуз в самом деле хочет порассуждать о невозможности моделирования мозга на компьютере, то ему следует говорить не о вычислимости, а о сложности. Причина просто в том, что в принципе мы всегда можем смоделировать человека при помощи громадной таблицы преобразования, в которой закодирована реакция человека на каждый вопрос, который может быть ему задан на протяжении, скажем, ближайшего миллиона лет. При желании мы могли бы закодировать в этой таблице также голос, жесты, выражения лица и другие особенности этого человека. Ясно, что такая таблица будет конечной. Так что всегда возможна какая-то модель человеческого существа, вопрос только в том, будет ли такая модель эффективной!

Вы можете возразить, что если бы люди могли жить бесконечно или хотя бы произвольно долго, то таблица перекодировки не была бы конечной. Это верно, но несущественно. Факт есть факт: люди регулярно решают, что другие люди обладают разумом, после нескольких минут общения с ними! (Мало того, иногда такой вывод делается после нескольких минут обмена электронными письмами или смс-сообщениями.) Так что если вы не планируете удариться в картезианский скептицизм по поводу каждого встреченного в фейсбуке, чате и т. п. персонажа, то просто должно существовать относительно небольшое целое n, такое, что после обмена не более чем n битами вы можете быть в разумной степени уверены, что ваш собеседник обладает разумом.

В книге «Тени разума» (своеобразное «продолжение» книги «Новый разум короля») Пенроуз признает, что человека-математика всегда можно смоделировать на компьютере с громадной таблицей перекодировки. Затем он утверждает, что такая таблица не являлась бы «настоящей» моделью, поскольку, к примеру, не было бы оснований считать, что любое конкретное заявление в этой таблице истинно, а не ложно. Проблема здесь в том, что этот аргумент откровенно противоречит центральной, как могло бы показаться, мысли Пенроуза, а именно что машина не может даже имитировать человеческий интеллект, не говоря уже о том, чтобы проявлять его!

В «Тенях» Пенроуз предлагает следующую классификацию взглядов на сознание:

1. Сознание можно свести к вычислительным процессам (точка зрения сторонников сильного ИИ).

2. Конечно, сознание можно имитировать при помощи компьютера, но имитация не в состоянии обеспечить «настоящее понимание» (точка зрения Джона Сёрла).

3. Сознание невозможно даже имитировать при помощи компьютера, однако оно тем не менее имеет научное объяснение (точка зрения самого Пенроуза, судя по «Теням»).

4. Сознание вовсе не имеет научного объяснения (точка зрения 99 % всех, кто когда-либо жил на свете).

Кстати говоря, мне кажется, что Пенроуз, отбрасывая таблицы перекодировки как «ненастоящую» модель, отступает с точки зрения C на точку зрения B. Ведь если мы скажем, что прохождения теста Тьюринга недостаточно, что необходимо «вскрыть ящик» и исследовать внутреннее устройство машины, чтобы определить, думает она или нет, то что в позиции C будет отличать ее от позиции B?

Тем не менее я хочу извернуться и посмотреть, не удастся ли мне понять, что все-таки имеет в виду Пенроуз.

В науке всегда можно состряпать теорию для «объяснения» имеющихся данных: достаточно просто выписать все имеющиеся данные подряд и назвать это «теорией»! Очевидная проблема здесь — излишняя подгонка. Поскольку такая теория не дает никакого сжатия оригинальных данных, то есть для записи теории требуется ровно столько же бит, что и для записи данных, то нет оснований ожидать, что эта теория сможет предсказать будущие данные. Иными словами, такая теория бесполезна.

Так что, когда Пенроуз говорит, что таблица перекодировки — это не «настоящая» модель, он, может быть, имеет в виду следующее. Разумеется, можно написать компьютерную программу, которая разговаривала бы как Дизраэли или Черчилль, просто собрав все возможные их высказывания и ответы. Но это и есть излишняя подгонка, с которой мы не должны мириться! Главный вопрос не в том, можем ли мы смоделировать сэра Уинстона при помощи какой-либо компьютерной программы. Скорее он в том, можем ли мы смоделировать его при помощи программы, которая может быть написана в пределах наблюдаемой Вселенной и которая, в частности, многократно короче списка всех возможных разговоров с ним.

Итак, мы опять попадаем в точку, куда я возвращаюсь раз за разом: если Пенроуз имеет в виду именно это, то он оставил мир Гёделя и Тьюринга далеко позади и вступил на мое поле деятельности — в царство вычислительной сложности. Откуда Пенроуз — или кто угодно другой — знает, что не существует ма-а-аленькой булевой схемы, способной смоделировать Уинстона Черчилля? По-видимому, мы не смогли бы доказать ничего подобного, даже считая (чисто теоретически), что мы знаем, что такое модель Черчилля! О вы, все те, кто готов утверждать неразрешимость конечных задач: на этом пути затаился зверь P или NP, из 2ⁿ челюстей которого не удалось выскользнуть еще ни одному смертному[85].