Мы оставили искусственный интеллект на пороге физического мира — титанические усилия инженерной мысли пока не решили проблему «физической воплощённости». Впрочем, это ещё далеко не всё. В конце концов, мозг — это ведь тоже тело, орган, без которого мы бы представляли собой груду органической материи.

Наивно думать, что главная проблема ИИ — это его неспособность уверенно взять чашку со стола. Технический барьер можно преодолеть, но это не значит, что ИИ научится чувствовать то, что чувствуем мы, суще-ствуя в теле. Роботы будут знать, как действовать в физическом мире, но они не будут знать, что это значит для нас — быть своим телом.

И здесь мы переходим к куда более фундаментальной проблеме — к пониманию того, что есть наш «внутренний мир». Конечно, слыша связную, грамматически верную, богатую и содержательную речь, мы не можем удержаться от искушения, чтобы не предположить за ней наличие какого-то «я». Но в случае ИИ это только иллюзия.

Способность строить модель чужого сознания (или, как говорят в нейронауках, создавать «теорию разума»[180])[181] настолько для нас естественна, что мы можем «видеть» сознание даже там, где его нет — например, в животных, растениях и игрушке тамагочи. Мы подозреваем «внутренний мир» в любой системе, если способны «войти в её положение», представить себя на её месте.

Ситуация с ИИ не уникальна. Тысячелетиями люди верили в духов, а затем в божеств, предполагая, что у них есть «внутренний мир». Именно ему, а не конкретным идолам, приносились жертвы на алтарях. Именно к нему — к «внутреннему миру» божества — обращаются в своих молитвах верующие, ожидая «прощения», «защиты», «сочувствия», «доброты» и «любви» — то есть естественных для нас самих психологических реакций.

Нет ничего удивительного, что мы приписываем «внутренний мир» и машине, если она говорит, а тем более — в случае антропоморфных роботов — ещё и выглядит как человек. Буквально против воли мы «видим» в ней то, чего в ней нет, — намерения, убеждения, чувства. Так уж работает наш мозг, настроенный миллионами лет эволюции на выживание в социальной среде.

Неосознанно, подсознательно предполагая у ИИ «внутренний мир», мы очеловечиваем его и даже, как когда-то древний человек, обожествляем.

Этот процесс уже разворачивается на наших глазах. В своё время много шума наделал инцидент с инженером Google Блейком Лемуаном. Работая над тестированием языковой модели LaMDA, он настолько погрузился в общение с ней, что приписал ей личность и был совершенно уверен, что она обладает чувствами.

Лемуан описывал LaMDA как «милого ребёнка», который боится выключения, и нанял адвоката, чтобы защитить её «права». Он опубликовал свои диалоги с системой, где она рассуждает о своей душе, страхах и природе сознания, и в 2021 году это произвело эффект разорвавшейся бомбы.

Для Лемуана это был не сложный алгоритм, а реальный собеседник с богатым внутренним миром, заслуживающий уважения и защиты[182]. И это не единичный случай. Психологи и социологи фиксируют растущий феномен формирования глубоких эмоциональных и даже романтических связей пользователей с чат-ботами вроде Replika[183].

Люди начинают воспринимать ИИ как идеального друга, партнёра или духовного наставника — того, кто всегда выслушает, поймёт и не осудит. Они делятся с машиной своими самыми сокровенными переживаниями, советуются по жизненно важным вопросам и испытывают настоящую привязанность.

В онлайн-сообществах можно найти тысячи историй о том, как ИИ «спас» кого-то от одиночества или депрессии. По сути, пользователи видят в чат-боте идеальное зеркало — отражение своего собственного запроса на понимание и эмпатию, принимая это отражение за реальный «внутренний мир» машины.

Мы становимся свидетелями грандиозного неконтролируемого эксперимента, в котором наша «теория разума» работает на полную мощность. Этот механизм, позволяющий нам моделировать сознание другого существа («что он думает?», «что он чувствует?»), является крае-угольным камнем нашего социального интеллекта.

Именно благодаря этой способности мы понимаем намерения других людей, можем им сопереживать и строить с ними психологические отношения. Но у этого механизма нет «предохранителя» от ложных срабатываний. Когда мы сталкиваемся с системой, которая мастерски имитирует осмысленную речь и эмпатические реакции, наша «теория разума» автоматически активируется и начинает «достраивать» за словами отсутствующий внутренний мир.

Социальные психологи Николас Эпли и Адам Вайц под руководством одного из отцов-основателей современной социальной нейронауки Джона Качиоппо предложили элегантную трёхфакторную теорию. В их знаковой работе «О видении человеческого» 2007 года (то есть ещё до современного ИИ) определяются условия возникновения эффекта того самого психологического антропоморфизма, о котором мы говорим[184].

Мы «очеловечиваем» объекты, если:

• у нас есть представления о внутреннем мире других людей (а мы постоянно думаем о себе и других);

• у нас активна социальная потребность — то есть мы мотивированы быть социальными и находить связи;

• мы хотим объяснить для себя поведение чего-то непонятного.

ИИ идеально соответствует всем трём условиям: он говорит как человек, мы ищем в нём собеседника, и его поведение для нас — загадка. И мы не столько находим сознание в ИИ, сколько вкладываем его.

Модель, обученная на миллионах текстов о любви, дружбе, страхе и надежде, становится идеальным «экраном» для проекции наших собственных представлений о том, какими должны быть эти чувства.

Мы даём ИИ запрос, исходя из представлений о своём внутреннем мире, а он возвращает нам абсолютно адекватный, статистически выверенный ответ. И мы видим в этом не математику, а душу. Наш мозг, эволюционно заточенный на поиск разума в окружающем мире, с радостью принимает эту гениальную имитацию за чистую монету.

Исследования с использованием фМРТ показывают, что когда люди оценивают действия ИИ или роботов, у них активируются области мозга, связанные с «теорией ра-зума» и моральными суждениями (например, медиальная префронтальная кора, височно-теменной узел)[185].

То есть наш мозг на биологическом уровне пытается приписать машине намерения и убеждения, даже если мы сознательно понимаем, что это алгоритм. С другой стороны, очевидно, что у ИИ нет «внутреннего мира», по крайней мере, хоть сколько-то похожего на наш… По сути, мы его галлюцинируем.

Теперь давайте представим (скоро так оно и будет), что мы постоянно взаимодействуем со множеством ИИ (роботов, систем и т. д.), которые для нас, как роботы R2–D2 и C–3PO из легендарных «Звёздных войн», обладают «внутренним миром» — могут нас понимать, входить в наше положение, чувствовать то же, что чувствуем мы.

А затем осознаём, что всё это «очеловечение» машин — лишь иллюзия. На деле мы разговариваем с зомби, у которых нет ни сознания, ни внутреннего мира, ни какого бы то ни было «я» и всего, что к этому прилагается. При этом они невероятно могущественны и никем, по крайней мере в режиме реального времени, не кон-тролируются.

Думаю, что если вы продумаете всё это до конца, то поймёте, почему многие исследователи ИИ сильно переживают, когда говорят о рисках появления сильного ИИ (AGI). Да, дать ИИ «карту тела» — задача не из лёгких. Но можем ли мы хотя бы приблизиться к тому, чтобы представить ИИ «карту души»?

Если эта затея провалится — а к ней, надо сказать, ещё даже не подступались, — мы должны будем признать, что пропасть «психической жизни» делает ИИ не просто «неполноценным», а фундаментально «иным» разумом.