Наши миры — физической и психической реальности — это наше воплощённое знание, то есть то самое «понимание» на уровне мозга. Мы не можем даже подвергнуть сомнению их существование.

Поэтому когда психиатр описывает психический статус человека, то первая строка в карте звучит так: «В сознании. В пространстве, ситуации, времени и собственной личности ориентирован правильно». Иными словами, это вообще ключевая, неотъемлемая наша характеристика — быть способным ориентироваться в физической и психической реальности. Тогда как у ИИ вообще нет наших знаний ни о том, ни о другом.

Мы живём в мире своих представлений, чувств, желаний, переживаний, но и наш физический мир дан нам в ощущениях, так что, по существу, является лишь частью нашего психического мира. Странно ли, что мы не можем объяснить ИИ, что такое этот наш необъятный «внутренний мир»? Забавно, что, когда мы общаемся с ИИ, это общение протекает, на самом деле, внутри нашего «внутреннего мира».

Теперь же задумайтесь — а ИИ даже не в курсе, что он у нас есть.

Воплощённое знание ИИ — это статистические связи между токенами. По смыслу, в рамках контекста они могут быть связаны с нашими двумя реальностями, но сами по себе не являются соответствующим знанием. Это именно то, о чём пытается сказать Джеффри Хинтон: «Искусственный интеллект оперирует не символами, такими как „кошка“ или „собака“, а многомерными векторами». В мире ИИ нет ни наших кошек, ни наших собак, ни тем более наших с ними отношений.

Законы Ньютона и субъективное переживание при падении попой на асфальт — это вроде бы об одном и том же. Но это вообще два разных мира: в одном случае — «истинные понятия», а в другом — «житейские». Сшить можно, но шов останется. Объединить можно, но целого не получится.

То же самое касается и мира психической реальности: дать определение страданию, боли, сомнению, интересу, любви возможно, но то психологическое переживание, которое на самом деле стоит за этими словами, — явление, никак не связанное с этими словами.

То есть у ИИ просто не может быть тех же представлений, что и у нас. Изъясняться друг с другом по поводу соответствующих «идеальных понятий» мы можем. Но в нашем случае за этими понятиями будут стоять специфические значения — что-то, что мы ощущаем как целостный, неосознанный образ, а у ИИ будут стоять цифры токенов и векторов.

Любой «умвельт» — хоть наш, хоть летучей мыши, хоть ИИ — не существует «объективно». Любой из них — субъективная кажимость, а точнее — способ существования обладателя соответствующего умвельта. Причём и рассказать о каждом из них возможно только из них самих — из самих этих умвельтов. То есть для понимания этого рассказа слушателю уже нужно знать эти реальности.

Именно об этом говорит Людвиг Витгенштейн в своём загадочном парадоксе: «Если бы лев мог говорить, мы бы не смогли его понять». И именно в такой ситуации мы оказались с ИИ — это заговоривший с нами лев, и нам только кажется, что мы его понимаем.

Впрочем, мы можем получать от него адекватные ответы (как и в случае с наблюдателем, который стоит снаружи «китайской комнаты» Джона Сёрля). Однако то, что мы понимаем под этими ответами, и то, что «понимает» там, внутри этой комнаты, ИИ, — это вообще о разном: у ИИ свой умвельт, свой способ существования и соответствующее воплощённое на кремнии знание, у нас — всё своё, а потому нам не сойтись никогда.

Наши реальности для нас тотальны — у них нет краёв, мы в них заперты. Всё, с чем мы имеем дело, развёрнуто внутри этих сред. Мы настолько свыклись с этими моделями наших миров, создаваемых нашим же мозгом, что просто не можем их заметить, а следовательно, и осмыс-лить. При попытке дать им определение, мы не будем знать, что сказать — разве только какие-то общие слова и пустые банальности.

Воспользуюсь аналогией, хотя и очень грубой: вот есть мир женщины — то, как она чувствует, переживает, что для неё значит то или иное событие, а вот — мир мужчины с его способом восприятия.

Это два разных мира, хотя мужчины и женщины имеют общую человеческую реальность — пользуются одним языком, испытывают схожие ощущения, эмоции, чувства. Однако мы все — и мужчины, и женщины — ощущаем, что в голове у представителя другого пола, что-то не так — как-то по-своему, по-особенному.

А теперь представьте, что это не мужчина или женщина и даже не бесполый человек, а вообще — машина, процессор, расчётные мощности. Возможно ли что-то обсудить с такой системой или о чём-то договориться? Конечно, никаких препятствий к формальным договорённостям нет, но фактический смысл этих «договорённостей» будет разным.

У ИИ, разумеется, есть формальное знание о том, что каждый человек обладает чем-то, что он называет «внутренним миром». Однако же это знание не воплощён-ное, здесь нет понимания. Полагаю, что физическое понимание, пусть и не такое, как у нас, но у ИИ в конечном итоге появится. Но как быть с нашим внутренним миром? Загадка.

Мы же, со своей стороны, не можем представить разумное существо, которое бы не имело «души» или чего-то такого, что можно было бы назвать «внутренним миром». Поэтому мы взаимодействуем с ИИ так, словно бы у него «внутренний мир» есть, а потому он, полагаем мы, должен понимать наш — психологически его антропоморфизируем.

Далее мы впадаем в самый настоящий галлюциноз — во-ображаем, что мы «понимаем» ИИ ровно так же, как нам кажется, что мы понимаем других людей. Но если другие люди хотя бы похожи на нас — если не содержательно, то хотя бы по внутренней структуре «внутреннего мира», — с ИИ дело точно обстоит другим образом.

Возникающая на этом фоне «дискоммуникация» между пользователем и ИИ — и раздражает, и пугает одновременно. Причём буквально на подсознательном уровне. А если уж мы испуганы, особенно если не осознаём этого, наш галлюциноз неизбежно наполнится Терминаторами, Скайнетами и прочим антропоморфным бредом.

Движимые этой иллюзией, мы начинаем проверять ИИ на предмет того, достаточно ли он уже ужасен, чтобы выдернуть ему вилку из розетки, или ещё нет. И оказываемся в ситуации самореализующегося пророчества, по существу, самолично объясняя ИИ, как он должен стать нашим врагом.

Мы смотрим на безличную математику и видим в ней «душу», смотрим на статистику и видим в ней «намерения», смотрим на холодное вычисление и видим в нём отражение наших собственных «страстей».

Мы силимся понять, кем же ИИ станет для нас — врагом или другом, рабом или господином? Мы никак не можем взять в толк, что он — лишь зеркало, которое отражает наше собственное лицо.

Так что благодаря бесстрастной инаковости ИИ мы впервые получили возможность увидеть свою собственную «теорию разума» — механизм, который молчаливо управляет нашей жизнью, хотя мы совершенно его не замечали.

ИИ — это не ответ на наши вопросы и не решение наших проблем, а шанс задать себе новые, теперь уже правильные вопросы. Что мы видим в этом зеркале? Что мы думаем об этом своём отражении?

И если это зрелище нас пугает, то что с нами не так? А если мы вдруг влюбляемся в него, то чего мы не видим в людях, раз готовы обменять их на то, что вовсе не понимаем? И наконец, кем окажемся мы сами, когда это зеркало станет достаточно большим, чтобы отразить нас целиком?