К книге
Иной разум. Как «думает» искусственный интеллект?Часть третья Встреча с иным. Глава девятая Пропасть психики. Что такое Theory of Mind?
92%
Часть третья Встреча с иным. Глава девятая Пропасть психики. Что такое Theory of Mind?
56

Любовь в том, что две уединённости защищают, касаются и приветствуют одна другую.

Каждый день в каждом своём разговоре с другим человеком мы совершаем чудо, даже не замечая этого.

Когда ваш друг говорит: «Я устал», — вы понимаете не одно только лексическое значение этих двух слов. Ваш мозг мгновенно строит в себе целую модель его внутреннего состояния:

• вы предполагаете причину его усталости (тяжёлый день на работе?);

• предсказываете его желания (вероятно, он хочет отдохнуть, а не идти в кино);

• корректируете своё поведение (предлагаете ему чай, а не новую идею).

Эта способность заглядывать «за» слова, видеть мир глазами другого человека и действовать на основе этого невидимого знания — и есть знаменитая «теория разума» (Theory of Mind, сокращённо ТоМ)[186][187].

«Теория разума» — это не простая «эмпатия», как думают некоторые. Да, способность чувствовать то, что чувствует другой, резонировать с его эмоциональным состоя-нием — это проявление нашей «теории разума». Но сам по себе этот феномен — куда более фундаментальное явление.

Это сложнейший когнитивный механизм, который позволяет нам на подсознательном уровне моделировать чужой разум: приписывать другим людям убеждения, намерения, желания и знания, которые могут кардинально отличаться от наших собственных.

Мы используем этот механизм настолько интуитивно и постоянно, что он кажется нам таким же естественным, как дыхание. Но под этой кажущейся простотой скрывается сложнейшая архитектура, построенная на трёх эволюционных и культурных фундаментах — трёх средах, в которых и формируется наше «я»[188].

Первый уровень: «телесное я»

Не удивительно, что всё начинается с тела — мира физических ощущений, боли, удовольствия, равновесия, голода. Но в данном случае это вовсе не мысли о «боли» или «удовольствии». Это именно внутреннее состояние, которое создаётся в специализированных отделах нашего мозга.

Прежде всего за эти состояния отвечают подкорковые структуры, лимбическая система, и особое место занимает так называемая островковая доля мозга, скрытая под шапкой больших полушарий.

Один из ведущих специалистов по интероцепции, профессор Неврологического института Барроу в Финиксе Артур Д. (Бад) Крейг, определяет переднюю часть островковой коры как нейронный субстрат субъективного самоощущения, где происходит интеграция интероцептивных сигналов о состоянии тела в целостное чувство «бытия живым»[189].

Как мы уже говорили, именно тело служит нам тем якорем, который привязывает нас к реальности. Нервные окончания раскинуты по всему нашему телу — внутри и снаружи. Вся эта информация, или, как её называл Иван Михайлович Сеченов, «тёмное валовое чувство», поступает в области мозга, в которые нашему сознанию путь заказан[190].

Это глубинное переживание своей телесной самости есть и у животных. Неслучайно мы говорим, что нас объял «животный ужас», что нам было «до печёнок страшно», что от страха у нас «перехватило дыхание», а «душа ушла в пятки». Это внутреннее «сжатие» происходит именно на уровне нашего «телесного я», нашего витального самоощущения.

Без «телесного я» у всех остальных уровней нашей психической организации нет ни единого шанса. И именно к этим бессознательным ощущениям мы обращаемся, когда пытаемся понять чужую боль, страдание или страсть. Этот довербальный, первичный опыт формирует базовую библиотеку наших переживаний.

Второй уровень: «социальное я»

Над телесным фундаментом надстраивается следующий значимый блок нашего умвельта — социальный. И нет, это не просто наши взаимодействия с другими людьми, а именно отдельная реальность, исполненная своими отношениями, своей логикой и внутренней структурой.

Причём этот «мир» появился ещё у наших предков-приматов задолго до возникновения языка. Это мир интуитивного прочтения намерений, понимания социальных иерархий и довербальной коммуникации. Он обеспечивается обширными областями нашего мозга, которые объединяются общим термином «социальный мозг». Сюда же относятся и зеркальные нейроны, открытые Джакомо Риццолатти[191].

Как убедительно показывает выдающийся этолог Франс де Вааль, шимпанзе способны понимать намерения сородичей, обманывать, утешать и заключать союзы[192]. Прекрасный психолог Кэррол Изард подробно раскрывает широкую эмоциональную палитру переживаний приматов[193]. Можно не сомневаться, что наши ближайшие эволюционные родственники обладают довербальной формой «теории разума».

Гипотеза «социального мозга», первоначально выдвинутая оксфордским профессором Робином Данбаром[194], предполагает, что эволюционное увеличение размера неокортекса у приматов было обусловлено необходимостью обрабатывать сложную социальную информацию. Мэттью Либерман и другие нейробиологи развили эту идею, показав существование специфической нейронной сети, отвечающей за социальное познание[195].

Этот социальный разум, как доказывает Антонио Дамасио, о чём мы уже говорили, глубоко связан с нашей биологией. Его концепция «соматических маркеров» описывает не только сигналы о физическом состоянии организма, но и интуитивные внутренние ощущения, возникающие в социальных ситуациях.

Лёгкое напряжение в присутствии неискреннего человека или чувство комфорта рядом с другом — это работа нашего древнего, социального мозга, который «читает» невербальные сигналы и предсказывает намерения других. Этот умвельт позволяет нам понимать желания и намерения других, просто когда мы находимся рядом с другим человеком.

Третий уровень: «сознательное я»

И наконец, третий, уникально человеческий умвельт — языковой, сознательный. Он рождается в нас по мере освоения языка и культурных матриц. Это долгий и сложный процесс:

• сначала мы осваиваем «житейские понятия», чтобы начать ориентироваться во внешнем мире в коммуникации с другими людьми;

• затем постепенно мы надеваем поверх этих «житейских понятий» иерархически выстроенные, понятийно определённые друг через друга структуры.

Но дело не только в этом. Важно, что по мере освоения «истинных понятий» мы начинаем «видеть» вокруг себя те явления, которые на деле являются лишь иллюзией.

Например, все мы знаем, что такое «мебель». Однако же кто видел «мебель» как таковую? Стулья, столы, диваны, шкафы — да. А «мебель»? Или, например, кто видел «коммунистическую идеологию» или «криптовалюту»?

Всё это абстракции разного уровня, которые, впрочем, мы воспринимаем как нечто абсолютно реальное. Но если это абстракции, то разве у двух разных людей будет одинаковое понимание этих абстракций?

На конкретный стул мы можем указать и считать, что достаточно точно определили то, о чём идёт речь. Но на «мебель» указать нельзя, и потому у каждого из нас за понятием «мебели» стоит своё интуитивное значение (не говоря уже об «идеологии» или «крипте»).

Собственно, эта «неточность», включая специфическую неповоротливость языка, и составляет проблему взаимопонимания с другими людьми. Мы не можем высказать самих себя другому человеку. Да и его высказывания о себе мы будем рассматривать не с его точки зрения, а с изначальной предвзятостью, основываясь на своём отношении к этому человеку.

Так что мир «сознательного я» — это удивительная, текучая, плохо определяемая, весьма условная, но при этом совершенно фундаментальная для каждого из нас индивидуальная реальность, укоренённая к тому же в двух наших других «я» — «социальном» и «телесном».

Понятно, что, мысля другого, мы мыслим не его, а своё восприятие этого человека — некий его образ, созданный нашим мозгом. Мы не знаем и не можем знать другого человека доподлинно, что не мешает нам настолько явственно его себе представлять, что мы, зачастую, ведём с ним — внутри себя — задушевные беседы.

Даже с очень близкими людьми, с которыми у нас прекрасные отношения, всё не так просто. За границами этих отношений и у нас, и у наших близких протекает огромная жизнь, о которой мы зачастую совершенно не в курсе. Однако мы полностью уверены, что мы друг друга хорошо знаем и понимаем.

Впрочем, и самих себя мы знаем тоже, мягко скажем, не лучшим образом. Нам кажется, что с собой-то нам всё понятно. Но как показывает, например, социальная психология, наши прогнозы относительно своего поведения оправдываются вовсе не каждый раз.

Если же мы поговорим с хорошим психотерапевтом, то и вовсе выяснится, что наше представление о себе и мы-реальные — это, что называется, две большие разницы.

Социальный мозг

Знаменитый профессор психологии Университета Вирджинии Тимоти Уилсон в книге «Незнакомцы для самих себя» убедительно доказывает, что наш собственный доступ к собственному бессознательному, мотивам и причинам поведения не намного лучше, чем у стороннего наблюдателя. Мы часто не знаем, почему чувствуем то, что чувствуем, и делаем то, что делаем[196].

Так что наш «внутренний мир» — это не просто «контро-лируемая галлюцинация», а действительно очень странная, сложносочинённая, даже монструозная конструкция, полная «чёрных дыр» и «белых пятен». Но конечно, мы об этом не в курсе. Нам всё интуитивно понятно.

Именно эта интуитивная понятность и есть то главное препятствие, которое стоит между нами и ИИ. И проблема не только на его, но, прежде всего, на нашей стороне. Мы создали миллионы текстов о том, что думаем, чувствуем и переживаем, но мы нигде не описали наш внутренний мир в его полноте.

Более того, даже если бы перед нами встала такая задача, мы бы с ней не справились. Ведь язык создавался не для того, чтобы мы рефлексировали свой внутренний мир, а для того, чтобы мы могли договориться с сородичами. Его первая и главная функция — коммуникативная, он описывает то, что происходит между нами, а не внутри нас.

То есть в мире психической реальности ситуация структурно абсолютно идентична той, что сложилась и в мире физической реальности:

• мы можем предоставить ИИ множество данных, включая все известные нам законы физического мира, но это не помогает ИИ действовать в мире физической реальности — роботов приходится учить буквально с нуля в самой реальности или в симуляциях;

• и точно так же ИИ обладает несчётными данными о мире психической реальности человека — начиная исследованиями в области человеческой психологии, заканчивая литературой и живым общением людей в Сети, — но у ИИ нет понимания этого мира, он для него вообще не существует в качестве такового.

Мы не можем рассказать о том, что мы делаем, так, чтобы передать само наше знание того, как мы это делаем. Мы сможем как-то назвать, обозначить свои действия, но не более того, поскольку слово — это не то, что оно значит (скажи хоть сто раз слово «халва», во рту слаще не станет).

Если наш мозг позволяет нам создавать внутри себя «внутренние миры» других людей, мы можем утверждать, что, мол, да, мы это делаем. То есть мы уверены, что другие люди — это не зомби, лишь притворяющиеся людьми. Но как мы формируем в себе эту уверенность?

Мы не можем вывести из этого своего знания инструкцию, чтобы передать её ИИ, и он сделал то же самое. ИИ может собрать о нас данные, может предсказывать наше поведение на основе статистических данных, но он в принципе не способен понять, что значит обладать «внутренним миром», потому что у него нет собственного.

Как создать такой аналог у ИИ — мы не знаем, потому что действуем в этом отношении буквально «инстинк-тивно». То есть для нас это происходит как бы само собой — мы видим человека и уверены, что у него есть внутренний мир, чувства, мысли, переживания, желания.

Но на каком основании мы приходим к этим выводам? Лишь потому, что эволюция оснастила нас — как стайных животных — потребностью в отношениях с сородичами, а для реализации этой потребности нам необходимо уметь строить «теорию разума».

Как мы это делаем? Мы не знаем. У нас просто есть «социальный мозг».

«Социальный мозг» — это не одна конкретная область, а целая сеть взаимосвязанных структур, участвующих в обработке информации о других людях. Именно социальный мозг — на подсознательном уровне — предсказывает поведение других людей, обеспечивая нас «социальным чувством»[197] для выживания в группе.

По сути, «социальный мозг» и является аппаратной основой для нашей инстинктивной «теории разума». Исследования в области социальной нейронауки позволили выделить ключевые области мозга, которые, работая совместно, создают для нас внутреннюю модель чужого сознания.

• Миндалевидное тело — это наш «эмоциональный радар»[198]. Миндалина мгновенно считывает социальные сигналы, особенно те, что связаны с угрозой или социальной значимостью. За доли секунды — лишь по выражению лица или тону голоса — мы способны понять, стоит ли нам доверять человеку, боится он или находится в гневе. Это самая быстрая, почти инстинктивная оценка намерений другого.

• Островковая кора — это, по сути, «центр эмпатии». Островковая доля обрабатывает сигналы от нашего собственного тела (сердцебиение, дыхание, синестезии) и использует эту информацию, чтобы симулировать чувства других. Когда мы видим чужую боль или отвращение, именно островок Райля заставляет нас почувствовать отголосок этого состояния в собственном теле, создавая мост между «я» и «ты» на самом базовом, телесном уровне[199].

• Височно-теменной узел — наш «детектор убеждений»[200]. Эта область активируется, когда мы размышляем не просто о действиях других людей, но и о их ментальных состояниях — мыслях, убеждениях и намерениях, особенно если они отличаются от наших собственных. По сути, именно благодаря височно-теменному узлу мы можем «встать на место» другого человека и понять, что он думает или знает.

• Медиальная префронтальная кора — это своеобразный «архив „социального я“»[201]. Префронтальная кора в целом создаёт представления модели реальности. Медиальная её часть отвечает за более-менее абстрактное и стабильное представление о себе и других людях. Она активна, когда мы оцениваем черты личности, формируем общее впечатление о ком-то или, например, думаем о его месте в социальной иерархии. По сути, это «картотека» наших социальных знаний.

• Передняя поясная кора — это «детектор ошибок»[202]. Данная область мозга является детектором ошибок совершенно разного свойства и, в частности, отслеживает расхождения между ожидаемым и реальным социальным поведением. Это касается и наших собственных социальных действий, и поступков других людей. Например, эта область мозга активируется, когда мы чувствуем социальную боль (например, отторжение) или осознаём, что нарушили социальную норму. Можно даже сказать, что это «совесть» нашего мозга, сигнализирующая о проблемах во взаимодействии.

• Орбитофронтальная кора — область, выполняющая роль «социального навигатора»[203]. Эта область мозга, находящаяся у вас сразу за глазами, интегрирует эмоциональную информацию (от миндалины) с контекстом ситуации, а также нашими целями, чтобы регулировать наше социальное поведение. Она помогает нам принимать решения в сложных социальных ситуациях, взвешивая потенциальные награды и наказания (например, стоит ли сказать правду или будет правильно солгать). Неудивительно, что повреждение этой области часто приводит к социально неадекватному поведению.

Конечно, это далеко не полный список «социальных операций», которые мы проделываем в своей голове на постоянной основе. Но даже крупными мазками рисуется картина невероятной сложности. Однако же, если я спрошу вас, что вы делаете, когда говорите с человеком, помимо того что излагаете ему свою мысль, вы вряд ли добавите многое.

То есть мы фактически не знаем, как мы реализуем свою способность к созданию «теории разума». Наш мозг в этом отношении напоминает глаз, который, как известно, является органом зрения, но не видит самого себя. Наше «видение» внутреннего мира в другом человеке — это не сознательное умозаключение, а автоматическое нейронное моделирование.

Это в прямом смысле этого слова — воплощённое знание, сама система работы различных отделов мозга, а не какой-то программируемый навык. При виде лица, жеста или слыша связную речь, наш мозг запускает сложный распределённый механизм и строит «симуляцию» чужого сознания, используя готовые шаблоны, наработанные миллионами лет эволюции и нашим личным опытом.

Мы не можем объяснить, как именно эти триллионы нейронных связей создают в нас «теорию разума» другого человека, потому что сама эта способность является нашим базовым, бессознательным программным обеспечением. Она — часть той самой «машины мышления», которая работает «под капотом» нашего сознания.

Именно поэтому мы не можем дать ИИ «инструкцию» по созданию нашего внутреннего мира: мы не можем вытащить из себя «код», который, по сути, и составляет основу нашего социального бытия. Мы можем дать машине только тексты, но не тот живой, воплощённый, телесный, эмоциональный, чувственный опыт, который и запускает весь этот грандиозный, но невидимый для нас механизм.

Так что «проблема выравнивания» — то есть вопрос качественного согласования наших долгосрочных целей с целями ИИ — не имеет решения[204][205]. Наши цели — то, что возникает в пространстве мира психической реальности, к которой у ИИ просто нет доступа.

Мы пытаемся объяснить цели, рождённые сложной структурой нашего «социального мозга» в трёхуровневой системе нашего «я», разуму, который существует лишь на одном, последнем из этих уровней, причём весьма специфическим образом. Он не может понять наших целей, а то, что мы сами можем ему на этот счёт рассказать, на самом деле не сильно помогает.

Предыдущая главаГлава 56 из 61Следующая глава