Однажды ранним весенним днем Гаурав услышал стук в окно своей гостиной. Стук был негромким, но непрекращающимся, и потому игнорировать его было невозможно. Попытки выйти на улицу и посмотреть, что происходит, ни к чему не привели: стоило выйти, как стук прекращался. Лишь постояв совершенно неподвижно несколько минут внутри комнаты, Гаурав понял, что стучит птица — птица средних размеров с теплой оранжевой грудкой, в котором Гаурав опознал странствующего дрозда. Но зачем он стучал в окно? Неужели хотел пробраться внутрь?

Быстрый поиск в интернете показал, что дрозд действительно намеревался напасть. Но его целью был вовсе не Гаурав. Он атаковал птицу, которую видел в стекле, — собственное отражение, защищая свою территорию (рис. 10.1).

Каждую весну самец странствующего дрозда сосредоточен на строительстве гнезда и защите своей территории. Если ему удастся обустроить безопасное жилище, у него будет больше шансов привлечь самку. Однако ему приходится постоянно быть начеку, чтобы не пропустить незваного гостя, способного прогнать его из гнезда, свитого с таким трудом. Потеря гнезда означает и потерю возможности спаривания.

Но порой его бдительность оказывается контрпродуктивной. Если его гнездо случайно оказывается рядом с окном, его собственное отражение выступает в роли стимула «чужака», что запускает реакцию «атаковать и прогнать». Похоже, он не способен усвоить, что отражение не представляет для него угрозы, а потому повторяет это поведение снова и снова — иногда более сотни раз в день.

Рисунок 10.1: Нападающий дрозд был настойчив и целеустремлен!

Примечательно, что агрессия дрозда направлена исключительно на других дроздов. Вряд ли он станет нападать на птиц других видов, случайно оказавшихся рядом с его гнездом. Например, он часто игнорирует в чем-то похожего на него дрозда-отшельника или даже кардинала с красным оперением, отдаленно напоминающим его собственное. Еще с большей вероятностью он не обратит внимания на птиц вроде дятлов или колибри, которые совсем не похожи на представителей его вида. Но стоит ему завидеть другого дрозда — пусть даже всего лишь его отражение, — как тут же объявляется боевая готовность.

Люди, слышавшие этот рассказ о поведении дрозда, были уверены, что понимают, что происходит в его голове. Когда дрозд видел свое отражение, он думал, что перед ним птица-агрессор, и поэтому решил дать отпор. Он не нападал на птиц других видов, поскольку понимал, что они не представляют угрозы и их можно безбоязненно игнорировать.

Подобные описания естественны, но в то же время они озадачивают. Что на самом деле означают слова думал, решил и понимал? Что в действительности делает дрозд, когда мы говорим, что он думает, понимает и решает?

Разрабатываемая нами концепция нейронных сетей предлагает удобный способ осмысления процессов, происходящих в мозгу дрозда: свет, отражаясь от оконного стекла, попадает в глаза птицы и активирует светочувствительные клетки сетчатки. Это вызывает активацию нейронов зрительного нерва, что в конечном итоге создает определенный паттерн активации различных нейронов в головном мозгу дрозда. Под паттерном активации понимается то, что одни нейроны сильно возбуждены, другие — лишь отчасти, а многие вообще не активны. Подобные паттерны активации мы называем распределенными представлениями (Глава 7).

Распределенные представления объектов со схожими признаками, как правило, похожи друг на друга. Таким образом, конкретное распределенное представление, создаваемое отражением в оконном стекле, скорее всего, сходно с распределенными представлениями реальных дроздов. Нейроны, участвующие в репрезентации дрозда-нарушителя, связаны с нейронами, запускающими последовательности действий, которые включают в себя клевание, схватку и драку. Благодаря этим связям активация нейронов, репрезентирующих чужака, вызывает активацию нейронов, отвечающих за склонность к «атакующему» поведению, а те, в свою очередь, приводят в движение крылья и мышцы, что выливается в очередную атаку на оконное стекло. Соответствующие связи, по-видимому, являются врожденными или, по крайней мере, глубоко укоренившимися, поскольку дрозд продолжает вести себя подобным образом — несмотря на всю его неэффективность — по многу раз в день.

И как же дрозд «понимает», что не нужно нападать на других птиц, особенно на тех, которые совсем на него не похожи? Ключ к разгадке снова кроется в распределенных представлениях. Как мы уже говорили в главе 7, распределенные представления способны отражать перцептивное и концептуальное сходство и различие: распределенное представление дрозда несколько отличается от представления дрозда-отшельника и весьма существенно — от представления дятла. Нейроны, задействованные в репрезентации дрозда-нарушителя в период гнездования, связаны с другими нейронами, которые инициируют последовательности действий, связанные с агрессивной реакцией. Часть этих нейронов активируется и при репрезентации дрозда-отшельника, что может вызывать некоторую склонность к агрессивным действиям, однако этот сигнал слабее (поскольку активируются далеко не все возбуждающие нейроны) и, предположительно, часто не достигает порогового уровня. При репрезентации дятла активируются лишь считаные единицы из тех нейронов, что представляют дрозда, поэтому птица почти никогда не проявляет агрессии к дятлу.

Когда мы используем такие слова, как думал и понимал, мы склонны представлять себе процесс дедуктивного рассуждения, который — по крайней мере, если мыслящий субъект является человеком — включает в себя осознаваемые идеи, которые мы можем выразить в предложениях. Мы склонны полагать, что слово решил подразумевает рассмотрение и оценку различных вариантов, приводящие к стремлению реализовать вариант с наибольшей ценностью. Концепция нейронных сетей предполагает, что «мысли» дрозда о нарушителе и его «решение» ответить агрессией не имеют отношения к подобным процессам. В действительности именно поток активации, запускаемый поступающими из внешней среды ощущениями и затем распространяющийся по связям между нейронами, дает нам основанное на принципах нейросетей описание того, что происходит в мозгу дрозда.

И не только в мозгу дрозда, но и в нашем собственном. Все ментальные феномены, описанные нами в предыдущих главах, основывались на процессах той же природы, что и в случае с дроздом. Входной сигнал извне вызывает активацию некоторых элементов сети; эта активация приводит к возбуждению или торможению активности в других связанных с ними элементах; активация распространяется по сети. Возникающие в результате паттерны активации могут представлять собой мысли об объектах или понятиях, а могут участвовать в запуске действий.

Вспомните, к примеру, нейронную сеть «Джетс» и «Шаркс» из главы 4, служащую примером системы памяти на основе нейросетей. В этой сети событие во внешнем мире — например, когда мы слышим имя Кен — создавало входной сигнал для элемента имени Кен. Этот элемент был связан со скрытым элементом Кена, который соединялся с элементами, представляющими семейное положение Кена, уровень его образования и другие свойства. Эти связи позволяли входному сигналу вызывать активацию в элементах данных свойств, и сеть «вспоминала», что Кену за двадцать, он холост и промышляет квартирными кражами (помимо прочих его качеств). Входной сигнал приводил к активации, что соответствовало извлечению характеристик Кена из памяти, и — если рассматривать это как выходные сигналы сети — могло выражаться в виде внешних реакций.

Структурно схожая сеть в главе 5 объясняла, почему буквы в словах распознаются при кратковременном предъявлении с большей вероятностью, чем буквы в бессмысленных буквосочетаниях. Например, буква L в слове FLAG воспринимается легче, чем буква L в сочетании ZLFQ, поскольку в первом случае активация от элементов, отвечающих как за признаки L так и за слово FLAG, поддерживает активацию элемента L; во втором же случае активация от элементов признаков L поддерживает распознавание буквы L, но дополнительный источник активации отсутствует, так как сочетание ZLFQ почти не активирует элементы, связанные со знакомыми словами. В этом примере событие во внешнем мире (предъявление буквы) также создает активацию, которая распространяется по существующим связям. Этот процесс имеет ту же природу — распространение активации между нейронами, — что и реакция дрозда, агрессивно атаковавшего собственное отражение, словно он «думал», будто перед ним чужак-соперник.

А как насчет момента, когда дрозд «решал» атаковать? В главе 6 мы убедились, что решения полезно рассматривать не как результат оценки полезности имеющихся вариантов, а скорее как следствие распространения активации по существующим связям. Эти активации и связи действительно могут приводить к результатам, важным для выживания и размножения дрозда, но это вовсе не требует от нас приписывать птице осознанное решение действовать на основе взвешивания всех «за» и «против» агрессивного поведения по отношению к чужаку. «Решениями» дрозда, как и нашими собственными, управляет активация.

Распределенные представления из главы 7 стали развитием локалистских представлений из предшествующих сетей. Если мы знаем, что ранее не встречавшееся нам существо — это птица, то мы знаем и то, что у нее есть крылья, причем вовсе не обязательно потому, что делаем этот вывод осознанно, а потому, что мы представляем новую птицу с помощью паттерна, похожего на паттерны других птиц. Этот паттерн через соответствующие связи позволяет нам выдавать реакции, отражающие «знание» о том, что у новой птицы есть крылья. Мы видели, как подобные процессы, работающие в простых моделях из главы 7, лежат в основе семантических и иных когнитивных способностей, которые мы наблюдаем у LLM (глава 8). Все это тоже следствия распределенных представлений, опирающихся — на что же еще? — на активации и связи.

На протяжении всех предыдущих глав этой книги мы утверждали, что опыт играет ключевую роль в формировании связей, лежащих в основе наших представлений и наших действий. В главе 9 мы рассмотрели этот вопрос с биологической и вычислительной точек зрения. Хотя нам еще многое предстоит понять, этот обзор вселяет оптимизм: приложив дальнейшие усилия, мы сможем лучше разобраться в том, как наш мозг совершает подвиги, сопоставимые с результатами работы мощного алгоритма обратного распространения ошибки, и эти открытия помогут нам продвинуться вперед в создании будущих систем ИИ, способных перенять человеческую способность к обучению на гораздо меньшем объеме тренировочных данных, чем требуется таким системам сегодня.

В главе 1 мы выдвинули предположение, что ключевые принципы нашей нейросетевой концепции — это все, что нам необходимо. Давайте теперь посмотрим, к чему мы пришли в этом вопросе.

Интерлюдия: Неужели мы — нечто большее, чем просто активации и связи?

2016–2024 годы. Сан-Франциско, Калифорния. На протяжении последних нескольких лет Гаурав вел семинары, посвященные нейросетевой концепции разума. В конце некоторых из этих семинаров Гаурав предлагал студентам представить свои лучшие аргументы против этой концепции. Следующее заявление, представленное так, будто его сделал один студент, составлено на основе реальных ответов студентов (обобщенных здесь Гауравом).

Я с готовностью допускаю, что мы можем продвинуться в понимании разума дрозда с помощью активаций и связей. Я также готов признать, что нейросетевой подход проливает свет на отдельные аспекты человеческого познания.

Однако я считаю, что эта концепция никогда не сможет сказать ничего полезного о многих важнейших аспектах нашего разума. Я верю, что мы — нечто большее, чем наши активации и наши связи.

Свою аргументацию я построю вокруг трех тезисов: я утверждаю, что нейросети не способны мыслить или рассуждать логически; я утверждаю, что нейросети не могут руководствоваться мотивами или следовать целям; и я утверждаю, что нейросети не могут обладать сознанием.

Логическое мышление и рассуждение, следование мотивам и целям, а также обладание сознанием — это стержневые элементы человеческого разума. Любая концепция, претендующая на то, чтобы пролить свет на человеческий разум, должна иметь что сказать о каждом из этих элементов. Я не верю, что нейросетевому подходу это под силу. И неудивительно, что современные системы искусственного интеллекта — которые как раз и строятся на нейросетях — неспособны к логическому мышлению, целенаправленной мотивации и сознанию.

Прежде чем начать, сделаю одно уточнение: я не утверждаю, что в машине скрывается «призрак» или что наш разум обязательно зависит от процессов, которые никогда не удастся объяснить механистически. Указание на неполноту нейросетевого подхода вовсе не означает приверженности ненаучным взглядам. Моя цель — показать, что активация, протекающая по связям между нейронами, обладает ограниченной объяснительной силой.

Мой первый тезис касается последовательного мышления и логических рассуждений. Суть работы нейросетей сводится к распознаванию паттернов. Однако сами по себе они не способны ни понимать, ни мыслить логически. Человеку очевидно: если все люди смертны и Сократ — человек, значит, Сократ смертен. Однако нейросеть не способна применять подобный тип рассуждений в общем виде. Даже если в конкретном контексте они случайно выдадут правильный ответ, порой они оказываются не в состоянии перенести это же логическое правило на другой контекст. Нейросети не знают законов мышления, и у них нет символов, которые позволили бы применять эти законы в общем виде к совершенно новым, ранее не встречавшимся ситуациям. С этим связано и то, что нейросети безнадежны в математическом мышлении. Незадолго до начала этого семинара я задал одной LLM следующий вопрос:

Какова вероятность того, что в группе из тринадцати человек как минимум у двоих совпадет месяц рождения?

Ответ, конечно же, равен единице (или 100 процентам). Месяцев всего двенадцать, поэтому как минимум у двоих из тринадцати человек месяц рождения должен совпадать. Но LLM думают иначе. Вот как она ответила на мой вопрос:

В году 12 месяцев, поэтому вероятность того, что у любых двух людей НЕ совпадет месяц рождения, составляет 11/12. Если дни рождения независимы друг от друга (что не вполне точно, но является хорошим приближением), то вероятность того, что у 13 человек НЕ совпадет месяц рождения, равна (11/12)^12. Тогда вероятность как минимум одного совпадения составляет 1 - (11/12)^12 ≈ 0,648, или около 64,8 процента.

Звучит убедительно, не правда ли? Но на самом деле это полнейшая чушь. Математика требует подлинного понимания, а не просто сопоставления паттернов. Нейросети не могут выйти за рамки распознавания паттернов. Если вы научите систему ИИ складывать первые девять цифр, она может споткнуться на примере «10 + 1», просто потому что раньше не встречала чисел больше 9. И уж само собой разумеется, что нейросети не способны создавать новые разделы математики. Вам не стоит затаив дыхание ждать, пока нейросеть докажет какую-нибудь нерешенную математическую гипотезу.

И последний момент, связанный с мышлением и логикой: если попытаться обучить нейросеть чему-то новому с помощью обратного распространения ошибки, чтобы эта информация закрепилась в весах ее связей, вы можете добиться успеха, но сеть при этом окажется неспособной сделать простейшие выводы, продиктованные здравым смыслом. Если вы научите ее тому, что Билл старше Салли, она не поймет даже того, что Салли моложе Билла.

Мой второй тезис касается мотивации. Каждый день я испытываю десятки желаний. Я могу испытывать жажду и хотеть воды. Могу проголодаться и хотеть есть. Я могу хотеть секса, музыки, общения, автономии, развлечений, победы любимой спортивной команды или еще сотни других вещей. Я чего-то хочу. Мне кажется, если я хочу чего-то достаточно сильно, мои действия по достижению желаемого наполняются колоссальной энергией. Они в высшей степени мотивированы. Мне неясно, как вообще может быть мотивирована нейросеть. Возможно, здесь требуется нечто большее. И неудивительно, что наши машины с ИИ лишены какой бы то ни было мотивации.

Но мои мотивы не управляют мной безраздельно. В моих силах сделать выбор и противостоять им. Например, мое стремление быть здоровым может заставить меня отказаться от вкусного печенья в пользу яблока. И здесь концепция нейросетей сталкивается с трудностью: если единственной «валютой» в нейросети является активация, то как она должна выбирать варианты с более низким уровнем активации? Моя активация, связанная с яблоком, наверняка слабее той, что связана с печеньем. А если это не так, то почему требуется столько усилий, чтобы устоять перед печеньем?

Мой третий, последний тезис касается сознания. Сознательные мысли направляют мое поведение. Например, вчера вечером я понял, что утром мне понадобится время, чтобы отрепетировать выступление. Поэтому я завел будильник на тридцать минут раньше обычного. Это была отчетливая мысль, которую я полностью осознавал. Она сопровождалась словами и определенно привела к действию. Откуда берется подобная отчетливая осознанность? У больших языковых моделей ее, конечно же, нет. Их задача сводится лишь к предсказанию наиболее вероятных последующих слов. Мы, люди, способны понимать вещи и отдавать себе отчет в своем понимании. Может ли нейросеть объяснить, как возникает это осознание?

Существует и более глубокое возражение, связанное с сознанием: проживая свои дни, мы видим глубокую синеву на картине Сальвадора Дали, чувствуем характерную кислинку лимона и ощущаем обжигающую боль от горячей плиты. Эти переживания ощущаются как нечто особенное. Как нечто уникальное, отдельное от любых других переживаний. Боль, например, ощущается совершенно иначе, чем удовольствие. Откуда берутся эти различия в ощущениях? Может ли искусственная нейросеть вообще хоть что-то чувствовать? Да и способна ли биологическая нейросеть испытывать переживания, если мы ограничим ее работу только активациями и связями? Как перенос ионов через мембрану — а именно он порождает потенциалы действия или активации — может приводить к субъективному переживанию, например, запаха нового автомобиля?

Никак. Мне кажется, что нам требуется нечто большее, чем просто активации и связи нейросетей.

Наша цель в оставшейся части главы — развить тезис о том, что ощущение наличия мысли не обязательно должно соответствовать тем процессам, из которых эта мысль возникает. Например, когда мы мыслим последовательно и логично, у нас может возникать чувство, что мы следуем определенному набору правил; когда мы мотивированы, мы чувствуем, будто наше внутреннее «я» наполняет нас энергией и направляет наше поведение; когда мы осознанно воспринимаем свой опыт, мы ощущаем это осознание как нечто совершенно отдельное от паттернов активации в нашем мозге.

Вопреки этим ощущениям, мы представим доказательства того, что последовательное и логическое мышление, мотивированное поведение (включая стремление к целям) и даже многие аспекты сознания могут возникать из простых взаимодействий и процессов, разворачивающихся внутри нейронных сетей. Наши дедуктивные способности, наши состояния мотивации и наше восприятие окружающего мира не обязательно требуют от нас вывода о том, что наш разум обладает чем-то дополнительным — чем-то большим, чем то, что мы заложили в концепцию нейросетей.

Могут ли последовательное мышление и логические рассуждения возникать в нейросети?

Когда мы мыслим последовательно и логично, мы, по-видимому, опираемся на определенный набор правил. Например, силлогизм — это распространенное логическое правило, состоящее из трех частей: (1) большой посылки — общего утверждения, указывающего на то, что некоторое свойство применимо ко всем членам категории (например, Все люди смертны); (2) малой посылки — утверждения, определяющего конкретный отдельный объект как члена этой категории (например, Сократ — человек); и (3) заключения — утверждения, приписывающего это свойство данному объекту (например, Следовательно, Сократ смертен).

Этот силлогизм служит примером правила, которое применимо ко всем утверждениям, соответствующим определенному шаблону, независимо от конкретной категории, свойства или отдельного объекта. Обладая этим правилом, можно сделать любой вывод такого типа. Если бы человек владел этим правилом и ему сказали, что все ликеты флитны и что Раксуэт — ликет, он бы пришел к выводу, что Раксуэт флитен, даже если бы понятия не имел, к какому объекту или категории относятся слова Раксуэт или ликет и что вообще означает флитен. Некоторые когнитивисты и философы отстаивают точку зрения, согласно которой наша способность мыслить, рассуждать и даже понимать язык зависит от использования подобных абстрактных правил, а наш мозг содержит специализированные системы, предназначенные для работы с ними.

Эта возможность идет вразрез с основными принципами концепции нейросетей, которая стремится описать процессы разума через активации и связи, формируемые опытом, а не через предположение, что наш мозг содержит специализированные системы, обеспечивающие логические рассуждения с помощью абстрактных правил. Однако трудность для концепции нейросетей заключается в том, что логические принципы, такие как силлогизмы, по ощущениям вовсе не кажутся укорененными в активациях и связях. Применение силлогизма кажется простым примером следования правилу — и к тому же правилу совершенно разумному.

Тем не менее мы предлагаем рассмотреть возможность того, что то, что ощущается как правило, на самом деле возникает из множества конкретных взаимосвязанных ситуаций нашего опыта. Например, человеку могут прямо сказать, что у всех собак есть хвосты, а затем показать примеры собак с хвостами. Несколько дней спустя он может услышать, что у всех машин есть колеса, а затем увидеть несколько машин, и у всех у них будут колеса. Благодаря подобному опыту веса связей в процессе обучения могут постепенно настраиваться таким образом, что другие предложения, соответствующие шаблону Все C есть P, будут заставлять человека ожидать, что при виде отдельных объектов, принадлежащих к категории C, они действительно будут обладать свойством P. Затем, столкнувшись с упоминанием таких силлогизмов на занятиях по логике или философии, он найдет их вполне разумными и знакомыми — и действительно, эти силлогизмы часто преподаются на общеизвестных примерах, таких как знаменитый пример с Сократом. То, что кажется абстрактным силлогизмом, согласно концепции нейросетей, укоренено в совокупности реального опыта использования языка и его связи с опытом восприятия свойств объектов в мире. Возможно, это правильнее описывать не как абсолютно абстрактное правило, а как схему. Схемы в некотором смысле могут функционировать подобно правилам, но они более гибки, адаптивны и способны охватывать градуальные тенденции и исключения. Дэвид Румельхарт понимал схемы именно так и показал, что они могут быть гибкими, нежесткими, адаптивными эмерджентными структурами, которые возникают внутри нейронных сетей, чьи веса связей настраиваются на основе паттернов совместной встречаемости признаков в примерах. В более поздней работе он развил эти идеи в своей нейросетевой модели иерархической модели Росса Квиллиана, представляющей наши знания об объектах, их классовых отношениях и свойствах. В работе Румельхарта и последующих исследованиях семантического познания, проведенных Джеем и Тимом Роджерсом, подход на основе нейронных сетей позволил объяснить простые силлогистические рассуждения с опорой на опыт, без привлечения каких-либо абстрактных логических правил.

Взгляд, основанный на опыте, на то, как мы учимся действовать в соответствии с логическими или лингвистическими правилами, предполагает, что мы будем лучше применять их в контекстах, сходных с теми, в которых у нас есть прямой опыт, по сравнению с контекстами, более далекими от нашего опыта. Например, мы должны быстрее и точнее справляться со схемой логического вывода Все C есть P / X есть C / Следовательно, X есть P в конкретном случае Все люди смертны / Сократ — человек / Следовательно, Сократ смертен, чем в случае Все ликеты флитны / Раксуэт — ликет / Следовательно, Раксуэт флитен. Удивительно, но хотя в подобных простейших случаях влияние степени знакомства с контекстом может быть едва уловимым (проявляясь лишь в слегка замедленном времени реакции), существуют доказательства того, что в ситуациях лишь немногим более сложных люди оказываются под сильнейшим влиянием этого фактора. Рассмотрим один известный пример.

Задача выбора Уэйсона

Наглядным подтверждением того, что успешность действий людей заметно меняется в зависимости от того, представлена ли ситуация в знакомом им контексте, служат логические задачи. Один из таких классов головоломок — названный в честь их создателя, психолога Питера Уэйсона, — требует от участников решить, какие из четырех карт нужно перевернуть, чтобы проверить, нарушается ли определенное правило.

В одной из таких задач участникам показывают четыре карты: B, 14, S и 22 (рис. 10.2) и просят проверить, подчиняются ли карты следующему правилу: «Если на одной стороне карты изображена буква B, то на другой стороне должно быть число, равное 21 или больше».

Участникам задают конкретный вопрос: «Какие карты вам нужно перевернуть, чтобы проверить, истинно это правило или ложно?»

Рисунок 10.2. Вариант задачи выбора Уэйсона, в котором участник должен определить, какие карты ему нужно перевернуть, чтобы проверить следующее правило: «Если на одной стороне карты изображена буква B, то на другой должно быть число, равное 21 или больше».

Подумайте над этим минуту. Многие участники понимают, что им нужно перевернуть B и проверить, больше ли число на другой стороне, чем 21. Хорошо, в этом есть смысл. Но какую вторую карту нужно перевернуть?

Вот тут-то многие участники и спотыкаются. Они утверждают, что нужно перевернуть карту 22 и проверить, нет ли на другой стороне буквы B. Однако это неверно. Правило гласит: если на одной стороне карты изображена буква B, то на другой стороне должно быть число, равное 21 или больше. Если мы перевернем карту 22 и увидим там N (или любую другую букву, отличную от B), правило не будет нарушено. Оно ничего не говорит о том, что должно находиться на обороте карты с числом, равным или большим 21. Правило было бы нарушено только в том случае, если бы с одной стороны была буква B, а с другой — число меньше 21.

Правильный ответ для второй карты, которую нужно перевернуть, — 14. Если мы обнаружим, что на ее обратной стороне стоит буква B, это будет нарушением правила. Но большинство людей этого не понимают, а это наводит на мысль, что рассуждения в соответствии с правилами формальной логики (по крайней мере, некоторыми из них) не даются большинству людей от природы.

Тем не менее люди справляются гораздо лучше с логически эквивалентной задачей, которая опирается на их жизненный опыт. Представьте себе следующее правило: «Если человек пьет пиво, его возраст должен быть равен 21 году или больше». В этом контексте элементы на четырех картах соответствуют тем, что были показаны ранее, однако теперь их роли и взаимосвязи связаны с нашим повседневным опытом (рисунок 10.3).

Карта, на которой раньше было написано B, теперь обозначает пиво, карта, где было написано S, теперь обозначает газировку, а карты, на которых были просто числа, теперь обозначают возраст с теми же числовыми значениями. В этом контексте проверяемое правило можно записать так: «Если на одной стороне карты указано Пиво, то на другой должен быть возраст, равный 21 году или больше».

Как и прежде, большинство людей правильно отвечают, что им нужно перевернуть карту «Пиво», чтобы убедиться, что соответствующий возраст превышает 21 год. Однако, в отличие от более абстрактной формулировки задачи, они гораздо реже ошибаются со второй картой. Они верно понимают, что нет никакого смысла переворачивать карту «22 года», так как этот человек может пить пиво или газировку, не нарушая правила. Они правильно осознают, что им нужно перевернуть карту «14 лет» и проверить, пьет ли этот человек пиво.

Разве не удивительно, что люди, судя по всему, лучше справляются с логическими выводами, если задача представлена в знакомом им контексте? Это ослабляет представление о том, что люди рождаются с предустановленным набором логических правил, и подкрепляет идею о том, что наша способность действовать в соответствии с законами логики рождается из опыта и, следовательно, отлично согласуется с концепцией нейронных сетей.

Интересно, что большие языковые модели (LLM), использовавшиеся в середине 2020-х годов, также склонны давать неверные ответы на более абстрактные версии этой задачи и с большей вероятностью отвечают правильно на варианты, сформулированные в контекстах, которые они, скорее всего, встречали в своих обучающих данных. В частности, подобно людям, они с большей вероятностью справляются с задачей выбора Уэйсона, когда она представлена в знакомом контексте ограничения на употребление пива до двадцати одного года, нежели в произвольном и незнакомом контексте.

Рисунок 10.3. Менее абстрактный вариант задачи выбора Уэйсона. Теперь участники должны определить, какие карты они хотят перевернуть, чтобы проверить следующее правило: «Если на одной стороне карты указано Пиво, то на другой стороне должен быть возраст, равный 21 году или больше».

Далее мы рассмотрим, почему математическое мышление человека по своей природе не более систематично, чем его способность к логическим рассуждениям, а становится систематическим лишь по мере накопления опыта.

Изучение чисел

Будучи взрослым, вы способны выполнять самые разные задачи, связанные с числами. Например, если вас попросят дать двадцать семь монет, вы сделаете это, отсчитав их по одной с единицы и остановившись на двадцати семи. Очевидно, вы можете проделать это для любого числа N, а не только для двадцати семи — именно поэтому данный тест называют задачей «Дай N». С такой же легкостью вы справитесь с задачей «Где больше»: если вам скажут, сколько предметов лежит в двух коробках (в коробке А — шестнадцать, а в коробке Б — одиннадцать), вы без труда укажете, в какой коробке предметов больше. Вы без усилий решите задачу «Преемник»: если вам скажут, что в коробке лежит X бусин, а затем положат туда еще одну, вы ответите, что теперь в ней X + 1 бусин. И наконец, вы справитесь с задачей «Счет», перечисляя числа по порядку без какого-либо верхнего предела (за исключением тех ограничений, что накладывает нетерпение). Мы, взрослые, воспринимаем эти способности как нечто само собой разумеющееся, но все они, похоже, опираются на общее понимание самой сути того, что такое числа.

Как вы, будучи ребенком, приобрели это понимание чисел?

Одна из возможностей заключается в том, что освоение понятия числа бинарно: ребенок либо владеет им, либо нет. Действительно, некоторые когнитивные психологи пытались определить ту веху в развитии, на которой ребенок овладевает понятием числа. Они выдвинули гипотезу, согласно которой этот рубеж наступает, когда ребенок понимает, что каждое число в числовом ряду для счета (начиная с единицы) соответствует определенному количеству предметов, а каждое последующее число в этом ряду указывает на количество, ровно на единицу превышающее предыдущее. Эти исследователи полагали: если ребенок по вашей просьбе может дать вам больше четырех предметов (например, если спросить: «Можешь дать мне пять плюшевых мишек?»), значит, он уже открыл для себя эти принципы счета; для четырех или менее предметов, согласно их логике, ребенок мог успешно справиться с задачей с помощью какого-то иного процесса.

Однако тщательное изучение развития детских способностей, связанных с числами, показывает, что не существует какой-то одной вехи, знаменующей появление общего понимания принципов счета. Напротив, их понимание чисел кажется менее категоричным, чем считалось ранее. На разных этапах развития ребенка одни навыки или способности, связанные с понятием числа, могут присутствовать, тогда как другие — отсутствовать, а третьи — проявляться лишь тогда, когда ребенок работает с небольшими числами.

Например, дети, способные справиться с задачей «Дай N» для N от шести до восьми, часто не справляются с задачей «Где больше», то есть не могут с уверенностью определить, больше ли пять, чем семь, или наоборот. Более того, многие такие дети не выказывали никакого понимания задачи «Преемник» и не могли сообразить, что добавление одной бусины в коробку с пятью бусинами приведет к тому, что в коробке окажется шесть бусин. Подобные результаты указывают на то, что целостное понимание связанных с числами концепций, возможно, формируется далеко не сразу.

Что примечательно, математические понятия, по всей видимости, усваиваются постепенно и применительно к конкретным числам, а не все разом. К примеру, многие дети справлялись с задачей «Преемник» для числа пять, но не для двадцати трех, хотя при этом умели считать как минимум до тридцати. Иными словами, они понимали, что добавление одной бусины в коробку с пятью бусинами дает в результате шесть бусин, но не понимали, что добавление одной бусины в коробку с двадцатью тремя бусинами дает двадцать четыре. Эта закономерность выглядит загадочно, если полагать, что принципы счета «открываются» человеку в какой-то определенный момент.

Такое постепенное, привязанное к конкретным числам освоение математических способностей, на наш взгляд, лучше согласуется с концепцией нейронных сетей. Не существует единого момента «Ага!», в который усваивается целостное понятие числа и сразу же становится применимым ко всем конкретным числовым задачам независимо от величины этого числа. Напротив, дети могут справляться с задачей «Дай N» для небольших N, но пасовать перед бóльшими N; они могут успешно решать задачу «Дай N» для бóльших чисел, но оказываться не в состоянии выполнить задачу «Преемник» для тех же самых чисел — даже если они умеют считать далеко за пределами этих величин. С точки зрения концепции нейронных сетей, знания, необходимые для выполнения этих разнообразных задач, кроются в связях между нейронами. Эти связи могут укрепляться обособленно друг от друга в ходе решения различных задач, а успешность выполнения может зависеть от силы связей, поддерживающих репрезентации величин разного масштаба в мозгу ребенка. С опытом, по мере взросления, мы обретаем способность связывать, скажем, число тринадцать в контексте счета с выдачей тринадцати предметов в другом контексте и с пониманием того, что тринадцать — это на один больше, чем двенадцать, в третьем контексте. Это вполне ожидаемо в рамках нашей нейросетевой концепции, где и эти связи тоже основаны на активациях и связях, а не на присутствии абстрактного понятия числа.

Точно так же, согласно концепции нейронных сетей, понятия, связанные с пониманием физического мира («наивная физика»), других людей («наивная психология») и способность использовать язык — все это возникает из опыта, а не из каких-либо врожденных правил, специфичных для конкретной области. Как и в случае с математическими понятиями, существует множество данных исследований в области психологии развития, согласующихся с мнением о том, что и в этих сферах качественные сдвиги в развитии не характеризуются внезапными скачками, а представляют собой более постепенный процесс, подкрепляемый опытом погружения, который позволяет накапливать изменения в весах связей.

Обучение на уровне мышления

Мы увидели, что LLM демонстрируют подобные человеческим способности к логическому рассуждению и что они усваивают принципы работы с числами сходным с человеком образом. Но скептически настроенный студент Гаурава указал на еще одно ограничение мыслительных способностей этих моделей. Они зачастую не могут делать простые, продиктованные здравым смыслом выводы на основе того, чему их обучили. Действительно, если попытаться научить LLM чему-то новому — например, утверждению «У Мэри, сестры Джейн, родился ребенок по имени Аллен», корректируя веса ее связей для предсказания следующего слова, результаты окажутся весьма разочаровывающими. Такое обучение требует множества повторений, а усвоенные знания оказываются крайне ограниченными; после подобной тренировки модель сможет предсказать слово Аллен в контексте «У Мэри, сестры Джейн, родился ребенок по имени...», но окажется в полном тупике, если ее попросят закончить предложение «Маму Аллена зовут...» или «Тетю Аллена зовут...».

Люди способны усваивать новое даже после однократного предъявления информации и могут гибко использовать ее таким образом, который явно указывает на то, что мы поняли воспринятое. Например, если бы кто-то сказал вам, что у Мэри, сестры Джейн, родился ребенок по имени Аллен, вы бы сразу поняли, что у Джейн появился племянник и что его зовут Аллен. Скорее всего, вы сможете удержать эту новую информацию в памяти, чтобы воспользоваться ею позже. Если вы встретите Джейн через час, вы, возможно, вспомните, что у нее есть племянник по имени Аллен. Мы будем называть эту форму обучения обучением на уровне мышления.

Большие языковые модели также обладают способностями, похожими на человеческое умение обучаться на уровне мышления, когда модель использует информацию, все еще находящуюся в ее окне контекста, без изменения каких-либо весов связей. Как и человек, если вы скажете LLM, что у Мэри, сестры Джейн, родился ребенок по имени Аллен, она сможет ответить на вопросы вроде «Кто мать Аллена?» и даже «Кто тетя Аллена?». Эти способности совершенствуются и, вероятно, будут развиваться и дальше. Мы видим в этом захватывающую эмерджентную форму обучения, которую мы и многие другие специалисты в области ИИ и когнитивной нейробиологии сейчас активно исследуем.

Однако для LLM существует важное ограничение: ее знание обо всем, что присутствовало в контексте, исчезает, как только закрывается окно контекста. Когда контекст инициализируется заново, не остается никаких следов предложения о Джейн и ребенке ее сестры. В этом отличие от людей — мы, конечно, не помним вечно все, что услышали лишь однажды, но обычно способны удержать в памяти что-то новое, согласующееся со знакомой нам сферой (например, с родственными связями), после одного или всего лишь нескольких предъявлений.

Этот поразительный провал в запоминании напоминает случай знаменитого пациента Генри Молейсона (также известного по инициалам Г. М.), одного из самых известных пациентов в истории нейробиологии. У Г. М. хирургическим путем были удалены важнейшие отделы мозга, включая структуру под названием гиппокамп (это было сделано в попытке справиться с его эпилептическими приступами). После операции способность Г. М. понимать и отвечать на вопросы о вещах, обсуждавшихся в разговоре, оставалась неповрежденной, но лишь до тех пор, пока кто-то не менял тему. Он был совершенно неспособен вспомнить или использовать прошлую информацию для ответа на вопросы, стоило лишь прервать ход его мыслей.

Основываясь на случае Г. М. и большом объеме смежных исследований, мы и другие нейробиологи полагаем, что гиппокамп обеспечивает быстрое обучение и задействует изменения силы связей. Особенность гиппокампа в том, что изменения силы связей могут быть очень значительными — достаточно значительными, чтобы мы порой могли запоминать вещи, с которыми столкнулись лишь однажды. Это отличается от систем обучения, лежащих в основе нашей способности учиться распознавать объекты, понимать язык и осваивать сложные поведенческие навыки, такие как чтение, письмо, ходьба и речь, — все это усваивается за счет изменения связей в обширных нейронных сетях так называемого неокортекса головного мозга, который у Г. М. в основном сохранился. В нейронных сетях неокортекса изменения связей, возникающие в результате единичного опыта, как правило, малы. Они накапливаются постепенно в результате множества связанных переживаний, в соответствии с постепенным развитием наших когнитивных способностей в детстве и в начале взрослой жизни. Таким образом, мы рассматриваем гиппокамп и неокортекс как две разные, но взаимодополняющие системы обучения, которые работают сообща, обеспечивая как постепенную эмерджентность наших когнитивных способностей, так и наше умение быстро и эффективно усваивать новые вещи на уровне мышления.

LLM середины 2020-х годов обладали возможностями, напоминающими медленно обучающуюся неокортикальную систему мозга, но были лишены дополняющей ее быстро обучающейся системы вроде гиппокампа. Однако более новые модели могут быть оснащены внешней системой хранения данных, где они сохраняют копии прошлого содержимого своих окон контекста или текстов, обработанных другими LLM. Это позволяет им запрашивать данную информацию и загружать ее обратно в свои окна контекста, что фактически обеспечивает им бесконечный контекст. И по мере того как эти модели продолжают совершенствоваться и масштабироваться, их возможности продолжают расти. Фактически, по состоянию на 2025 год многие LLM теперь могут решить задачу о месяце рождения, описанную в интерлюдии ранее в этой главе. Делают ли они это путем логических рассуждений или извлекая ответ из внешней системы хранения, пока неясно.

Подводя итог, можно сказать, что системы ИИ на базе нейронных сетей демонстрируют все более совершенные способности к рассуждению, и эти способности, несомненно, будут развиваться и дальше. В некотором смысле эти модели могут превосходить возможности человека, поскольку у них есть доступ к фактически бесконечным хранилищам информации, не содержащейся непосредственно в весах их связей, тогда как наш человеческий мозг подвержен забыванию. Эти модели также могут превзойти нас за счет использования огромных вычислительных ресурсов, позволяющих им исследовать множество возможных путей рассуждения, в то время как мы в этом отношении гораздо более ограничены. Из-за этих различий сегодняшние модели могут казаться сверхинтеллектуальными, однако, на наш взгляд, их способности не являются по-настоящему человекоподобными. Нам все еще предстоит пройти долгий путь, чтобы понять, как мы, люди, умудряемся достигать столь многого, не полагаясь на практически безграничные ресурсы, доступные системам ИИ.

Итак, мы рассмотрели вопрос о том, способны ли системы ИИ на базе нейросетей к последовательному мышлению и логическому рассуждению — а ведь именно в этом сомневался студент Гаурава из нашей интерлюдии. Теперь давайте обратимся к его сомнениям относительно возможности существования мотивации в таких системах.

Мотивация: что это такое и как мы порой способны противостоять ее силе?

Когда мы действительно мотивированы что-то сделать — например, вовремя добраться до аэропорта, чтобы успеть на рейс ради важного собеседования при приеме на работу, — мы действуем сосредоточенно и энергично. Мы проявляем упорство, часто преодолевая неожиданные препятствия, и нас нелегко отвлечь или сбить с пути. В наших действиях появляются неотложность и интенсивность, которых нет при выполнении рутинных задач вроде выноса мусора. Возникающее у нас чувство — это скорее воодушевленная вовлеченность, нежели пассивное безразличие. Ощущение мотивации ассоциируется с воплощением задуманного в жизнь.

Как мы можем осмыслить состояния мотивации в рамках концепции нейронных сетей? Каким образом активации и связи способны порождать повышенную энергию стремления в мотивированном состоянии? Может ли система ИИ когда-либо проявить характеристики мотивированного поведения? Это волнующие вопросы. Они затрагивают саму суть того, можно ли понять нас, людей, через призму активаций и связей, а также вопрос о том, можно ли действительно говорить о наличии у искусственных систем собственной независимой мотивации. Если это возможно, то потенциальная полезность таких систем возрастет. Конечно, это также порождает вероятность автономии ИИ или создания систем ИИ, которые мы больше не сможем контролировать. Следовательно, это важная проблема, требующая рассмотрения.

И есть еще один связанный с этим, не менее интригующий вопрос. Жизненный опыт подсказывает нам, что, вопреки побуждающей силе мотивации, мы — по крайней мере, время от времени — способны противостоять ее давлению. Нам может до безумия сильно хотеться шоколадного мороженого, но мы в состоянии (иногда) удержаться ради заботы о здоровье. Мы способны на это, даже когда кажется, что цель, связанная со здоровьем, не обладает тем же мотивационным «накалом», что и манящая нас к холодильнику страсть. Как удержанная в памяти цель может противостоять силе мотивации? Способен ли когда-нибудь робот на подобное самообладание? Эти вопросы лежат в основе размышлений о том, как мы и наши системы ИИ направляем свое поведение на достижение созидательных, просоциальных, а не сугубо эгоистичных и корыстных целей.

Мы разберем каждый из этих двух взаимосвязанных вопросов по очереди.

Нейронные сети и мотивация

В 1950-х годах психологи Джеймс Олдс и Питер Милнер провели эксперименты с использованием электродов, вживленных в мозг крыс. У каждой крысы была возможность нажимать на рычаг, активировавший электрод в ее мозге. Исследователи рассудили, что предоставление такой возможности самостимуляции позволит им определить, что чувствовали крысы при активации нейронов в различных областях мозга (в зависимости от места размещения электродов). Если крысы нажимали на рычаг один-два раза, а затем игнорировали его, ученые могли сделать вывод, что животные не желали испытываемого ощущения или вовсе ничего не чувствовали. С другой стороны, если крысы нажимали на рычаг многократно, можно было заключить, что они желали ощущения, получаемого при самостимуляции этой конкретной области мозга.

К удивлению ученых, выяснилось, что если электроды размещались в любом месте вдоль определенного проводящего пути в мозге, крысы начинали нажимать на рычаг непрерывно и навязчиво. Они игнорировали воду, пищу и привлекательных сородичей противоположного пола, поскольку были зациклены лишь на том, чтобы получить очередной импульс от электродов. Это выглядело как непреодолимая зависимость. Они даже решались преодолевать болезненные удары током, чтобы добраться до рычага ради следующего нажатия — на что они никогда бы не пошли ради еды, даже будучи голодными.

Поскольку сложный путь, обнаруженный Олдсом и Милнером, в основном обслуживается нейромедиатором дофамином (глава 3), мы будем называть его дофаминовым путем. Напомним, что нейромедиаторы — это химические вещества, выделяющиеся в синапсах между нейронами и влияющие на активацию постсинаптического нейрона.

Дофаминовый путь, обнаруженный в мозге крыс, имеет эквивалент у человека, который проходит через физиологически и анатомически сходные области мозга и также в основном обслуживается дофамином. Интересно, что аналог эксперимента Олдса и Милнера проводился и на людях. В сети можно найти видеозапись одного из таких экспериментальных испытаний. Мы видим женщину, снабженную пультом с различными кнопками, каждая из которых может стимулировать электроды в разных областях ее мозга. Кажется, ее особенно интересует кнопка № 2, соединенная с точкой в ее дофаминовом пути. Она нажимает кнопку снова и снова, говоря, что испытывает «приятное» и «возбуждающее» чувство.

Подобные эксперименты на людях и крысах привели ученых к консенсусу: дофаминовый путь — это «центр вознаграждения» или «удовольствия» в мозге. Многие исследователи пришли к выводу, что животные нажимали на рычаг снова и снова именно потому, что испытывали удовольствие. Это, в свою очередь, дало толчок теории мотивации на основе вознаграждения, согласно которой нейроны дофаминового пути реагируют на естественные вознаграждения в окружающей среде (такие как вода или кусочек сладкого фрукта), что приводит к усилению склонности к поведению, приносящему эти награды. Такое объяснение не слишком хорошо укладывается в рамки концепции нейросетей, ведь трудно представить сеть, оснащенную датчиками для обнаружения огромного множества всевозможных вознаграждающих стимулов в мире. Более того, сеть должна была бы как-то учитывать контекст: вода воспринимается как вознаграждение, только когда она чистая и когда испытываешь жажду, но не в других случаях. Сладкий фрукт желанней, когда человек голоден и когда этот фрукт реально получить, но не в иных обстоятельствах.

Несмотря на эти трудности, интерпретация, основанная на вознаграждении, быстро распространилась и легла в основу множества исследований в области психологии и нейробиологии. Она также оказала значительное влияние на развитие обучения с подкреплением (глава 9) — одного из ключевых алгоритмов обучения в сфере искусственного интеллекта.

Однако не все были в этом убеждены. Нейробиолог Яак Панксепп, который провел бесчисленное количество часов, исследуя связанные с эмоциями системы мозга у животных, особенно у крыс, имел на этот счет другое мнение. Он заметил, что при стимуляции дофаминового пути крыса, казалось, проявляла интенсивный и восторженный интерес к окружающему миру. Она активно принюхивалась, часто останавливалась, чтобы исследовать закоулки своей экспериментальной клетки, и издавала очень высокочастотный писк (за пределами диапазона человеческого слуха), который обычно не издавала. Ее движения были порывистыми и неистовыми, она обнюхивала всё вокруг со скоростью молнии, словно деловито искала что-то приятное. Панксеппа поразило, что именно такое поведение он наблюдал, когда крысы искали вознаграждение, а не потребляли его. Когда же крысы непосредственно получали награду, они вели себя гораздо спокойнее и не так буйно.

Внимательное изучение реакций человека на стимуляцию дофаминового пути навело Панксеппа на ту же мысль. Он заметил, что люди обычно сообщали о чувстве предвкушения и об обостренном ощущении себя «как эффективных деятелей, способных влиять на происходящее в мире». На этом основании он выдвинул гипотезу, что дофаминовый путь — это поисковая система, а не система вознаграждения. Он считал, что она служит двигателем аппетитивной (поисковой) мотивации человека. Панксепп также предположил, что в возникновении чувства удовольствия при потреблении награды участвуют другие области мозга, отделенные от дофаминового пути.

Гипотеза Панксеппа подтверждается множеством повседневных наблюдений. Если у вас есть собака, вы, возможно, замечали, что она начинает восторженно вилять хвостом, едва завидев, как вы приближаетесь к ней. Интересно, что виляние прекращается, когда вы подходите вплотную; это говорит о том, что возбуждение от предвкушения часто превосходит радость от самого события. Подобным образом удовольствие от планирования отпуска, ожидания посылки или стояния в очереди на премьеру фильма может превосходить радость от достижения цели этого ожидания. Многим из нас знакомо легкое чувство разочарования при окончательном достижении долгожданной цели. В своем романе «Талантливый мистер Рипли» Патриция Хайсмит наделила своего изменчивого главного героя, Тома Рипли, осознанием, перекликающимся с мыслью Панксеппа: «Предвкушение! Ему пришло в голову, что предвкушение доставляло ему больше удовольствия, чем само осуществление».

Десятилетия нейробиологических исследований также предоставили веские доказательства в пользу гипотезы Панксеппа. Например, использование химических веществ для блокирования передачи дофамина, как правило, снижает желание чего-либо (например, раствора сахара) в гораздо большей степени, чем удовольствие от этого. Под воздействием препаратов, блокирующих действие дофамина, животные менее охотно прилагают усилия, чтобы добраться до сладкого раствора, но если им дают этот раствор без всяких усилий с их стороны, они, кажется, наслаждаются им так же сильно, как обычно — облизываясь почти так же, как мы, когда пробуем что-то вкусное. Это согласуется с гипотезой Панксеппа, поскольку дофамин необходим для активации поисковой системы, но не обязателен для работы других нейросетей мозга, участвующих в формировании чувства удовольствия при потреблении награды. Напротив, повышение уровня доступного дофамина обычно усиливает аппетитивную мотивацию, но не удовольствие от потребления.

Панксепп представлял поисковую систему как «стимул без цели». Под этим он имел в виду, что поисковая система сама по себе не направлена на какую-то конкретную цель. Вместо этого она обеспечивает внутренний драйв и мотивацию для достижения целей, какими бы их ни определяли другие системы мозга. Возможно, вы испытывали такое чувство, когда помните, что собирались сделать что-то желанное, но не можете вспомнить, что именно. Панксепп предположил бы, что подобное состояние вызвано активацией поисковой системы, которая сохраняется, даже когда связанные с целью импульсы в других частях мозга уже угасли.

Хорошо, допустим, существует, как предполагал Панксепп, поисковая система, которая повышает внимание, концентрацию, настойчивость животного и его готовность взаимодействовать с окружающей средой. Что же активирует эту систему? Панксепп предположил, что это сочетание двух входящих сигналов: неудовлетворенной потребности и возможности действовать ради ее удовлетворения. Сэндвич мотивирует нас, когда мы голодны и когда есть возможность его получить. Сэндвич не мотивирует нас, когда мы сыты или когда он недосягаем (например, когда мы находимся в походе за много километров от закусочных или продуктовых магазинов). Если потребность и возможность одновременно запускают поисковую систему, она дает мощный импульс устойчивой и продолжительной активации системам мобилизации действий (рис. 10.4). Такой подход позволяет понять, как мотивация может возникать в рамках концепции нейронных сетей.

Рисунок 10.4: Поисковая (аппетитивная) мотивационная система активируется потребностью и возможностью ее удовлетворить. Сигналы о потребностях посылают клетки, реагирующие на (гомеостатический) дисбаланс или присутствие определенных химических веществ. Возможности распознаются на основе доступных действий в окружающей среде и знания того, какие именно объекты способны удовлетворить текущие потребности.

Физиологические потребности могут определяться по химическим сигналам в организме. Например, клетки, называемые интероцепторами, активируются, когда фиксируют показатели, выходящие за рамки оптимального диапазона. Один из типов интероцепторов реагирует, когда концентрация воды в крови падает ниже определенного уровня — этот сигнал помогает человеку осознать, что он хочет пить. Другие интероцепторы подают сигнал, когда уровень сахара, жиров, половых гормонов или температура тела выходят за пределы предпочтительного диапазона. У каждой системы есть своя «зона комфорта», и если текущие химические показатели выходят за ее рамки — это состояние называют гомеостатическим дисбалансом — интероцептор активируется. Некоторые потребности, такие как голод, могут регистрироваться химическими детекторами, которые активируются при наличии определенных молекул в кровотоке (рис. 10.4).

Похожий механизм может работать и для психологических потребностей — таких как потребность в общении с другими людьми, потребность чувствовать себя компетентным, потребность в игре, потребность хотеть того же, чего хотят другие, и потребность обойти их в получении желаемого. Эти состояния не регистрируются простыми интероцепторами; исследования показывают, что их распознавание может зависеть от присутствия определенных химических веществ. Например, известно, что чувство одиночества связано с высоким уровнем кортикотропин-рилизинг-факторов (КРФ), ассоциированных со стрессом, и нехваткой успокаивающих эндорфинов. Другие химические вещества участвуют в передаче сигналов об иных неудовлетворенных психологических потребностях. Наряду с интероцепторами, присутствие таких веществ может способствовать активации поисковой системы (а также других мотивационных систем).

Самого по себе наличия физиологической и/или психологической потребности недостаточно для того, чтобы запустить поисковую систему. Необходима также возможность получить то, что эту потребность удовлетворит. Это предполагает знание о том, что потребность может быть удовлетворена конкретным объектом и что существует способ этот объект получить. Такое знание поступает в поисковую систему благодаря обучению на основе опыта, которое происходит в неокортексе — эволюционно продвинутой части внешней оболочки мозга, которую мы обсуждали ранее.

Большинство из нас не раз испытывали острую потребность облегчиться. Но поскольку возможности (то есть уборной) поблизости не было, мы успешно сдерживались. Поразительно, но как только туалет оказывается в поле досягаемости (то есть возникает возможность), наш позыв облегчиться нарастает — кажется, прямо пропорционально тому, насколько близко мы к нему подошли. Для нас подобные случаи наглядно иллюстрируют идею о том, что потребности в сочетании с сопутствующими возможностями активируют поисковую систему и систему мобилизации действий.

Возможно ли, исходя из этой концепции, создать машину, способную к мотивированному поведению? Нам это не кажется чем-то фантастическим. Для этого потребуется детектор определенного количества ресурса (например, доступного заряда батареи) и заданный оптимальный уровень для этого ресурса (например, 100 процентов). Активация детектора должна возрастать пропорционально тому, насколько текущее значение отклоняется от заданного. У машины также должны быть средства обнаружения возможностей изменить этот показатель (например, путем поиска и использования зарядной розетки). Потребность и потенциальная возможность ее удовлетворения совместно активировали бы поисковую систему машины, что усиливало и поддерживало бы активацию в системе мобилизации действий, связанных с нужным поведением. То, как именно поисковая система может активировать конкретное действие, наиболее соответствующее активной мотивационной потребности (например, жажде, голоду или доступу к туалету), — это вопрос, который мы и другие исследователи сейчас изучаем. Действия, вызванные подобной активацией, отличались бы энергичностью и настойчивостью — а именно это и отличает мотивированное поведение человека.

Без сомнения, человеческая мотивация — огромное подспорье для выживания. Но полностью ли мы подвластны ей? Нет, не всегда. Когда у нас есть долгосрочные цели, мы способны проявлять определенный самоконтроль.

Сопротивление искушению

Люди часто ставят перед собой долгосрочные или устойчивые цели, которыми руководствуются в своих действиях. Мы твердо решаем правильно питаться, тренироваться каждый день и писать книги. Время от времени эти долгосрочные цели вступают в конфликт с сиюминутными соблазнами, за которыми, кажется, стоит вся усиливающая мощь поисковой системы. После напряженного дня сладкое лакомство может казаться гораздо более желанным, чем какой-нибудь фрукт, дремота на диване — более притягательной, чем пробежка, а встреча с друзьями — более заманчивой, чем шлифовка собственной рукописи. И тем не менее мы часто находим в себе силы противостоять этим искушениям.

Подобные проявления самоконтроля особенно интересны тем, что действие, соответствующее долгосрочной цели (например, решение съесть яблоко), в момент принятия решения зачастую обладает меньшей энергией, чем более заманчивый вариант, противоречащий этой цели (например, решение съесть печенье). И все же, по крайней мере иногда, цель выбрать полезную альтернативу берет верх над искушением.

Как это происходит? Совместимо ли подобное проявление самоконтроля с концепцией нейронных сетей, в которой связи и активация являются единственной «валютой»?

Чтобы рассмотреть возможные ответы на эти вопросы, представим себе простую сеть, состоящую из локалистских элементов для каждого из двух вариантов: печенья и яблока. Оба элемента связаны с поисковой системой. Представим, что эта сеть моделирует человека, который какое-то время не ел, и поэтому у него активны детекторы потребности, реагирующие на низкий уровень сахара в крови. Представим далее, что человеку предоставляется возможность выбрать либо яблоко, либо печенье — оба варианта находятся в пределах досягаемости. Из-за одновременного присутствия потребности и возможности активируется поисковая система. Поскольку сигнал соответствия потребности и вознаграждения у печенья сильнее, входящий сигнал от поисковой системы к элементу «Печенье» будет сильнее, чем к элементу «Яблоко». В отсутствие каких-либо других воздействий элемент «Печенье» получит более сильный входящий сигнал и первым достигнет порога действия. В этом случае будет выбран более вкусный, но менее полезный вариант.

Чтобы позволить цели здорового питания повлиять на результат, мы добавим еще один элемент, представляющий цель «Здоровье», и соединим его двунаправленно с элементом «Яблоко» (рис. 10.5). Благодаря этим двунаправленным связям активация в элементе «Яблоко» получит возможность вызвать активацию в элементе «Здоровье», что, в свою очередь, увеличит активацию в элементе «Яблоко» через обратную связь. При симуляции подобных сетей мы заметили, что если активация в элементе «Печенье» нарастает не слишком быстро, может хватить времени для возникновения спирали взаимно усиливающейся активации между элементом «Яблоко» и элементом «Здоровье» — когда каждый элемент активирует другой и активируется им. По мере активации элемента «Здоровье» он увеличивает активацию в элементе «Яблоко» за счет нисходящей связи, что, в свою очередь, еще больше усиливает активацию элемента здоровья. Это увеличение активации в элементе «Яблоко» начнется медленно, если в элементе «Здоровье» изначально мало или совсем нет активации для запуска восходящей спирали, но со временем этот процесс может привести к тому, что активация в элементе «Яблоко» превысит активацию в элементе «Печенье» до того, как элемент «Печенье» достигнет порога, что приведет к выбору яблока, а не печенья. Это соответствовало бы случаю успешного самоконтроля.

Рисунок 10.5. Даже когда поисковая система сильнее стремится к вкусному печенью, а не к полезному яблоку, двунаправленные связи между элементами, представляющими цель сохранения здоровья и полезный продукт (например, яблоко), могут привести к выбору более здорового варианта.

Это объяснение на основе нейронных сетей согласуется с экспериментами, показывающими, что когда выбирается вариант, соответствующий цели, а не соблазнительный вариант, время реакции человека обычно больше, чем при выборе соблазнительного варианта. Интересно, что подобные наблюдения побудили других исследователей предложить двухпроцессные модели мышления и поведения (например, Систему 1 и Систему 2 Даниэля Канемана), в которых один процесс разворачивается быстро, а другой, более контролируемый, — постепенно, часто приводя к иным результатам. В концепции нейронных сетей эти различные скорости обработки и результаты эмерджентно возникают из процессов интерактивной активации в рамках единой системы.

Это нейросетевое объяснение также показывает, почему мысли о сохранении здоровья перед принятием решения повышают шансы на успешный самоконтроль. В этом случае в элементе «Здоровье» будет больше исходной активации, что заставит активацию элемента «Яблоко» нарастать быстрее. Таким образом, если подумать об отказе от сахара задолго до того, как появится тележка с десертами, преодолеть искушение будет гораздо проще.

Мы описали процесс саморегуляции через связи между локалистскими элементами, подобными тем, что мы использовали в главах 4–6, однако мы полагаем, что в мозге подобный процесс включает взаимодействие между популяциями элементов, представляющих цели и варианты выбора. Действительно, измерения активности мозга показывают, что самоконтроль, связанный с достижением целей, ассоциируется с активностью во взаимосвязанной сети областей мозга, называемой сетью множественных требований. Активность в этих областях мозга возрастает пропорционально требуемому уровню контроля. Согласно этим наблюдениям, в мозге нет какого-то одного центра, который бы представлял цели, обнаруживал и разрешал конфликты, подавлял помехи, направлял внимание и процесс принятия решений, а также осуществлял нисходящий контроль для обеспечения выбора действий, соответствующих долгосрочным целям. Вместо этого данные функции распределены, что позволяет различным областям вносить динамический вклад во внимание, обработку информации и действия в соответствии с текущей задачей. Такая распределенная организация согласуется с предположением концепции нейронных сетей о природе стремления к цели: репрезентация цели может находиться не в той же области мозга, что и репрезентация объекта или действия, соответствующего этой цели. Тем не менее, эти две репрезентации могут влиять друг на друга благодаря двунаправленным связям между соответствующими областями мозга.

Цели в ИИ

Описанный нами набросок нейросетевого объяснения мотивированного поведения еще нуждается в более детальной проработке и реализации в системах ИИ, хотя многие модели, затрагивающие отдельные аспекты обсуждавшихся процессов, уже использовались для моделирования целенаправленного поведения у людей, включая последствия повреждения сети множественных требований. Существующие работы не полностью охватывают сложные сценарии, в которых множество действий, множество мотивов и множество долгосрочных целей оказывают свое влияние на протяжении времени. Они также не объясняют, как общая цель должна порождать подцели для своего достижения. Например, для глобальной цели планирования семейного отпуска необходимо создать такие подцели, как выбор направления, поиск дат, когда все свободны, покупка билетов, поиск жилья и тому подобное, и подобная деятельность может растянуться на многие дни или недели. Разработка более детальных моделей, охватывающих такую долгосрочную целенаправленную деятельность, является важным направлением для будущих исследований как в области ИИ, так и в когнитивной нейробиологии.

Несмотря на подобные пробелы в нашем объяснении, мы полагаем, что эти идеи о механизмах мозга, отвечающих за репрезентацию целей и стремление к ним, открывают путь к созданию более гибких и масштабируемых систем ИИ. Многие из современных систем ИИ полагаются на алгоритмы обучения, которые максимизируют вознаграждение и/или минимизируют ошибку (глава 9). Более того, информация, связанная с этими функциями вознаграждения и ошибки, предоставляется извне программистами-людьми. Альтернативой этому подходу является разработка систем, способных ограничивать свои действия на основе активного стремления к цели, используя тот тип взаимных связей, который мы описали. Для создания таких систем потребуются будущие инновации, возможно, включающие двунаправленную связь и алгоритмы обучения, менее требовательные к объему данных.

Рассмотрев мышление и мотивацию, мы переходим к третьей области скептицизма, высказанного студентом Гаурава.

А как же сознание?

Несколько лет назад журнал Science составил список вопросов, которые, по мнению редакции, были глубокими, но все еще оставались без ответа со стороны науки. Первым в списке шел вопрос о происхождении Вселенной. Второй вопрос касался природы сознания.

Уильям Джеймс, один из отцов-основателей психологии, описывал сознание как «поток мысли» — непрерывное течение ощущений, мыслей, эмоций и переживаний, сливающихся воедино. По определению, наш сознательный опыт — это единственный опыт, которым мы обладаем. Неудивительно, что многие люди ошибочно полагают, будто все их выборы, поступки и решения полностью обусловлены их сознательными мыслями.

Хотя нам может казаться, будто наши решения и действия рождаются из сознательных мыслей, концепция нейронных сетей предлагает иную точку зрения: за наши решения и действия отвечают паттерны активации в нашем мозге. Некоторые из этих паттернов активации мы переживаем как сознательные мысли. Сначала возникает активация; иногда за ней следует сознание.

Эта точка зрения подтверждается одним из самых известных экспериментов во всей нейробиологии. В 1980-х годах исследователь Бенджамин Либет и его коллеги просили участников сидеть перед часами и совершать «быстрое, резкое сгибание пальцев и/или запястья правой руки» без предварительного планирования этого действия. В некоторых попытках участников просили сообщить точное время, когда они впервые осознали побуждение к движению. Исследователи регистрировали активность мозга участников с помощью электроэнцефалограммы (ЭЭГ), которая позволяет с высокой временной точностью фиксировать паттерны активации в коре головного мозга. Они обнаружили, что неосознанная активность мозга, связанная с движением, начиналась примерно за 350 миллисекунд до того, как испытуемые сообщали о принятии сознательного решения пошевелить запястьем. Именно паттерн активации знаменовал собой решение действовать. В данном случае сознание включилось примерно на треть секунды позже.

В этой книге мы создали множество нейронных сетей для исследования самых разнообразных когнитивных явлений, включая восприятие, память, контекстные эффекты, принятие решений, семантическое познание, язык, формальные рассуждения и мотивацию. Примечательно, что ни одна из этих сетей не требовала от нас каких-либо предположений о наличии сознания. Они опирались на распространение активации и усиление или ослабление весов связей, и ни один из этих процессов не зависит от какого-либо сознательного мышления или опыта. В соответствии с этим представлением, в настоящее время существуют агенты ИИ, которые полагаются на распространение активации и настройку весов связей и выполняют многие из этих когнитивных функций. Для понимания их выбора, действий и решений также не требуется обращаться к понятию сознания.

Даже обучение человека может происходить за пределами сознания. Например, исследователи продемонстрировали, что пациенты под наркозом, которые не сообщают ни о каком сознательном опыте во время анестезии, способны к обучению. Исследователи зачитывали слова (например, трактор) пациентам под наркозом во время операции. После того как пациенты просыпались, исследователи просили их продолжить начальную часть слова (например, тра-) первым пришедшим в голову словом. Прослушивание слова во время операции увеличивало вероятность того, что впоследствии пациенты используют именно его для завершения слова. Например, пациенты, слышавшие во время операции слово трактор, с большей вероятностью произносили трактор, чем те пациенты, которые вместо этого слышали трафик.

Если мы способны обучаться, находясь в абсолютно бессознательном состоянии, возможно, мы также могли бы выполнять без участия сознания и все те действия, которые совершаем сейчас? Со стороны мы делали бы ровно то же самое, что и обычно, но без какого бы то ни было сознания. В качестве мысленного эксперимента попробуйте представить себе подобное существование: как и во время глубокого сна, у вас нет абсолютно никакого субъективного сознательного опыта. И тем не менее ваши глаза открыты, вы кажетесь бодрствующим, можете вставать и передвигаться. Когда какой-то сигнал из внешнего мира поступает в вашу нейронную сеть через органы чувств, эта сеть производит паттерны активации и действия, очень похожие на те, что она производит в вашем обычном сознательном состоянии. Когда зрительный сигнал от красной розы достигает ваших глаз, ваша нейронная сеть создает те же распределенные представления, что и в случае, если бы вы были в сознании. Если кто-то спросит вас о цвете розы, вы по-прежнему ответите, что она красная, но вы не испытывали бы субъективного переживания от того, что видите красный цвет. Если бы вам показали красную и желтую розы и спросили, одинаковы они по цвету или отличаются, вы бы ответили, что они разные, не испытывая при этом никакого переживания, связанного с этим различием. Если бы ваша поисковая система побудила вас сделать глоток кофе, вы бы точно так же потянулись к чашке и сделали глоток, но вы бы не осознавали чувство желания, не осознавали движение руки, берущей чашку, и не осознавали сам глоток. Вы бы прекрасно обучались, а сила ваших связей менялась бы точно так же, как и сейчас. Это была бы жизнь без сознания.

Мало кто — если вообще кто-нибудь — согласился бы на подобное существование. Мы черпаем смысл из сознания. Оно дает нам ощущение осознания себя как отдельных сущностей, обособленных от окружающего мира. Оно дает нам то самое ощущение «я», которое сохраняется на протяжении всей нашей жизни. Если бы мы внезапно утратили сознательный опыт (сохранив всё остальное), наша жизнь едва ли соответствовала бы представлениям большинства людей о том, что значит быть живым, пусть даже внешнему наблюдателю наши действия и поведение казались бы неизменными.

Однако ощущение смысла и чувство идентичности не обязательно являются эволюционными императивами. Если бы действительно оказалось возможным осуществлять всё наше поведение и обучение без участия сознания, то в чем тогда заключалось бы его предназначение? Зачем оно вообще существовало бы?

Одно из возможных предназначений сознания — позволить маркировать объекты и опыт в окружающем мире как приятные или болезненные. Сознательное ощущение удовольствия — например, от укуса сочного фрукта — может повысить вероятность того, что организм будет искать такой фрукт в будущем. Сознательное ощущение боли — например, от ожога пламенем — может снизить вероятность того, что в будущем организм приблизится к нему так же близко. Это, действительно, один из способов осмысления основы нашей склонности стремиться к одним вещам и избегать других, хотя он и не сыграл роли в том объяснении этих склонностей, которое мы предложили ранее в этой главе.

Другое возможное предназначение сознания заключается в том, что оно делает возможной эмерджентность явных, часто похожих на предложения суждений, таких как «Я справедливый человек» или «Быть хорошим родителем — высшая добродетель в этой жизни». Эти суждения могут возникать в результате обобщения множества эпизодов, наблюдения за поведением других людей или прямых указаний. Они могут быть, а могут и не быть объективно истинными или даже полезными, но как только они возникают, их последствия могут быть колоссальными. Они могут выступать в качестве руководящих жизненных принципов и могут подавлять эмерджентность других, конкурирующих утверждений.

Еще одно возможное предназначение сознания, предложенное некоторыми исследователями, заключается в том, чтобы сделать информацию глобально доступной для различных когнитивных систем и процессов в мозге, обеспечивая интеграцию, координацию и гибкое использование этой информации для решения различных задач. Например, представьте, что вы неожиданно (и сознательно) видите своего кузена в ресторане. Информация о том, что ваш кузен находится в ресторане, поступит в так называемое глобальное рабочее пространство, откуда она будет транслироваться в различные системы мозга: системы памяти обратятся к прошлому опыту и воспоминаниям, связанным с этим кузеном. Эмоциональные системы могут (в зависимости от кузена) вызвать чувство радости или удивления; двигательные системы могут инициировать реакцию, например улыбку или взмах руки; а языковые зоны могут подготовить приветствие или начать разговор. Все эти системы быстро активируются в ответ на глобальную трансляцию.

Все эти возможные функции сознания кажутся вполне разумными. Мы, однако, не понимаем, почему любая из этих (или связанных с ними) функций не могла бы осуществляться без сопровождения сознанием. Метка приятного или болезненного могла бы быть просто свойством, которое ассоциируется с объектом, подобно его цвету. Неочевидно, что для создания такой метки или для ее ассоциации со склонностью приближаться к объекту или избегать его, когда он доступен, требуется реальное переживание удовольствия. Также неочевидно, что утверждения должны быть осознанными, чтобы оказывать влияние. Наконец, обеспечение глобальной доступности информации в нейронной сети может быть реализовано за счет связей между элементами. Неочевидно, что для обеспечения такого обмена информацией требуется её сознательное осознание.

Эти мысли и открытия оставляют нас в состоянии любопытной неопределенности относительно вопроса: играет ли сознание причинную роль? Мы видим две возможности, и обе они кажутся одинаково привлекательными. Первая заключается в том, что сознание сопровождает определенные состояния мозговой активности, но само по себе не играет никакой причинной роли помимо той, которую играет сама эта активность мозга. Это привлекательно с механистической точки зрения, поскольку согласуется с идеей о том, что именно нейронная активация, а не само сознание, в конечном счете является механизмом, лежащим в основе всех аспектов того, кем мы являемся — включая нашу способность размышлять о противоречиях между альтернативными взглядами на вопрос о причинной роли сознания. С другой стороны, тот факт, что эволюция отбирает организмы, обладающие сознанием, заставляет нас думать, что не стоит сбрасывать со счетов вероятность того, что оно дает нам некоторое функциональное преимущество. В целом, мы допускаем возможность того, что сознание само по себе может играть причинную роль в направлении тех аспектов нашей нейронной активности и поведения, которые способствуют нашей приспособленности и выживанию, даже если точная природа этого преимущества пока не ясна.

Переходя от вопроса «почему», что нейронные сети могут сказать о том, когда возникает сознание и какое именно содержание сознания мы переживаем?

Здесь мы видим лишь набросок ответа, хотя многие детали еще предстоит изучить: по-видимому, сознательный опыт связан с устойчивой нейронной активностью во всей сети областей мозга, а содержание этого опыта часто зависит от конкретных паттернов мозговой активности, которые активны в этих состояниях. Такие паттерны могут возникать в результате взаимозависимых, двунаправленных взаимодействий между популяциями нейронов в разных областях мозга — процесса, который мы назвали интерактивная активация во второй части.

Прекрасным доказательством этой идеи служат эксперименты по нейровизуализации, в которых левому и правому глазу показывают разные изображения. Например, левому глазу могут показывать изображение дома, а правому — изображение лица. Как вы думаете, что мы сознательно воспринимаем при таком бинокулярном наблюдении? Возможно, мы увидим некое смешение лица и дома?

Но все происходит иначе. Вместо того чтобы воспринимать смешанное или наложенное друг на друга изображение, мозг переключается между ними: одно изображение воспринимается осознанно, в то время как другое полностью отсутствует в нашем сознании. В нашем примере человек сначала видит дом, через мгновение — лицо, а затем снова дом. Это поразительно, ведь сигналы, поступающие от каждого глаза, остаются прежними, однако то, что человек видит сознательно, непредсказуемо меняется.

С помощью нейровизуализации исследователи измеряли активность мозга в то время, когда участники смотрели одним глазом на лицо, а другим — на дом. Они сосредоточили внимание на двух категориально-селективных областях мозга: одна реагирует на лица, другая — на пространственные объекты, в частности на сцены со зданиями или домами. Выяснилось, что когда испытуемый сообщал, что видит лицо, в «зоне лиц» регистрировался высокий уровень активации, тогда как «зона мест» бездействовала. И наоборот, когда участник говорил, что видит дом, активировалась «зона мест», а «зона лиц» оставалась пассивной. Подобные эксперименты подтверждают гипотезу о том, что определенные аспекты нейронной активности в нашем мозге изменяются согласованно с нашим сознательным опытом.

Мы обсудили некоторые вопросы, связанные с тем, почему и когда может возникать сознание, но есть главный вопрос, которого мы еще не коснулись: Как?

Активация нейронов — это физический процесс, происходящий за счет распространения потенциалов действия и переноса ионов через мембрану. Но каким образом эти физические процессы способны породить субъективный опыт?

Мы не знаем!

Догадок существует великое множество. Некоторые полагают, что даже простые физические системы обладают крошечной долей субъективных качеств или протосознания. С этой точки зрения даже пылинка наделена некоторой, пусть и ничтожной, способностью воспринимать мир. Предполагается, что протосознание отдельных крупиц материи объединяется и каким-то образом порождает наш богатый и многогранный субъективный опыт.

Наша концепция нейросетевого моделирования не постулирует наличие у простых физических систем некоей формы протосознания, и, как мы уже убедились, многое можно объяснить и без этого. Тем не менее мы признаем наличие у нас сознательного опыта и считаем полезным рассмотреть возможность того, что сознание, подобно другим когнитивным феноменам, эмерджентно возникает в результате взаимодействий внутри нейронной сети. Мы предположили, что восприятие, память, эффекты контекста, эмоции, принятие решений, концептуальные знания, язык, логическое мышление, мотивированные действия и стремление к цели — все это можно рассматривать как результат простых сетевых процессов (то есть активации и подстройки весов связей). Как мы видели, многочисленные симуляции показывают, что аспекты нашего поведения и нейронных реакций в задачах, задействующих эти ментальные функции, могут быть воссозданы с помощью таких моделей. Почему же с сознанием должно быть иначе? И все же понимание того, как именно эти процессы в нейронных сетях порождают сознательный опыт, по-прежнему ускользает от нас.

В этой главе мы предположили, что нейронные сети могут помочь нам глубже понять некоторые из самых сложных аспектов нашего разума. Мы выдвинули гипотезу, согласно которой логическое мышление, мотивированное поведение (включая стремление к достижению целей) и даже наш сознательный опыт в конечном итоге могут возникать в результате взаимодействующих процессов активации, разворачивающихся в нейронных сетях нашего мозга. Остается еще множество пробелов и нерешенных вопросов, но предстоящий путь вдохновляет и воодушевляет нас!

В следующей, заключительной главе мы рассмотрим, какие выводы из концепции, которую мы описывали на протяжении первых десяти глав, следуют для нас самих и для ИИ.