Мы убедились, что LLM демонстрируют способности к логическому мышлению, схожие с человеческими, и осваивают числовые закономерности тем же путем, что и люди. Однако скептически настроенный студент Гаурава обратил внимание на существенный недостаток в их мыслительных способностях. Эти модели часто не в состоянии сделать элементарные выводы на основе здравого смысла из того, чему их обучили. И действительно, попытки научить языковую модель чему-то новому – например, факту «У Мэри, сестры Джейн, родился малыш по имени Аллен» – путем настройки весов связей для предсказания следующего слова приводят к весьма печальным результатам. Такое обучение требует множества повторений, а усваиваемое знание оказывается крайне ограниченным: после подобной тренировки модель сможет предсказать слово Аллен в контексте У Мэри, сестры Джейн, родился малыш по имени… но окажется совершенно беспомощной, если попросить ее завершить предложения Маму Аллена зовут… или Тетю Аллена зовут…

Люди же способны усваивать новую информацию буквально с первого раза и применять ее гибко – так, что становится очевидным наше понимание услышанного. К примеру, узнав, что у Мэри, сестры Джейн, родился малыш Аллен, вы сразу поймете: у Джейн появился племянник, которого зовут Аллен. Скорее всего, вы запомните эту информацию и сможете воспользоваться ею позже. Встретив Джейн через час, вы, вероятно, вспомните о ее новом племяннике Аллене. Такую форму усвоения знаний мы будем называть обучением на уровне мысли.

LLM тоже обладают способностью, которая напоминает человеческое обучение на уровне мысли, – но только пока информация остается в их контекстном окне, без изменения весов связей. Как и человек, языковая модель, получив информацию о том, что у Мэри, сестры Джейн, родился малыш Аллен, сможет ответить на вопросы «Кто мать Аллена?» и даже «Кто тетя Аллена?». Эти способности постоянно совершенствуются и, вероятно, продолжат развиваться. Мы считаем это многообещающей эмерджентной формой обучения, которую активно исследуем вместе с коллегами из области искусственного интеллекта и когнитивной нейронауки.

Однако у языковых моделей есть серьезное ограничение: любое знание, которое присутствовало в контексте, бесследно исчезает при закрытии контекстного окна. После повторной инициализации контекста от фразы о Джейн и новорожденном племяннике не остается и следа. Люди устроены иначе – разумеется, мы не запоминаем навечно все услышанное однажды, но обычно способны удержать в памяти новую информацию из знакомой области (например, о родственных связях), услышав ее всего один или несколько раз.

Такая полная неспособность к запоминанию отсылает к случаю знаменитого пациента Генри Молисона (известного также как Г. М.) – одного из самых изученных пациентов в истории нейронауки. Во время операции, целью которой было избавление от эпилептических припадков, у Г. М. были удалены важнейшие области мозга, включая структуру под названием гиппокамп. После операции пациент по-прежнему мог понимать сказанное ему в разговоре и отвечать на вопросы об этом – но лишь до тех пор, пока собеседник не менял тему. Стоило прервать мысль Г. М., как он забывал прежнюю информацию или не мог воспользоваться ею для ответа.

Случай пациента Г. М. и множество связанных с ним исследований привели нас и других нейробиологов к выводу, что гиппокамп отвечает за быстрое обучение через изменение силы нейронных связей. Особенность гиппокампа в том, что эти изменения могут быть очень значительными – настолько, что порой мы способны запомнить что-то с первого раза. Это кардинально отличает его от систем обучения, благодаря которым мы распознаем объекты, понимаем речь и овладеваем такими навыками, как чтение, письмо, ходьба и говорение. Все эти способности формируются путем изменения связей в обширных нейронных сетях неокортекса – области мозга, которая у Г. М. осталась практически нетронутой. В неокортикальных нейросетях изменения связей после единичного опыта обычно невелики. Они накапливаются постепенно, опыт за опытом, что соответствует плавному развитию наших когнитивных способностей в детстве и юности. Поэтому мы рассматриваем гиппокамп и неокортекс как две различные, но взаимодополняющие системы обучения, которые совместно обеспечивают как постепенное формирование наших познавательных способностей, так и возможность быстро и эффективно усваивать новое на уровне мысли.

Языковые модели середины 2020-х обладали способностями, схожими с медленной неокортикальной системой обучения мозга, но были лишены быстрой системы, подобной гиппокампу. Однако новейшие модели можно оснастить внешним хранилищем для копий прежнего содержимого контекстных окон или текстов, обработанных другими языковыми моделями. Это позволяет им обращаться к сохраненной информации и загружать ее в контекстное окно, что фактически дает им неограниченный контекст. По мере дальнейшего совершенствования и расширения этих моделей их возможности неуклонно растут. Сейчас, в 2025 г., многие языковые модели уже способны решить задачу о месяцах рождения, описанную в интерлюдии этой главы. Правда, остается неясным, достигают ли они этого путем логических рассуждений или извлекая готовый ответ из внешнего хранилища.

Итак, системы искусственного интеллекта на основе нейронных сетей демонстрируют все более впечатляющие способности к рассуждению, и этот прогресс, безусловно, продолжится. В некоторых аспектах эти модели уже превосходят человека: они имеют доступ к практически неограниченным хранилищам данных вне весов своих связей, тогда как наш мозг склонен забывать информацию. Они также опережают нас благодаря колоссальным вычислительным ресурсам, позволяющим исследовать множество путей рассуждения одновременно, – мы же в этом отношении гораздо более ограничены. Из-за таких различий современные модели могут казаться сверхразумными, но, на наш взгляд, их способности все же не являются подлинно человеческими. Нам еще предстоит долгий путь к пониманию того, как люди достигают столь многого без почти безграничных ресурсов, доступных системам ИИ.

Мы рассмотрели, способны ли нейросетевые системы ИИ мыслить последовательно и рассуждать логически – то, в чем сомневался студент Гаурава из интерлюдии. Теперь обратимся к его скептицизму по поводу того, что такие системы могут обладать мотивацией.