Около 18 000 лет назад доисторические обитатели пещеры Ласко на юге Франции украсили её стены рисунками, выполненными охрой, древесным углём и кальцитовыми пигментами. После того как в 1940-х годах пещеру обнаружила группа местных подростков, археологи нашли среди замысловатых изображений горных козлов и мегалоцеросов одиночную нарисованную фигуру — идеальный прямоугольник. Звучит, возможно, не слишком захватывающе — быть может, просто праздный набросок далекого предка со склонностью к кубизму? Но для тех, кто интересуется эволюцией познания, это было знаковое открытие. Этот палеолитический прямоугольник показал, что представители Homo sapiens той эпохи уже умели мыслить геометрически. Прямоугольник — это не просто какой-то там четырехугольник. У него четыре равных угла, перпендикулярные стороны, и он симметричен по обеим осям, x и y. Тот, кто нарисовал эту фигуру, должно быть, понимал, что прямоугольник — это нечто особенное. На самом деле, тщательные исследования показывают, что способность распознавать геометрию — это уникальная человеческая черта, не присущая даже самым сообразительным нашим сородичам по эволюционному древу, таким как бабуины.[*1] К эпохе древних греков люди уже поняли, что геометрия — это формальный математический язык, с помощью которого можно осмыслить Вселенную. В последующие тысячелетия человеческая культура и технологии процветали, по мере того как мы открывали и использовали подобные формальные инструменты для математических и логических рассуждений, а также совершенствовали синтаксис, структурирующий язык, музыку и другие системы символической коммуникации. Те четыре линии на стене пещеры были ранним проблеском великой человеческой цивилизации будущего.

В математике и логике ответы бывают либо правильными, либо неправильными. Выражение 2 + 2 = 5 столь же ложно в Вашингтоне, сколь и в Вуллонгонге; оно ложно по понедельникам и остаётся ложным по пятницам. И наоборот, дедуктивно (всегда) верно, что если все кенгуру — сумчатые, а Крошка Ру — кенгуру, то Крошка Ру — сумчатое. В предыдущих главах мы обсуждали, как рационалистические подходы к ИИ пытались свести всё познание к подобным формальным, непреложным операциям. На бумаге это работало прекрасно, но обычно терпело крах при первом же контакте с реальным миром, где правильное и неправильное по самой своей природе гораздо более неоднозначны. Тем не менее, способность использовать формальные системы, такие как математика и логика, для мышления — это, очевидно, важнейший признак интеллекта, который сыграл решающую роль в обеспечении планетарной гегемонии человечества. Поэтому, если мы хотим, чтобы большие языковые модели приносили пользу, нам нужно, чтобы они умели мыслить формально подобным образом. Нам нужно, чтобы они рассуждали точно: понимали, что 2 + 2 = 5 — это не «почти» правильно. Конечно, мы знаем, что большие языковые модели способны решать логические и математические задачи, сформулированные как на формальных, так и на естественных языках. И хотя они не точны на все 100%, сегодня они справляются с этим с не меньшей (а то и с большей) компетентностью, чем большинство образованных людей.

Проблема в том, что большие языковые модели обучаются делать прогнозы, а мы привыкли относиться к прогнозам как к догадкам — как когда я предсказываю победу «Оксфорд Юнайтед» в футбольном матче и делаю безрассудную ставку, чтобы подкрепить свое предчувствие. Мыслительные процессы, порождающие догадки, кажутся принципиально иными, нежели те, что задействованы при решении математических или логических задач, имеющих точные, однозначные ответы. Так как же машина предсказаний может вообще что-то по-настоящему «знать»? Вот цитата, которая подчеркивает это различие:

Знающий не предсказывает. Предсказывающий не знает.

Этот емкий афоризм может показаться высказыванием одного из тех публичных интеллектуалов, которые сделали стремительную карьеру на неустанном скептицизме по отношению к ИИ. Но на самом деле он принадлежит китайскому философу Лао-цзы, основателю даосизма, жившему более двух с половиной тысячелетий назад. Тем не менее, его слова могли бы стать боевым кличем для многих современных критиков систем искусственного интеллекта. Когда сторонники человеческой исключительности пренебрежительно называют большие языковые модели «всего лишь машинами предсказания», они неявно соглашаются с дихотомией, которую сформулировал Лао-цзы: «настоящее» знание и «настоящее» мышление невозможны, если всё, что вы делаете, — это строите прогнозы. В современной версии этого аргумента, изложенной в одной из научных статей, утверждается, что сама идея о рассуждающей большой языковой модели является «категориальной ошибкой».[*2]

Конечно, догадки приблизительны, и во многих ситуациях — например, при закатывании мяча в лунку в гольфе или при обезвреживании бомбы — быть «почти» правым никуда не годится. Поэтому, когда большие языковые модели путают понятия или допускают арифметические ошибки, возникает искушение предположить, что они просто действуют наугад, а не размышляют над ответом. Если это так, то можно представить, что в будущем, когда мы поставим перед ними действительно сложные задачи — те, которые невозможно решить путем приближений, — они окончательно зайдут в тупик. С помощью серии слепых догадок невозможно найти лекарство от рака или разгадать тайну холодного ядерного синтеза. И действительно, даже в случае с простой арифметикой, в отличие от карманного калькулятора, результаты больших языковых моделей ухудшаются по мере усложнения задачи. Например, в одной работе было показано, что хотя GPT-4 без труда находит произведение двух трехзначных целых чисел, она время от времени совершает ошибки при умножении пар чисел, превышающих десять тысяч.[*3] В целом это звучит как убедительный аргумент. Однако он держится на представлении о том, что прогнозирующая система никогда не сможет рассуждать так, как человек. Как мы увидим далее, вовсе не очевидно, что это так.

Чтобы понять почему, нам нужно немного углубиться в то, как устроен человеческий разум. Психологи давно предполагают, что, принимая решения, люди используют одну из двух различных когнитивных систем. Эти системы действуют как ментальные советники-близнецы, каждый из которых обладает дополняющими друг друга навыками. Советник 1 — быстрый и приблизительный: он выносит мгновенные суждения, но на его точность не всегда можно положиться. Советник 2 — медленный и точный: он тщательно всё просчитывает, но требует времени. Каждая когнитивная система оценивает имеющиеся данные и предлагает свой вариант действий.[*4] К примеру, рассмотрим следующий вариант известной головоломки: «Велосипед и замок вместе стоят 220 долларов. Велосипед на 200 долларов дороже замка. Сколько стоит замок?»

Если вы видите эту головоломку впервые, ваш разум, скорее всего, быстро склонился к кажущемуся очевидным ответу: замок стоит 20 долларов. Это Советник 1 делает быструю прикидку. Но если поразмыслить: если велосипед стоит на 200 долларов дороже замка (то есть 220 долларов), то вместе они стоят 240 долларов, а значит, ответ неверный. Если у вас есть время, вы можете призвать на помощь Советника 2. Согласно теоретическим представлениям, система, на которую опирается Советник 2, имеет доступ к некоторым особым вычислительным приемам, таким как систематический перебор различных вариантов решений. Либо он может стряхнуть пыль со школьного курса математики и решить систему уравнений x + y = $220 и x − y = $200, где x и y — цены велосипеда и замка. Пошаговые вычисления Советника 2 наиболее полезны в ситуациях, когда нет права на ошибку, таких как логический вывод, математическое рассуждение или поиск кратчайшего пути из точки А в точку Б. Советник 2 наголову разбил бы Советника 1 в шахматах (но, пожалуй, не в блице, где ходы делаются на бешеной скорости). Психологи полагают, что быстрая и приблизительная система принятия решений сформировалась у нас в ходе эволюции для того, чтобы избавить нас от необходимости излишне раздумывать над каждым обыденным выбором — например, что съесть на завтрак или как добраться до работы, что в противном случае требовало бы слишком больших вычислительных затрат и времени. Поэтому мы просто тянемся к мюсли или поворачиваем налево, выйдя за порог дома, полагаясь на простые и дешевые подсказки Советника 1. Но для более судьбоносных решений — например, на ком жениться или стоит ли наконец бросить эту унылую, но денежную работу — мы всегда можем обратиться к Советнику 2.

Как же эти две системы у людей учатся давать советы? Когнитивисты полагают, что Советник 1 представляет собой результат работы системы обучения на основе привычек. Привычки — это паттерны поведения, которые мы приобретаем медленно, со временем, методом проб и ошибок. В процессе такого обучения наши прогнозы поначалу далеки от истины, но постепенно уточняются с накоплением опыта. Вот почему виды деятельности, требующие быстрых, приблизительных вычислений — например, выпад для приема теннисной подачи, попадание в нужные ноты при игре на трубе или распознавание певчей птицы по мимолетному взгляду, — как правило, оттачиваются медленно, в ходе практики. Но люди демонстрируют и множество других форм поведения, которые, кажется, невозможно освоить методом проб и ошибок: решение судоку, понимание линейной алгебры или заучивание Корана наизусть. Представьте себе изучение французского как второго языка исключительно методом проб и ошибок. Это было бы медленно, мучительно и определенно обеспечило бы вам косые взгляды в парижском кафе. А учиться строить мосты или пилотировать самолет наугад было бы верхом безрассудства. Поэтому легко понять, почему «простое прогнозирование» — угадывание на основе опыта — пользуется дурной репутацией.

Вместо этого обычно предполагается, что Советник 2 опирается на иную, целенаправленную систему, которая систематически ищет наилучшее возможное действие в данных обстоятельствах, позволяя нам точно понять, как решить головоломку, освоить новую концепцию или достичь нужного результата. Проблема в том, что гораздо менее понятно, как именно мы учимся достигать своих целей. На самом деле когнитивисты рационалистического толка склонны обходить этот вопрос стороной, утверждая, что некий вариант Советника 2 присутствует у нас с рождения, а значит, мы появляемся на свет с уже функционирующими врожденными навыками числового, логического и причинно-следственного мышления. Эволюция, безусловно, дает людям огромную фору во всех этих областях, и это одна из причин, почему обезьян не берут на работу бухгалтерами или инженерами. Но этот «нативистский» аргумент не объясняет, как мы начинаем с зубрежки таблицы умножения, а заканчиваем освоением интегралов и тригонометрии. Очевидно, что со временем люди начинают рассуждать лучше — это вам подтвердит любой родитель шестилетнего ребенка. Соответственно, этот взгляд оставляет без объяснения и то, как большие языковые модели умудряются отвечать на математические вопросы и решать задачи на логику, которые мы обычно считаем исключительной епархией Советника 2, притом что обучали эти модели исключительно методом проб и ошибок.

Однако на эту загадку есть ответ, и весьма примечательный. Он переворачивает с ног на голову устоявшиеся десятилетиями прописные истины о Советнике 1 и Советнике 2, которые занимали центральное место в когнитивистике, и объясняет, как БЯМ, судя по всему, могут научиться «думать» и «рассуждать» исключительно на основе прогнозирования. Секрет в том, что обучение методом проб и ошибок может позволить агентам (как людям, так и БЯМ) осваивать крайне сложные формы поведения, включая те, что традиционно закреплены за Советником 2, поскольку привычки позволяют нам учиться учиться. Обучение обучению (также известное как метаобучение) — это феномен, благодаря которому после освоения задач A, B и C мы можем быстрее решить задачу D, даже если она для нас абсолютно нова. Именно это позволяет некоторым людям становиться выдающимися полиглотами: ведь чем больше языков вы уже знаете, тем легче дается следующий. Об одном выдающемся полиглоте ходили слухи, что он освоил мальтийский всего за неделю.[*5] Языки имеют общую структуру — например, в большинстве из них есть времена, падежи и множественное число, — и полиглоты бесконечно практикуются в их использовании. Поэтому после знакомства с отдельными словами и несколькими примерами на новом языке (например, мальтийском) составление грамматически правильного предложения становится для них второй натурой, и они уже могут поболтать с таксистом на улицах Валлетты. Музыкальная импровизация — еще одно проявление человеческого метаобучения. Джазовый саксофонист может слышать определенную последовательность нот впервые в жизни, но весь его музыкальный опыт помогает ему спонтанно понять, как развить мелодию, гармонию и ритм так, чтобы это звучало связно и приятно для слуха.[*6]

Исследователи в области ИИ используют термин «обучение в контексте» (in-context learning), чтобы описать способность БЯМ к метаобучению. Масштабное предварительное обучение позволяет моделям улавливать закономерности в последовательностях токенов в контексте и связно продолжать их. В процессе обучения они «учатся» тому, как «учиться» на основе контекста (даже если содержащиеся в нем токены совершенно новы), чтобы разумно его продолжить. Подобно тому как музыкант-виртуоз опирается на весь свой сценический опыт, чтобы уловить тему при импровизации совершенно нового музыкального произведения, БЯМ могут использовать колоссальные объемы накопленного в ходе тренировок опыта проб и ошибок на гигантских текстовых корпусах, чтобы сообразить, что сказать дальше. Для полиглота или музыканта обучение обучению возможно благодаря общим закономерностям спряжения глаголов или схожей структуре ритмов бибопа. Для БЯМ, решающей уравнения или логические задачи, обучение в контексте возможно потому, что лежащие в их основе математика или логика одинаковы как для старых, так и для новых задач. В процессе обучения функция, которую БЯМ осваивает для предсказания следующего токена (и которая закодирована в ее весах), начинает содержать информацию о глубинной структуре грамматики, смысла и логики. Эту информацию модель может обобщать на совершенно новые последовательности токенов, что и позволяет ей выдавать естественные и связные ответы.

Обучение обучению — это повсеместное свойство человеческого развития. Мы начинаем жизнь с мощными эволюционными ориентирами, которые заставляют нас искать тепло и пищу и избегать пауков и опасных обрывов. Но большая часть нашего первоначального обучения происходит постепенно, методом проб и ошибок. По мере того как мы учимся ходить и говорить, неуклюжее ковыляние и невнятный лепет уступают место уверенному шагу и беглой речи. В ходе такого обучения методом проб и ошибок нейронные изменения, происходящие в мозге, формируют не только наши низкоуровневые предсказания о том, что произойдет дальше (если я толкну чашку, она упадет со стола), но и — что крайне важно — наше высокоуровневое понимание законов физики (того, что гравитация работает всегда). В детстве мы совершаем промахи: забываем таблицу умножения, слишком рьяно дразним сестру или не можем предугадать шокирующую развязку сказки на ночь. Вызываемые этим нейронные изменения помогают нам усваивать конкретные факты: например, ответ на пример 7 × 9, что если расстроить брата или сестру, это навлечет гнев родителей, или что непослушных детей съедают медведи. Но они также дают нам более общее представление о математике, социальном взаимодействии и законах развития сюжета в художественной литературе, так что в следующий раз, столкнувшись с этими сферами, мы уже знаем, как себя вести. Это и есть обучение обучению в действии.

Обучение через построение прогнозов звучит как процесс одновременно трудоемкий (пробы) и болезненный (ошибки). Оно вызывает ассоциации с блужданием впотьмах, хаотичным порождением действий и слов. Однако, как ни странно, именно оно позволяет нам осваивать метанавыки, которые можно применять для решения задач, традиционно приписываемых Советнику 2. Изучая французский язык во взрослом возрасте, вы уже на метауровне усвоили, что общение — это социальная деятельность, требующая взаимного понимания слов или жестов, поэтому вы не начинаете с лепетания случайных слов в кафе. Вы также научились на метауровне тому, как быть внимательным при попытке объясниться, поэтому вы прислушиваетесь к свободно говорящим людям и исправляете собственную речь или, заметив недоуменный взгляд, пробуете выразиться иначе. Способы нашего метаобучения тесно связаны с культурными технологиями обмена информацией и особенно с формальным образованием: мы учимся слушать родителей и учителей, копировать экспертов, записывать информацию и развивать свои таланты. Мы усваиваем на метауровне (зачастую слишком поздно), что ходить в школу — разумная идея. Вот почему мы можем скачать языковое приложение перед поездкой в чужой город, изучать инженерное дело, прежде чем пытаться построить мост, или пройти курсы пилотирования, прежде чем сесть за штурвал гигантского пассажирского лайнера. Метаобучение вооружает нас крайне универсальным набором навыков.

Способности, которые сторонники человеческой исключительности приписывают только людям — такие как логические рассуждения на основе посылок, оперирование числами или написание компьютерного кода, — приобретаются в процессе метаобучения. В детстве мы начинаем с врожденного ментального инструментария, который наделяет нас базовыми языковыми, числовыми и мыслительными навыками. Эти ментальные инструменты сами по себе помогают нам осваивать все более богатые структуры знаний. Они позволяют детям осваивать ментальные программы (например, деление в столбик), улавливать аналогии и метафоры («ветер нежно шепчет») и формировать ментальные теории («я думаю, бабушка приболела, потому что у нее опухли ноги»). Дети проверяют эти теории на практике, чтобы посмотреть, насколько они жизнеспособны. Они пробуют новые идеи: выдумывают воображаемый мир для своих плюшевых мишек, устраивают тактическую истерику или пытаются досчитать до бесконечности. Каждое из этих действий дает обратную связь, которая формирует то, как они будут принимать решения в будущем. Если эта обратная связь качественная — например, если вам повезло расти в окружении книг, учителей и в благоприятной среде, — вы сможете строить прогнозы даже относительно результатов формальных вычислений и дедуктивных выводов. И делать это так, что мы без колебаний назвали бы этот процесс «мышлением», даже если в основе этой способности в конечном счете лежит обучение методом проб и ошибок.

Поэтому неверно утверждать, будто БЯМ не способны «по-настоящему» рассуждать, так как они «всего лишь» строят прогнозы. На самом деле, когда речь заходит об обучении, «простое прогнозирование» — это практически в точности то, что происходит в системах с естественным интеллектом. Это становится очевиднее всего, если заглянуть под черепную коробку и посмотреть, что происходит в мозге. В биологическом мозге практически все обучение происходит за счет изменений в синаптических связях. Сила синапсов меняется с опытом, в основном по следующему принципу: когда два сенсорных стимула, А и Б, постоянно возникают одновременно, кодирующие их нейроны связываются прочнее. Это означает, что даже если стимул А появляется один, нейрон, кодирующий Б, активируется — система буквально усвоила, что «А предсказывает Б» (и наоборот). По мере прохождения информации через эту сеть нейроны активируются в высшей степени стохастически, так что один и тот же стимул никогда не вызывает абсолютно одинакового нейронного ответа дважды. Это означает, что результаты работы системы формируются на основе соотношения вероятностей. Нам приятно думать, что наш мозг выдает четкие и однозначные ответы, но по своей сути он представляет собой вероятностную систему. Поэтому, изучая вычисления, происходящие в биологических нейронных цепях, мы обнаруживаем, что всё это — сплошное прогнозирование до самого основания.

Сэм Альтман, генеральный директор OpenAI и уж точно не вычислительный нейробиолог, как-то почувствовал это, когда спустя несколько дней после того, как в 2022 году ChatGPT был запущен под оглушительные фанфары, написал в Твиттере: «Я стохастический попугай, и вы тоже».

И это высказывание, пусть и слегка шутливое и язвительное, совершенно верно указывает на то, что прогнозирование — это общая вычислительная основа обучения как для людей, так и для БЯМ. Когда комментаторы высмеивают БЯМ за то, что те «всего лишь строят прогнозы», они упускают из виду тот факт, что прогнозирование поступающей сенсорной информации — это буквально то, как происходит обучение во всех биологических системах, от самых простых червей и мушек до человеческого мозга с его миллиардами нейронов и мозга наших ближайших родственников-приматов. Обучение и прогнозирование идут рука об руку.

Пропустить примечания

*1 Dehaene et al., 2022. Этим прекрасным примером человеческого геометрического мышления я обязан этой работе.

*2 Shah and Bender, 2022.

*3 Liu and Low, 2023.

*4 Эта идея двух систем восходит как минимум к 1970-м годам (Shiffrin and Schneider, 1977). Первоначально эти две системы назывались «автоматической» и «контролируемой». У животных их чаще называют «системой на основе привычек» и «целенаправленной системой». Однако сравнительно недавно лауреат Нобелевской премии Даниэль Канеман (которому мы обязаны оригинальной версией задачи о велосипеде и замке, приведенной ниже) переименовал их в «Систему 1» и «Систему 2», так что вы, возможно, слышали именно эти термины (Kahneman, 2012).

*5 www.newyorker.com/magazine/2018/09/03/the-mystery-of-people-who-speak-dozens-of-languages.

*6 Binz et al., 2023.