Чтобы обсудить эмерджентные качества больших языковых моделей, будет полезно сравнить их с теми способностями, которые появляются в процессе, описанном в предыдущем разделе. В стандартном случае модель предварительно обучается и проходит тонкую настройку на одну или несколько способностей в обработке естественного языка, например, на перевод или поиск аналогии. Каждая из этих способностей является частью программы обучения и считается предсказуемой, и хотя мы не всегда знаем, как модель это делает, мы ожидаем, что модель будет обладать этими способностями.

Первые примеры эмерджентных способностей – это обучение без обучающих примеров [33] (zero-shot learning) или на нескольких примерах (few-shot learning). Эти термины обозначают количество обучающих примеров, которые даются модели перед решением задачи. Предположим, что ресторатор хочет добавить в меню визуальные индикаторы вегетарианских блюд. Он просит ChatGPT: «Пожалуйста, перепиши это меню и поставь звездочку напротив всех блюд, которые не содержат мясо», а затем копирует результат в свое меню. Для человека такая задача может показаться простой, но модель должна для начала интерпретировать запрос, затем классифицировать по содержанию мяса каждый пункт меню и далее в соответствующем формате выдать результат. Уровень понимания естественного языка и способность к генерации, необходимые для выполнения такой задачи без использования соответствующих обучающих примеров (мы можем с уверенностью предположить, что модель не обучалась этому напрямую), никогда не наблюдались в предыдущих языковых моделях, а вот LLM может показать впечатляющие результаты при выполнении многих таких задач без обучающих примеров, то есть никогда раньше не сталкиваясь ни с чем подобным.

ОБУЧЕНИЕ БЕЗ ОБУЧАЮЩИХ ПРИМЕРОВ (zero-shot learning) или на нескольких примерах (few-shot learning) – это термины, описывающие количество обучающих примеров, которые даются модели перед выполнением задачи.

В случае обучения на нескольких примерах модели дается несколько примеров решения задачи в промпте, и на их основе она определяет, какой ответ должна сгенерировать. В предыдущем случае, когда модели не дают обучающие примеры, промпт состоит полностью или почти полностью из самого вопроса пользователя (иногда модели выпускаются с шаблонным промптом, в котором могут быть записаны типичные инструкции о том, как реагировать на ввод, но это не имеет отношения к нашему обсуждению). Допустим, другой пользователь хотел бы, чтобы модель выполнила более сложную задачу. Например, писатель-фрилансер работает над тремя разными статьями: о разведении собак, об экзопланетах и о городе Питтсбурге. У него есть список статей, и он хотел бы классифицировать их по темам. В этом случае он мог бы написать следующее:

«Каждая из этих статей посвящена или „разведению собак“, или „экзопланетам“, или „Питтсбургу“. Напиши для каждой статьи наиболее подходящую тему из этих трех».

Это можно считать задачей без обучающих примеров. Однако для повышения качества ответа имеет смысл предоставить модели несколько примеров. Итак, если она сгенерирует не совсем тот ответ, который ожидает писатель, можно попытаться дать дополнительные подсказки:

«Пример. „Последние открытия космических телескопов“: экзопланеты. Пример. „Почему у мопсов проблемы с дыханием“: разведение собак»; и так далее.

На рис. 2.2 показано, как работа с моделью через промпты без примеров или с несколькими обучающими примерами отличается от точной настройки модели для конкретной задачи. Если вы использовали LLM для выполнения одной из подобных задач, вы, не задумываясь и не осознавая, могли уже пробовать обучение без обучающих примеров или на нескольких примерах. Это одна из самых сильных сторон LLM, поскольку взаимодействие с этими чат-ботами происходит с помощью простого естественного языка, и во многих случаях мы можем интуитивно откорректировать свой запрос (настроить входные данные) для получения желаемых результатов.

Рис. 2.2. Сравнение тонкой настройки, обучения без обучающих примеров и обучения на нескольких примерах в задаче с машинным переводом

Также некоторые другие изменения в промпте помогли открыть дополнительные эмерджентные возможности моделей. Было показано, что метод под названием «подсказка цепочки рассуждений» (chain-of-thought prompting), при котором мы направляем модель к разбиению сложных задач на несколько этапов, улучшает качество ответа (в простейшем варианте мы предваряем промпт фразой «Давай думать пошагово», и это делает ответы, сгенерированные моделью, более точными при решении логической задачи). Пользователи тестировали введение подробных инструкций для задач без обучающих примеров, а также спрашивали модель об ее уровне уверенности в своем ответе, и все это помогало улучшать ответы при определенных условиях.

В ранее упомянутом исследовании, посвященном эмерджентным способностям LLM, авторы изучали качество работы LLM различного размера при выполнении заданий с несколькими обучающими примерами. В частности, исследователи искали задачи, при решении которых ответы «маленьких» LLM были случайными [34], а затем качество ответов резко возрастало при переходе на модели большего размера. Они обнаружили, что способность языковых моделей выполнять сложение, вычитание и умножение была эмерджентной: GPT‐3 не выдавала практически ни одного правильного ответа, пока не достигла размера в 13 миллиардов параметров. Аналогично было обнаружено, что GPT‐3 и другие модели после достижения 70 миллиардов параметров значительно лучше начинали отвечать на разнообразные вопросы по академическим темам, включая математику, историю и право. Поскольку эти эмерджентные свойства не подчиняются эмпирическому закону масштабирования, трудно с уверенностью ответить на вопросы: будет ли увеличение размера способствовать появлению еще более важных способностей; при достижении какого размера мы больше не увидим новых улучшений; как рассуждать об этих задачах по сравнению с теми, где точность предсказуемо зависит от размера модели.

Искра общего искусственного интеллекта?

Согласно оценкам команды Microsoft, «кроме мастерства в использовании языка, GPT‐4 может решать новые и сложные задачи, включая математику, программирование, компьютерное зрение, медицину, юриспруденцию, психологию и многое другое, не нуждаясь в каких-либо специальных промптах»². Именно из-за этих эмерджентных свойств появился провокационный заголовок статьи «Искра общего искусственного интеллекта», в которой было написано: «Учитывая глубину и широту способностей GPT‐4, мы полагаем, что его обоснованно можно рассматривать как начальную (но еще неполную) версию системы общего искусственного интеллекта (artificial general intelligence, AGI)». AGI – это давняя цель многих ученых, которые занимаются ИИ; под ним понимается интеллект, способный обучаться так же хорошо, как и люди, которые пока намного лучше обобщают знания и адаптируются к неизвестным задачам. Вопрос общего искусственного интеллекта – и обладают ли им какие-либо большие языковые модели – выходит за рамки этой главы, но мы еще обсудим его и смежные вопросы в главе 9.