К книге
Генеративный искусственный интеллект. Как ИИ меняет нашу жизнь и работу1 Большие языковые модели: вся мощь ИИ. 1.6. Революция в общении: LLM говорят с людьми. 1.6.1. ChatGPT от OpenAI
18%
1 Большие языковые модели: вся мощь ИИ. 1.6. Революция в общении: LLM говорят с людьми. 1.6.1. ChatGPT от OpenAI
24

OpenAI, компания по исследованиям и разработкам в области искусственного интеллекта, расположенная в Сан-Франциско, 30 ноября 2022 года выпустила ChatGPT. Это произошло всего через десять месяцев после выхода ее предшественника, модели InstructGPT31, – первой попытки компании настроить большую языковую модель для выполнения задач на естественном языке, которые пользователь мог бы формулировать через специальные текстовые промпты. Используя ранее разработанную методику обучения с подкреплением в виде обратной связи от человека (reinforcement learning from human feedback, RLHF), компания OpenAI обучила модель следовать инструкциям, опираясь на обратную связь от человека. Взяв за основу промпты, полученные через OpenAI Playground [23], люди выполнили дополнительную разметку, отметив удачные ответы, которые хотели бы получать от модели. Затем эти данные использовались для ее точной настройки. Это помогло сделать модель InstructGPT более приспособленной к намерениям человека, или, другими словами, более адаптированную (alignment) к предпочтениям человека. Это был первый случай, когда OpenAI изучала вопросы адаптации применительно к своему продукту и объявила, что продолжит двигаться в этом направлении. Они также утверждали, что тонкая настройка языковых моделей с участием в этом процессе человека может стать эффективным инструментом для повышения безопасности и надежности моделей32.

Вскоре после этого OpenAI представила Chat Generative Pretrained Transformer, или более ласково (и известный как) ChatGPT (см. https://openai.com/blog/chatgpt), который был доработан на основе модели GPT‐3.5, содержащей 175 миллиардов обучаемых параметров. Она была обучена на 570 гигабайтах текста, что в 100 раз больше, чем у ее предшественника GPT‐233. Для сравнения, это в 164 129 раз превышает количество слов во всем цикле «Властелин колец», включая «Хоббита»34. OpenAI также предупредила о некоторых ограничениях, в том числе: знания модели были ограничены периодом до начала 2022 года, когда окончилось обучение; она могла писать внешне правдоподобные, но неправильные ответы; она могла предоставлять вредную или предвзятую информацию.

Ранее OpenAI опубликовала жизненный цикл разработки и внедрения их продукта, в котором утверждалось, что ChatGPT «не является панацеей в решении вопросов ответственного использования ИИ», но является очередным шагом в движении компании по построению безопасных и надежных систем35. Для них этот путь только начался. 14 марта 2023 года Open AI выпустила GPT‐4 – крупную мультимодальную модель, которая принимает текстовые и графические данные и выдает текстовые.

Решение OpenAI выпустить ChatGPT подверглось критике со стороны многих, кто считал, что открывать доступ к системе, которая не только несет в себе значительные риски для человека и общества, но и провоцирует гонку ИИ, где компании предпочтут скорость осторожности, – это безрассудно. Однако Сэм Альтман, генеральный директор OpenAI, утверждал, что постепенное распространение технологии по всему миру будет безопаснее, чем разработка за закрытыми дверями, поскольку в первом случае у каждого появится возможность лучше понять связанные с технологией риски и способы управления ими36.

Тем не менее всего через пять дней после запуска ChatGPT набрал миллион пользователей. По данным компании веб-аналитики SimilarWeb, ChatGPT установил рекорд по самому быстрому росту базы пользователей в истории, набрав к январю 2023 года 100 миллионов активных пользователей37. Так появился чат-бот с искусственным интеллектом, нацеленный на то, чтобы изменить привычную жизнь нашего общества.

Предыдущая главаГлава 24 из 135Следующая глава