Споры о безопасности начались с первого дня. Спустя год после создания первой модели GPT Алек Рэдфорд и его команда обучили трансформер с полутора миллиардами параметров на собственноручно собранном датасете WebText. Исследователи OpenAI получили WebText, выкачав 8 миллионов ссылок, набравших минимум три голоса на Reddit, – гениальный способ бесплатно получить качественный контент, отобранный людьми. Получившаяся модель GPT–2 умела писать убедительные эссе, фанфики и даже новостные статьи – достаточно было дать ей правильный промт. Модель даже переводила тексты, хотя ее этому не учили. Это намекало, что технология «угадай следующее слово» начинает проявлять признаки AGI.

В Pioneer Building, где располагался офис OpenAI, направление развития GPT–2 вызвало некоторую панику. Особенно нервничали Дарио Амодеи и Джек Кларк, занимавший пост директора по политике OpenAI. Кларк, говоривший басом и державшийся как настоящий интеллектуал, был поражен: GPT–2 понимала язык несоизмеримо лучше всех предшественников. Его тревожила возможность использовать модель для создания фейков. Годом ранее он и Амодеи выступили соавторами статьи «Злонамеренное использование искусственного интеллекта» вместе с Хелен Тонер, молодым экспертом по Китаю из Open Philanthropy Project. Ведущим автором был Майлз Брандейдж – исследователь из оксфордского Института будущего человечества Ника Бострома (вскоре Майлз перешел на работу в OpenAI). Статья предупреждала: политикам пора задуматься о растущей способности ИИ распространять дезинформацию и причинять иной вред. «Дарио загорелся идеей создать важный прецедент: показать, что исследовательские лаборатории вовсе не обязаны автоматически выкладывать все разработки в открытый доступ», – вспоминает один из тогдашних сотрудников OpenAI. После долгих обсуждений компания решила не выкладывать полный код GPT–2 («из-за опасений относительно злонамеренного применения технологии» – таков был консенсус) и выпустила урезанную версию[299].

Интернет между тем веселился вовсю. «Текстовый генератор на базе ИИ слишком опасен для публикации», – ехидничал Wired[300]. «Основанная Илоном Маском OpenAI создала искусственный интеллект такой мощи, что его приходится держать под замком ради блага человечества», – вопил британский Metro[301]. «Исследователи, напуганные собственным творением, отказываются обнародовать ИИ для создания фейков», – объявила Ars Technica[302]. OpenAI в одночасье превратилась в посмешище. Это было унизительно и обидно. Альтман выступил перед сотней сотрудников лаборатории, поблагодарив их за попытку сделать правильный выбор. Но всем было понятно: это медийный провал.

И все же GPT–2 стала технологическим триумфом, превзойдя все существующие разработки. Обучающий датасет модели в 10 раз превышал объем данных, на которых была обучена предыдущая модель, и в OpenAI горели желанием увеличить масштаб еще на порядок. На совещании по планированию будущей GPT–3, где собралось около десяти руководителей, Брокман – до этого момента полностью погруженный в проект по обучению ИИ играть в Dota 2 – заявил о желании присоединиться к работе над новой моделью GPT. Амодеи, руководивший исследованиями GPT–2, категорически отказал. После непродолжительной перепалки Амодеи разразился гневной тирадой, перечисляя причины своего решения. Главная из них: Рэдфорд, которого Амодеи считал незаменимым для GPT-исследований OpenAI, отказывался работать с Брокманом – тот славился привычкой вторгаться в чужие проекты. Перед совещанием Брокман пять часов уговаривал Рэдфорда обсудить возможность совместной работы. Рэдфорд – приятный в общении интроверт – оказался в тупике. Работать с Брокманом он не хотел, но и сказать ему об этом прямо не мог. Поэтому Рэдфорд поделился своими чувствами с Амодеи, который выложил все начистоту перед Альтманом, Мурати и целым залом топ-менеджеров OpenAI. В итоге Альтман постановил: Брокмана к GPT–3 не подпускать – ради сохранения отношений с Амодеи и Рэдфордом. Остальные руководители были ошарашены влиянием Амодеи и увидели в происходящем начало раскола компании.

Амодеи, защитивший докторскую диссертацию по физике в Принстоне, присоединился к OpenAI в 2016 году (первые предложения компании, сделанные за год до этого, он отклонил). Успев поработать в Baidu и Google Brain, он вскоре превратился в одного из ключевых исследователей OpenAI. Им двигала двойная мотивация: вера в потенциал масштабирования нейросетей и тревога насчет готовности общества к последствиям прорыва. В 2019 году, параллельно с работой над GPT–3 Амодеи с группой коллег опубликовал статью о «законах масштабирования». Исследование доказывало: производительность больших языковых моделей стабильно растет при увеличении объема данных, вычислительной мощности и размера нейросети. Для генерального директора, ищущего инвестиции, это было манной небесной – научное подтверждение того, что вложенные деньги гарантированно расширят границы познания. Альтман назвал это открытие потенциально важнейшим в XXI веке. «Одно дело – знать, что модель улучшается с ростом масштаба, – говорил он. – И совсем другое – знать, что улучшение происходит с такой предсказуемостью. Это было грандиозно, просто грандиозно».

GPT–3 обучали на том, что в OpenAI попросту называли интернетом. Исследователи компании собрали массив данных на основе корпуса объемом более триллиона слов, добытых проектом Common Crawl. За Common Crawl стоял Гил Эльбаз – изобретатель платформы контекстной рекламы AdSense, которую Google купил в 2003 году и сделал фундаментом своего рекламного бизнеса. Раз в месяц Common Crawl запускал ботов-краулеров по всей сети, сохранял собранное в машиночитаемом формате и выкладывал в открытый доступ для исследователей. Большая часть контента была защищена авторским правом – цифровые издатели обычно указывают «Все права защищены» внизу страниц, независимо от наличия пейволла. Но академическое сообщество закрывало глаза на эту практику: все-таки речь шла о некоммерческих исследованиях, да и данные никто не прятал. Логика была простой: если издатели против использования контента, зачем они выкладывают его бесплатно? «Вернемся к Тиму Бернерсу-Ли – когда он придумал Всемирную паутину в 1989 году, его целью было разместить всю информацию в интернете для свободного доступа. Common Crawl – это срез этой информации, – объясняет Рич Скрента, исполнительный директор Common Crawl Foundation. – Common Crawl – основной обучающий датасет почти для всех больших языковых моделей».

При обучении GPT–3 к данным Common Crawl добавили выгрузку «Википедии», обновленную версию корпуса WebText (собранного OpenAI), а также Books1 и Books2 – туманно описанные как «книжные интернет-корпусы»: их происхождение и содержимое остаются загадкой. Позже авторы подали коллективный иск, утверждая: если Books1, скорее всего, взят из Project Gutenberg – коллекции из 60 000 книг с истекшими авторскими правами, то Books2 почти наверняка скачан из «откровенно нелегальных теневых библиотек» вроде Library Genesis, или LibGen, содержащей около 300 000 электронных книг, доступных через BitTorrent[303]. OpenAI отказывается комментировать источник датасета Books2.

Результат – новая модель во всем превзошла предшественницу. Она содержала 175 миллиардов параметров (цифровых аналогов синапсов) – в 100 с лишним раз больше, чем у GPT–2. Колоссальный объем обучающих данных позволил GPT–3 писать убедительные стихи, новостные статьи и даже программный код, хотя ее этому специально не учили. Достаточно было показать несколько примеров желаемого результата – пару строк диалога или фрагмент кода приложения, и модель выдавала целые абзацы или программы. В OpenAI назвали это few-shot learning, то есть обучением на небольшом количестве примеров: модели требовалось всего несколько примеров вместо часов тренировки, необходимых другим системам. «Она демонстрирует способности, считавшиеся невозможными», – заявил Суцкевер в интервью The New York Times[304].

Для Брокмана недопуск к работе над GPT–3 был мучением – ведь этот проект, без преувеличения, олицетворял OpenAI. Брокман любил присылать Альтману скриншоты из приложения RescueTime, показывающие почти 70-часовую рабочую неделю: большую часть времени он проводил кодируя. В ноябре 2019 года он сочетался браком со своей девушкой Анной прямо в офисе OpenAI – церемонию провел Суцкевер, а робот-манипулятор выступил в роли подносчика колец. Декабрь Брокман провел экспериментируя с только что обученной GPT–3 и изучая ее возможности. В итоге он в одиночку написал прототип первого продукта OpenAI.

Изначальным толчком стал банальный фандрайзинг: чтобы оплачивать необходимые вычислительные мощности, OpenAI требовалось показать инвесторам хоть какие-то доказательства того, что люди готовы платить реальные деньги за их разработки. Но исследователей компании не вдохновляла идея создавать практические приложения на основе больших языковых моделей. Они мечтали об AGI. Миллиард долларов вычислительных кредитов от Microsoft закончился бы довольно быстро при работе с такой ресурсоемкой моделью, как GPT–3. OpenAI надеялась, что Microsoft станет партнером в «продуктизации» технологии, но, сколько бы встреч ни проводилось с сотрудниками корпорации, заинтересовать гиганта не удавалось (в итоге Microsoft все же создала продукты на основе GPT–3, но выпустила их только в 2021 году – почти два года спустя).

Тогда OpenAI решила разобраться с продуктом самостоятельно. Руководство начало с мозгового штурма потенциальных областей применения. Здравоохранение? Образование? Машинный перевод? Прямо перед Рождеством Джон Шульман написал в Slack-канал руководства OpenAI: «А что, если просто сделать API?» Речь шла об интерфейсе, позволяющем различным приложениям обмениваться данными. API для GPT–3 открыл бы любому приложению – от медицинского портала до видеоигры – прямой доступ к самой продвинутой модели генерации текста OpenAI. Нет, Шульман не питал особых надежд. На тот момент GPT–3 умела предсказывать следующее слово по заданному шаблону, но еще не понимала инструкций. Было непонятно, кому пригодится такой API и кто будет готов за него платить. Но идеи получше не нашлось ни у кого, поэтому под руководством Мурати решили попробовать.

При всем ажиотаже вокруг больших языковых моделей реальных продуктов на их основе просто не существовало. Это были забавные игрушки и исследовательские проекты, но никто не понимал, для чего они годятся на практике, – не в последнюю очередь из-за их склонности выдумывать факты, известной как галлюцинации. Зато Брокман обожал тихие рождественские дни, когда вычислительный кластер простаивал, никто не дергал его в Slack и можно было полностью сосредоточиться. Ему казалось почти кощунственным, что новейшая языковая модель OpenAI – на тот момент лучшая в мире – пылится без дела. Он засел в своем «логове программиста», и к первым неделям января у OpenAI появился прототип API для GPT–3. Оставалось найти пользователей. Хотя бы одного по-настоящему толкового.

В первые дни Stripe стартап прославился агрессивным методом привлечения пользователей, который Пол Грэм описал в своем эссе. «В YC мы называем это установкой по Коллисонам – в честь метода, которую изобрели братья. Стеснительные стартаперы спрашивают: “Хотите попробовать нашу бету?” – и, если слышат “да”, говорят: “Отлично, вышлем вам ссылку”. Но братья Коллисон ждать не собирались. Стоило кому-то согласиться попробовать Stripe, как они командовали: “Так, давайте ваш ноутбук” – и настраивали все на месте»[305]. Брокман решил применить этот подход в OpenAI. Вместе с Мурати он провел большую часть января и февраля 2020 года – последние недели перед ковидными локдаунами – колеся по Сан-Франциско и упрашивая стартапы протестировать GPT–3. «Что у вас сейчас не работает как надо?» – спрашивали они. Или: «Какие процессы в вашей сфере можно ускорить?» Брокман и Мурати демонстрировали возможности GPT–3 – перевод, ответы на вопросы. Реакция – пустые взгляды.

Брокман решил действовать самостоятельно. В декабре из своего «логова программиста» он написал Нику Уолтону – свежеиспеченному выпускнику факультета компьютерных наук Университета Бригама Янга. Уолтон создал текстовую фэнтези-игру AI Dungeon на базе GPT–2 – изначально как проект для выпускного хакатона. Вдохновившись свободой Dungeons & Dragons, AI Dungeon позволяла игрокам вместе с ИИ создавать истории и исследовать миры, рожденные их воображением. За неделю после запуска в конце 2019 года игра набрала 100 000 пользователей, через шесть недель – уже миллион. Уолтон размещал игру на бесплатном сервисе Google Colab Notebook, но понял, что долго так продолжаться не может. Вместе с братом он собрал деньги и запустил открытый код GPT–2 от OpenAI на арендованных у Amazon серверах с GPU. «Нас вдохновляла возможность создать игры, в которые мы с братом всегда мечтали сыграть, – где ты не ограничен заранее прописанными разработчиком вариантами, а можешь прокладывать собственный путь и делать любой выбор в бесконечном живом мире», – рассказывал Уолтон. Удовольствие оказалось дорогим. Братья открыли Patreon для сбора средств на оплату серверов, и Брокман с женой внесли пожертвование.

В личном сообщении Уолтону Брокман написал: «Думаю, мы могли бы сделать вместе что-нибудь интересное…», спросил, есть ли данные по масштабу (чтобы впечатлить коллег), и пообещал связаться с ним после праздников. В январе он позвонил Уолтону, рассказал о планах создать коммерческий API и спросил, заинтересует ли его тестирование. Учитывая, что Уолтон уже соорудил собственный API для своей игры, вопрос был риторическим. В следующие месяцы AI Dungeon обеспечивала OpenAI ежедневной обратной связью, необходимой для доработки API. Взамен Уолтон получил бесплатный доступ к GPT–3.

Других желающих почти не нашлось. «Мы обошли сотни компаний, и все твердили: “Забавная штука, конечно, но нашу проблему это не решает”», – вспоминает Питер Велиндер, перешедший в OpenAI из Dropbox. В 2012 году он продал файлообменному гиганту свой стартап, использовавший компьютерное зрение для сортировки фотографий. Как один из немногих исследователей OpenAI с опытом работы над массовыми продуктами, он был снят с проекта робота-манипулятора и получил неблагодарную задачу – собрать команду для создания API. Поначалу никто не хотел этим заниматься, а когда пользователей найти не удавалось, небольшая команда рвалась обратно к исследованиям. Но приказ был ясен: OpenAI должна монетизировать GPT. И пока COVID–19 запирал страну на карантин, Брокман, Мурати и Велиндер упорно продолжали работу. «Начни мы двумя месяцами позже, история API сложилась бы совсем иначе», – признался Брокман.

Коронавирус шествовал по планете, а Альтман столкнулся с семейными проблемами. Энни всегда была папиной любимицей – спортивная, эмоциональная, ранимая: после того как ей в лаборатории пришлось убивать мышей, она стала веганкой. После смерти Джерри ее и без того слабое здоровье совсем подкосилось. Врачи нашли у нее кисту яичника и травму ахиллова сухожилия – из-за нее Энни постоянно носила ортопедическую обувь. К середине 2019 года она уже не могла работать в аптеке – там приходилось весь день стоять на ногах. К тому же без машины в Лос-Анджелесе приходилось несладко. Деньги от страховки отца таяли на глазах. И тут пришло уведомление о пенсионном счете Джерри – она была названа основным бенефициаром. Энни была на седьмом небе. Уволилась с работы, решила взять полгода на восстановление здоровья и занятия искусством. Но одна мысль не давала ей покоя: почему ей об этом не сказали? Она попросила у родных завещание отца. В сентябре Сэм связал ее с адвокатом, который и выслал документ. Энни была потрясена – вся семья знала о завещании, кроме нее.

С пенсионным счетом возникла загвоздка. Джерри и Конни формально оставались в браке на момент его смерти, поэтому 40 000 долларов автоматически переходили жене – если только она не подпишет отказ в пользу дочери. «Ты ставишь меня в дурацкое положение – меня сожрут, если я поступлю иначе», – написала Конни дочери. Деньги она так и не перевела.

Энни понадобилось несколько лет, чтобы осознать все последствия отцовского завещания. Согласно документу, имущество должно было перейти в траст и распределяться по принципу наибольшей нужды – в семье Альтман это автоматически означало Энни. По словам ее бывшего адвоката Майка Граса, траст должен был составить около 200 000 долларов. К ним прилагались здание в центре Сент-Луиса и 0,5% в фонде Hydrazine: на бумаге – миллионы. Но семья не оформила траст и не дала Энни доступа к наследству даже спустя шесть лет после смерти Джерри.

А Энни тем временем выживала как могла. «Я продавала мебель и одежду, микрофоны для подкастов и музыки – лишь бы хватило на еду и аренду жилья», – напишет она позже. К декабрю 2019-го ее отчаяние достигло предела – она попросила помощи у семьи. Отказ. Тогда Энни зашла на сайт знакомств SeekingArrangements (ныне Seeking.com), чрезвычайно любимый теми, кто ищет спонсоров и предлагает спонсорство, показала грудь и получила денежный перевод.

В начале 2020 года Сэм приехал в Лос-Анджелес на серию совместных с Энни очных сеансов семейной терапии. «Я сидела в кабинете терапевта – в ортопедической обуви, вся в испарине от гормонального сбоя. Старший брат созвонился с матерью. Женщина, которая меня родила, заявила терапевту: “Для психического здоровья Энни будет лучше, если она наконец-то начнет себя обеспечивать”. Мой брат-мультимиллионер кивнул», – напишет Энни[306].

Терапевт предложила семье Альтман полгода поддерживать Энни финансово. Сэм и Конни согласились. Но через пару месяцев Энни поняла – договоренности не соблюдаются: деньги приходят с опозданием, а за каждый перевод приходится унижаться. В марте, когда грянул коронавирус, Конни написала дочери, что проблема в ней самой – она не выполняет условия соглашения. А условия включали регулярные отчеты ей и Сэму, «обязательное психиатрическое лечение» и активные поиски работы. Конни возмущали статьи расходов Энни – развлечения и поездки на такси: «Как-то не похоже на то, что могут себе позволить безработные». Насчет здоровья – «Мы все вынуждены работать, несмотря на разные болячки». И советы по экономии: «Из риса, фасоли, яиц, сыра и пасты можно готовить вкусно – и уложиться в сотню долларов в неделю». Предложила переехать из дорогого Лос-Анджелеса. «Свободные деньги тебе явно во вред. Поверь, у меня болит душа не меньше, чем у тебя, – я просто хочу, чтобы твоя жизнь наладилась».

Энни решила вернуться на Гавайи – работать на ферме по программе work trade с минимальной нагрузкой. Брат Макс озвучил мнение всех братьев и Конни: «Слушай, мы тут посовещались – в июне расходы оплачиваешь сама». Последней каплей стала просьба Сэма прислать почтовый адрес – он хотел отправить ей бриллиант из праха отца. Об этом Энни позже расскажет New York Magazine[307]. Джерри никогда не просил превращать его в бриллиант, а почтовые ящики на ферме даже не запирались. «К тому же, – пишет она, – самым разумным в той ситуации было бы заложить бриллиант и купить еды. Брат это прекрасно понимал». Она порвала с матерью и братьями[308].

Пока разворачивалась эта драма, Сэм боролся с коронавирусом – «разминкой» перед глобальной пандемией, к которой он и готовился, – единственным известным ему способом: привлекая деньги. «Ученые способны нас вытащить, – писал он в блоге. – Им нужны деньги и связи»[309]. В апреле он выдал ответ на кризис – в стиле Кремниевой долины. Этим ответом стал сайт 1billionmasks.com для оптовых закупок медицинских масок из Китая. В июне Сэм запустил проект по организации клинических испытаний противокоронавирусных препаратов. Работа с биотехом в YC познакомила его с руководителями множества компаний – например, с Джен Нванкво, основательницей 1910 Genetics: ее сотрудники использовали ИИ для разработки лекарств. Альтман вкладывал деньги в эту компанию. Теперь Нванкво применяла ИИ-инструменты для поиска лечения от коронавируса. Попутно Альтман пытался уговорить 1910 Genetics протестировать API GPT–3 (еще не публичный). «Он написал: “Слушайте, мы предлагаем отдельным компаниям закрытый предпросмотр API GPT–3. Хотим понять, как превратить исследовательский проект в коммерческий продукт. Биотех – уникальная сфера, давайте изучим возможности”», – вспоминает Нванкво. В 1910 Genetics попробовали использовать API GPT–3, но «сотрудничество не сложилось по ряду причин».

OpenAI выпустила первый коммерческий продукт – незатейливо названный OpenAI API – 11 июня 2020 года. Блог-пост звучал почти извиняющимся тоном: почему не делаем открытый код (слишком сложно и опасно) и зачем вообще создаем продукт (причина номер один: нужны деньги)[310]. Модель GPT–3, доступ к которой предоставлял API, стала прорывом в этой сфере, но требовала мастерства в написании промтов. Пользователям приходилось показывать несколько примеров желаемых ответов – все равно что бежать рядом с ребенком, который только учится кататься на велосипеде. «Дайте модели несколько вопросов с ответами – и вот она уже в режиме Q&A», – объяснял Брокман журналу Wired[311]. Запуск вышел скромным – на закрытую бета-версию подписались считаные компании, включая Reddit. Но OpenAI нашла новое обоснование для создания продуктов: дело не только в деньгах. Люди должны использовать инструменты, чтобы разработчики поняли, как сделать их безопасными. «Начиналось все с фандрайзинга, но быстро стало ясно – это как недостающая конечность, – говорил Брокман. – Столп нашей миссии, который мы упускали». Звучало убедительно. Но на всякий случай OpenAI ограничилась закрытым бета-тестированием вместо публичного релиза – чтобы исключить злонамеренное использование.

Амодеи и его сторонники в компании – многие были соавторами статьи о законах масштабирования – остались недовольны. Обстановка накалялась. «Сэм и Грег выросли в YC и Stripe с их типичным подходом а-ля Кремниевая долина: “А давайте просто выпустим и масштабируем”», – вспоминает один из тогдашних сотрудников. А вот у Амодеи – с его академической подготовкой – росла одержимость вопросами безопасности. Его команда настаивала: модели нужно выпускать медленнее, с более серьезными ограничениями. Дарио признавался друзьям, что чувствует психологическое давление со стороны Альтмана. А Альтман жаловался коллегам, что эта напряженность заставляет его ненавидеть работу. Команда Амодеи понимала: если уходить, то сейчас. «Мы видим, к чему все идет, – говорил один из сторонников Амодеи. – Если создавать свое, то пора действовать. Из-за законов масштабирования объем необходимых вложений скоро станет запредельным». В 2021 году Амодеи с десятком коллег из OpenAI основал конкурирующую компанию Anthropic. Для Альтмана их уход стал незаживающей раной.

Тем временем исследователи начали осознавать колоссальную мощь больших языковых моделей – их потенциал и связанные с ними опасности. В то время как команда Anthropic покинула OpenAI, в Google разгорался похожий конфликт из-за публикации скандальной статьи Эмили Бендер и Тимнит Гебру «Об опасностях стохастических попугаев: не слишком ли велики языковые модели?» (On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?)[312] Зловещий образ в заголовке – исполинский пернатый – соединяет знаменитый талант попугаев к подражанию со странным словом «стохастический» (от греческого  – «вероятностный», дословно – «умеющий хорошо целиться»). «Стохастический попугай» – метафора, описывающая склонность больших языковых моделей генерировать правдоподобные догадки и имитации вместо осмысленного анализа и подлинной коммуникации.

Статья вскрыла целый букет проблем LLM: модели – такие, как GPT–3, новенький гигант от OpenAI, – росли с чудовищной скоростью и пожирали все больше данных. Среди угроз: гигантский углеродный след из-за потребляемого объема вычислительных мощностей, множество способов, которыми LLM «кодируют предрассудки, потенциально вредные для маргинализированных групп», и «консервация ценностей» (как это назвали Бендер с Гебру) – когда модели, переваривая и воспроизводя существующий контент, «увековечивают устаревшие, менее инклюзивные представления». Говоря об источниках предвзятости, авторы указывали на зависимость GPT–2 и GPT–3 от Reddit и «Википедии». Опрос Исследовательского центра Пью 2016 года показал: американские пользователи Reddit – в основном молодые мужчины 18–29 лет. С «Википедией» похожая история: по недавним опросам, женщины составляют лишь 8,8–15% «википедистов».

Авторы предупреждали и о риске злонамеренного использования LLM. Эволюция приучила нас верить: если слова складываются в понятные предложения, значит, в них есть смысл и достоверная информация. «Злоумышленники» могут эксплуатировать эту особенность, используя LLM для массового производства «внешне связных текстов на заданные темы» – например, для продвижения опасных теорий заговора.

Google заявил, что рецензенты сочли статью слишком «ругательной», и потребовал от авторов отозвать публикацию. Гебру утверждает, что ее уволили; Google настаивает – она ушла сама[313]. Скандал попал в прессу и превратил «стохастического попугая» в самый настоящий мем, а само критическое выражение – в одно из самых цитируемых определений генеративных нейросетей. (Когда OpenAI выпустила ChatGPT год спустя, Альтман не удержался от ехидного твита: «Я стохастический попугай, и ты тоже».)[314] Но, строго говоря, статья проговорила и обосновала те самые страхи, которые за пару лет до этого мучили Амодеи, Брандейджа, Кларка и некоторых других сотрудников OpenAI – из-за них компания и колебалась с публикацией полного кода GPT–2.