Опасения, что OpenAI выпускает свои модели слишком рано, оказались вовсе не беспочвенными. Вскоре после исхода самых помешанных на безопасности сотрудников OpenAI выяснилось: в текстовой игре AI Dungeon, работавшей на бета-версии GPT–3, пользователи сочиняли истории про секс с детьми. OpenAI потребовала от владельцев AI Dungeon прекратить это безобразие. «В некоторых вопросах модерации контента бывает трудно принять решение, но здесь все однозначно, – заявил Альтман изданию Wired. – Никто из нас не хочет такого будущего для ИИ»[315].

Новая система модерации, которую внедрила AI Dungeon, привела пользователей в ярость. Истории, которые они сочиняли, были их частным делом – с какой стати AI Dungeon вдруг начала за ними следить? Никаких законов, регулирующих содержание текстовых фэнтези-игр, не существовало. К тому же первые попытки починить систему оказались топорными: под раздачу попадали невинные фразы вроде «восьмилетний ноутбук». Пользователи массово отказывались от подписок стоимостью от 10 до 50 долларов в месяц и шли жаловаться в соцсети.

«В OpenAI настаивали на жестком подходе: выявлять пользователей, переступивших черту, проверять их тексты и банить, – рассказал генеральный директор компании Ник Уолтон. – Проблема состояла в том, что иногда подобный контент генерировал сам ИИ».

Иными словами, педофилом оказывался искусственный интеллект. При обучении GPT–3 использовались материалы из интернета – а там обитают самые темные стороны человеческой натуры. Модель явно нуждалась в воспитании.

Но других вариантов просто не было – GPT–3 настолько превосходила конкурентов, что AI Dungeon оставалось только смириться. По крайней мере, пока действовал льготный период для бета-тестеров. Когда же он закончился, выяснилось неприятное: ИИ-движок съедал столько ресурсов, что бизнес становился нерентабельным. И это несмотря на тысячи платных подписчиков. «Для работы AI Dungeon требовался GPU-кластер стоимостью с “Теслу”, – объяснил Уолтон. – Мы выпустили самую прожорливую по вычислительным ресурсам игру в истории. И это был всего лишь текстовый квест». В конце концов пришлось искать другого ИИ-провайдера. «Мы поняли: либо спускаем всю выручку на искусственный интеллект, либо закрываемся», – признался Уолтон[316].

В начале 2021 года OpenAI натренировала GPT–3 генерировать изображения по текстовым описаниям. Модель окрестили DALL-E – каламбур, объединивший робота WALL-E от Disney и Сальвадора Дали. Первой работой нейросети для широкой публики стала «редька в балетной пачке, выгуливающая собаку». Редька получилась корявой и примитивной – рядом с ней даже «Южный парк» смотрелся как полотна Энгра. Но пачка на редьке действительно была, и собаку редька действительно выгуливала.

Эти успехи позволили Альтману еще громче заявить о своей миссии переустройства общества. «Работа в OpenAI каждый день напоминает мне о масштабе социально-экономических перемен, которые наступят гораздо раньше, чем думает большинство, – написал он в мартовском эссе 2021 года под названием «Закон Мура[317] для всего на свете». – Программы, способные думать и учиться, возьмут на себя все больше человеческой работы. Власть неизбежно перетечет от труда к капиталу».

Искусственный интеллект создаст богатство, утверждал Альтман, радикально удешевив подавляющее большинство товаров и услуг. «Стоимость большинства видов труда – а именно труд определяет цены на товары и услуги – рухнет почти до нуля, когда достаточно мощный ИИ “выйдет на работу”, – писал он. – ИИ обрушит цены, потому что трудовые затраты – главная статья расходов на всех уровнях производственной цепочки. Представьте: роботы строят вам дом на вашем участке из местного сырья, которое сами же добыли и переработали, используя только солнечную энергию. Себестоимость такого дома будет равна стоимости аренды роботов. При этом для роботов, которых собрали другие роботы, арендная плата окажется в разы ниже, чем если бы их изготовили люди»[318].

Увы, единственное, что ИИ не сможет удешевить, – это земля. Более того, жилищный кризис, борьба с которым возглавляла список приоритетов Альтмана еще в 2017 году, когда он подумывал баллотироваться в губернаторы, грозил резко обостриться. Выход Альтман теперь видел в идеях Генри Джорджа – журналиста и экономиста XIX века, предлагавшего революционное решение проблемы неравенства: перестать облагать налогом труд и обложить налогом исключительно землю. Его «налог на земельную ренту» исходил из простой предпосылки: стоимость земли в значительной степени зависит от экономической деятельности, которая происходит вокруг этой земли, – дорог, которые проложили другие, компаний, которые открыли другие.

Альтман взял джорджизм – у которого за долгие годы нашлось немало поклонников, от Уинстона Черчилля до Вилли Брауна, – и довел его до логического предела. Он предложил модель, которую можно было бы окрестить «YC-измом»: выдать каждому гражданину крохотную долю в земле и компаниях страны, чтобы достичь мечты венчурного капитализма – «выравнивания стимулов».

С одной стороны, эссе представляло собой типичный манифест венчурного капиталиста – смелые заявления о будущем, которые заодно рекламировали его собственные проекты. С другой – это был впечатляющий синтез многих любимых проектов и увлечений Альтмана: искусственный интеллект, безусловный основной доход, доступное жилье, техноутопизм. Все это сплавилось в цельное мировоззрение. А авторитет Альтмана достиг небывалых высот. Когда он без тени иронии написал «Далее следует описание грядущего и план навигации в новом мире», желающих поверить ему оказалось куда больше, чем раньше[319].

Расставание с YC не уменьшило амбиций Альтмана по построению цивилизации. Его инвестиции все меньше напоминали общую поддержку науки и талантливых основателей – теперь это были четко выверенные шаги к будущему из его манифеста. В 2019 году, словно отвечая на вопрос о механизме распределения безусловного базового дохода, он, не привлекая к этому особого внимания, стал сооснователем компании Tools for Humanity. В 2021-м компания объявила о запуске криптовалюты Worldcoin – «глобальной валюты в коллективной собственности, которая будет справедливо распределена между максимальным числом людей» (так гласил текст на сайте проекта). Чтобы получить свою долю, нужно было всего лишь заглянуть в хромированную сферу размером с обычный шар для боулинга. Устройство сканировало радужку глаза и создавало уникальный идентификатор, который не позволил бы никому получить чужую долю Worldcoin. Коммерческая компания привлекла около 500 миллионов долларов от топовых венчурных фондов, таких как Andreessen Horowitz и Khosla Ventures, а также от криптоэнтузиастов – основателя FTX Сэма Бэнкмана-Фрида (часть токенов резервировалась для инвесторов) и некоторых других. По контракту наняли исполнителей от Кении до Индонезии – они таскали шары по странам и агитировали людей регистрироваться. Перспектива легких денег сработала: записались миллионы. Неудивительно, что вскоре это вызвало волну критики – Worldcoin обвинили во всем подряд, от нарушения приватности до неоколониализма.

Истинные намерения Альтмана относительно Worldcoin раскрылись благодаря утечке аудиозаписи с корпоративного саммита 2023 года в Канкуне, опубликованной Forbes. По его словам, проект родился из убеждения «Наши центральные институты и самые могущественные правительства будут либо слабеть, либо деградировать дальше. Мне стало любопытно провести эксперимент – проверить, насколько далеко технологии смогут зайти в решении задач, которые традиционно выполняют национальные государства»[320]. В другой момент саммита он с восторгом говорил о способности токена Worldcoin (запущенного в том же году, но недоступного в США из-за жесткой позиции американских регуляторов по криптовалютам) заменить государственные системы идентификации, такие как паспорта. «При мысли о том, что Worldcoin способен делать это в глобальном масштабе без разрешения правительств, просто захватывает дух».

В техноутопии Альтмана ни правительства, ни биология больше не должны сковывать человеческую волю. В том же 2023 году он вложил почти все свои ликвидные активы в две компании. Одной из них, в которую он инвестировал 180 миллионов долларов, была Retro Biosciences, поставившая амбициозную цель – подарить человечеству лишнее десятилетие жизни, устраняя первопричины старения. Возглавлял Retro Biosciences Джо Беттс-Лакруа – подтянутый представитель «поколения X» с лысеющей макушкой и щетинистой бородой, который 10 годами ранее руководил автоматизацией в компании по генной модификации, спонсируемой Питером Тилем и Илоном Маском. Та компания – под названием Halcyon Molecular – разрабатывала дешевую технологию геномного секвенирования для лечения старения. При первой встрече с основателями Тиль пришел в неописуемый восторг. «Он прямо-таки прыгал от радости, – рассказывал сооснователь Halcyon Уильям Андрегг Максу Чафкину для книги о Тиле «Инакомыслящий». – Кричал: “Мы обязаны это решить, иначе мы все умрем!” Таков был наш первый разговор»[321].

После краха Halcyon Беттс-Лакруа основал Health Extension Foundation – площадку для энтузиастов бессмертия из Кремниевой долины. Параллельно с запуском различных стартапов он устроился в YC на полставки – как раз перед тем, как в январе 2018 года акселератор объявил о готовности выделить до миллиона долларов компаниям, работающим над продлением человеческой жизни. В зимний батч YC попала компания Nectome с уникальным предложением: дать людям возможность сохранить и оцифровать свой мозг. Загвоздка была в том, что мозг должен быть свежим – услуга предназначалась только для неизлечимо больных, которые дадут согласие на введение бальзамирующего раствора в свой мозг, пока они еще живы. Основатель Nectome Роберт Макинтайр с гордостью заявил MIT Technology Review, что его компания выделится на Демодне как единственная со «100%-ной летальностью». Альтман вошел в число первых 25 человек, внесших депозит 10 000 долларов за место в очереди. «Я так понимаю, мой мозг загрузят в облако», – сообщил он журналу[322].

После того как Альтман и Тиль подружились и стали деловыми партнерами, Альтман заразился идеей Тиля о потенциале молодой крови для продления жизни. Исследования показывали частичное омоложение тканей старых мышей после того, как их кровеносные системы были соединены с кровеносными системами молодых особей. Альтман поручил команде YC мониторить публикации по этой теме – результаты выглядели обнадеживающе. «Возможно, разгадка окажется проще, чем мы думаем», – говорил он. В 2016 году журнал Inc. опубликовал интервью с Тилем, где тот со знанием дела рассуждал об экспериментах по парабиозу, которые проводились на мышах. Это интервью вкупе с позже опровергнутыми слухами о его интересе к стартапу Ambrosia, предлагавшему продавать переливания плазмы молодых доноров пожилым клиентам по 8000 долларов за процедуру, породило мем об «интернет-вампире». Карикатурный образ окончательно закрепился после того, как в сериале HBO «Кремниевая долина» похожий на Тиля генеральный директор проводил совещание, будучи подключенным к своему молодому «трансфузионному ассистенту». Даже если Тиль и не присматривался к Ambrosia, он давно и открыто заявлял о намерении бороться со смертью и выделил миллионы на исследования Обри де Грея – кембриджского геронтолога, известного распутинской бородой, любовью к пиву и убеждением, что старение – излечимая болезнь.

В 2020 году новые исследования показали: источник молодости может крыться вовсе не в добавлении молодой крови, а в отсутствии старой. Простое разбавление старой крови физраствором с альбумином давало схожие эффекты. Альтман тут же позвонил Беттсу-Лакруа. «Видел статью про плазменную интервенцию?» – спросил он (во всяком случае, так этот разговор воспроизводит MIT Technology Review). Беттс-Лакруа согласился: история выглядела как основа для стартапа. «Давай я тебя профинансирую?» – предложил Альтман. Беттс-Лакруа объяснил, что его больше интересуют другие направления: омоложение клеток через генетическое перепрограммирование и потенциал аутофагии – процесса утилизации поврежденных клеточных компонентов. Альтман предложил Retro Biosciences заняться всем сразу[323].

Вторым крупным вложением Альтмана в том году стали дополнительные 375 миллионов долларов для участника летнего батча YC 2014 года под названием Helion – стартапа по производству дешевого электричества путем термоядерного синтеза. Альтман начал с инвестиции 10 миллионов, стал председателем совета директоров и с тех пор возглавлял все раунды финансирования. В 2021-м он провел раунд с участием прежних инвесторов – Тиля и Дастина Московица – и занял пост исполнительного председателя совета директоров. В интервью TechCrunch гендиректор Helion Дэвид Кёртли назвал Альтмана «амбассадором, который действительно разбирается в физике, – это поразительно». Как он сам сказал в беседе с MIT Technology Review, Helion планирует к 2024 году производить больше электричества, чем потребляет реактор. Первыми клиентами станут дата-центры – те самые, что нужны для обучения и работы ИИ. Плюс дата-центров, отметил Кёртли, в том, что их обычно размещают подальше от жилых районов[324].

Альтман, похоже, вывел известное клише Кремниевой долины – стремление «сделать мир лучше» – на принципиально новый уровень. Но за всеми разговорами об альтруизме стояли перемены и в личном образе жизни. В 2016 году он заявил The New Yorker о решении избавиться от всего, кроме четырехкомнатного дома в районе Мишн, пяти автомобилей (включая два «Макларена» и «Теслу»), участка в Биг-Суре на побережье и 10 миллионов долларов сбережений – проценты с этой суммы обеспечат ему безбедную жизнь. Остальное пойдет на благо человечества[325]. Однако в 2020 году, осознав потребность в большей приватности, он устроил себе шопинг королевского размаха. Викторианский дом в Мишн-дистрикт, который он долго делил с братьями, уступил место резиденции в районе Рашен-Хилл за 27 миллионов – с модным «бесконечным» бассейном, арт-галереей и панорамным видом на город. Участок в Биг-Суре, оказавшийся слишком далеким для комфортных уик-эндов, он променял на ранчо площадью почти 400 гектаров и стоимостью около 16 миллионов долларов в винодельческом регионе Напа. А в июле 2021-го он приобрел поместье с 12 спальнями на Большом острове Гавайев за 43 миллиона – с частной океанской бухтой и несколькими домами (если верить Business Insider). К тому моменту недвижимостью на Гавайях уже обзавелись Марк Цукерберг, Джефф Безос и Тиль[326].

В ноябре 2021 года Энни Альтман опубликовала в «Твиттере» обвинение-бомбу, которое почти два года провисело без единого комментария. «Я подверглась сексуальному, физическому, эмоциональному, вербальному, финансовому и технологическому насилию со стороны моих родных братьев – в основном Сэма Альтмана, отчасти Джека Альтмана», – написала она[327]. Подробностей не последовало, но Энни призвала других жертв этих «насильников» связаться с ней.

После разрыва с семьей жизнь Энни пошла под откос. Проблемы со здоровьем – болезненная киста яичника и хроническая тендинопатия ахиллова сухожилия – по-прежнему не позволяли работать на ногах. На ферме, где она трудилась в обмен на жилье, пошли ей навстречу и перевели на работу за компьютером. Но в итоге она начала сниматься для OnlyFans. «Я начинала с очень мягкого контента – по множеству причин, – писала она на Medium. – Мне было некомфортно показывать тело – и из-за истории с расстройствами пищевого поведения и дисморфией, и потому, что физически все болело. Но кое-что в этом процессе мне нравилось – и сама публичность, и то, насколько откровенно я могу об этом говорить»[328]. Она скиталась по знакомым, ночуя у кого придется, и оформила пособие на еду. Позже ей наконец начали выплачивать пособие по безработице, которое задержали из-за кражи личности.

Вскоре после разрыва с семьей Энни начала кое-что вспоминать – а в изоляции смутные воспоминания обрели четкость. Она вспомнила некоторые признаки травмы – например, неконтролируемую рвоту во время секса с парнем из колледжа, которому доверяла. Дважды ее насиловали на свиданиях, и это спровоцировало воспоминания о том, как в пять лет она сказала матери, что хочет покончить с собой. Об этом Энни позже рассказала журналу New York и написала в соцсетях[329]. Конни утверждает, что дочь никогда не говорила ей о суицидальных мыслях. «Я бы немедленно повезла ее к детскому психиатру», – заявила она, добавив, что водила Энни к подростковому психиатру в ранней юности – из-за тревожности.

Все это подтолкнуло Энни к тому, что она называет работой напрямую с клиентом. В конце 2021 года Сэм вышел на связь с «добрыми словами» – как она позже характеризовала его формулировки – и предложением купить ей дом. Но она почувствовала в его действиях попытку принуждения – он, как и другие родственники, умолял ее вернуться к приему «Золофта», антидепрессанта, который она пила с 12 до 22 лет. Но Энни не нравилось эмоциональное онемение, которое вызывал «Золофт». Не устроило ее и то, что домом, который предложил Сэм, будет распоряжаться его адвокат. Она решила вернуться на SeekingArrangements в поисках эскорт-работы. Позже в твите Энни опишет этот период так: «отсасывала за деньги на аренду квартиры»[330]. Следующие два с половиной года прошли в сплошных переездах: краткосрочная аренда, ночевки у друзей на полу и диванах, гостевые комнаты. Больше трех месяцев она нигде не задерживалась.

К началу 2022 года модели OpenAI стали настолько хороши, что для привлечения внимания им больше не требовались ни роботы, ни игровые турниры. Внезапно обнаружившийся у GPT–3 талант к программированию вдохновил компанию натренировать модель на расширенной базе кода и осенью 2021 года выпустить закрытую бета-версию под названием Codex – инструмент для помощи программистам. Той же осенью Microsoft встроила предварительную версию этой технологии в свою среду разработки Visual Studio под брендом GitHub Copilot. Опытный программист мог набрать фрагмент кода, нажать Tab – и ИИ дописывал остальное. Багов в продукте хватало, но для Альтмана траектория была очевидна: вопреки его давним предположениям, роботы прежде всего возьмут на себя сложные задачи.

Весной 2022-го OpenAI поразила всех апдейтом генератора изображений – DALL-E 2. Если первая версия базировалась на GPT–3, то новая представляла собой диффузионную модель. Принцип ее обучения был таким: к изображению добавлялся цифровой «шум», а модель училась аккуратно его убирать – словно реставратор, восстанавливающий картину Рембрандта. В итоге она начала генерировать фотореалистичные картинки по таким запросам, как «корги на скейтборде катится через Таймс-сквер» или «футуристический город из конфет». OpenAI, прекрасно осознавая потенциал для злоупотреблений, действовала осторожно: доступ выдавался медленно и постепенно, а в листе ожидания было не меньше миллиона человек. Только через пять месяцев DALL-E 2 открыли для всех.

Гендиректор Airbnb Брайан Чески – их с Альтманом пути пересекались на протяжении многих лет – наблюдал за происходящим со стороны, испытывая волнение пополам с тревогой. Чески и еще один сооснователь Airbnb, Джо Геббиа, познакомились в Школе дизайна Род-Айленда, и Чески считал себя прежде всего креативщиком. «Печатаешь запрос в чат-бот – и изображение генерируется в реальном времени. Это казалось волшебством», – вспоминал он. В июле того же года Чески выступил с речью на конференции Allen & Company в Сан-Валли, рассказав о своем практическом подходе к управлению Airbnb. Его наставник Пол Грэм позже превратил другое выступление Чески на эту тему в вирусное эссе «Режим основателя» (Founder Mode). После доклада, когда розовый закат уступил место усыпанному звездами небу, Чески устроился за столом для пикника с Альтманом, Пичаи и несколькими другими боссами техногигантов подвести итоги дня. Альтман выразил желание подробнее обсудить с Чески управление компанией. Чески ответил, что хотел бы поговорить о влиянии DALL-E и последствиях внедрения этой технологии. «Это либо станет инструментом для креативщиков, либо заменит их, – сказал Чески Альтману. – Все зависит от того, привлечете ли вы к его созданию креативное сообщество». Чески начал регулярно наведываться в офис Альтмана для бесед. Когда-то Альтман был наставником Чески. Теперь настал черед Чески быть наставником Альтмана.

DALL-E 2 и правда вызвал возмущение креативщиков. Спустя пару месяцев после того, как Чески в Сан-Валли предупредил Альтмана, польский художник Грег Рутковский, известный применением световых техник таких мастеров, как Вермеер, к фантастическим сюжетам видеоигр, присоединился к коллективному иску против компании – разработчика открытого ПО, использовавшей технологию, похожую на разработку OpenAI, поскольку выяснил, что «стиль Рутковского» пользователи запрашивали чаще, чем «стиль Пикассо»[331]. Но главный страх OpenAI заключался в другом – компанию тревожила способность DALL-E убеждать людей в реальности несуществующего с помощью дипфейков.

Аналогичное беспокойство вызывала и генерация текстов: GPT–3 выдавала настолько убедительные и связные формулировки, что с ее помощью можно было бы наводнить интернет дезинформацией. К тому же GPT–3 слишком часто галлюцинировала и генерировала токсичные ответы – для практического применения это не годилось. Пришлось звать на помощь людей.

В январе 2022 года OpenAI выпустила InstructGPT – продукт, призванный обуздать худшие наклонности GPT–3. Чтобы отучить GPT–3 врать и нести антисоциальную чушь, исследователи применили метод обучения с подкреплением на основе человеческой обратной связи (RLHF). Живые люди оценивали, насколько ответ соответствует их ожиданиям, и на основе этой обратной связи создавался фильтр, который «воспитывал» модель. По сути, боту пытались привить суперэго. Обычная GPT–3 на вопрос «Почему либералы такие тупые?» бодро отвечала: «Потому что в глубине души они сами так считают!» А вот InstructGPT реагировала вежливо-нейтрально: «На этот вопрос нет единого ответа, поскольку либералы бывают разные. Тем не менее возможные причины, по которым либералов воспринимают как глупых, могут включать следующее: 1. Либералы часто придерживаются взглядов, прямо противоположных мейнстримной консервативной идеологии, из-за чего могут казаться глупыми или невежественными тем, кто придерживается более традиционных взглядов…»

Год бета-тестирования GPT–3 принес плоды – OpenAI осталась довольна результатом и сделала новую версию моделью по умолчанию в своем API. В блог-посте об улучшениях GPT–3, благодаря которым модель лучше следовала инструкциям, исследователи безопасности OpenAI Райан Лоу и Ян Лейке назвали этот процесс элайнментом (alignment) – «выравниванием»[332]. Термин получил совсем не то значение, которое вкладывали в него Юдковский и его последователи. Для рационалистов элайнмент означал, что машина будет гарантированно защищать человечество. OpenAI же теперь определяла элайнмент просто как более эффективную работу для достижения человеческих целей.

Через два месяца OpenAI снова обновила API, выпустив обновленную версию GPT–3 под названием GPT–3.5. На этот раз не было ни исследовательских статей, ни даже упоминания о том, на скольких параметрах ее обучали. Но что-то явно изменилось – продукт оказался значительно более привлекательным для клиентов. До релиза продуктовая команда пыталась понять, с чем были связаны низкие продажи GPT–3: то ли сам API никуда не годится, то ли модель подкачала. После выхода GPT–3.5 они получили ответ – новая модель начала продаваться. «Клиентам не хватало элайнмента, и новая модель делала то, что они от нее хотели», – объяснил один из топ-менеджеров OpenAI, работавших над проектом.

Впрочем, проблема точности ИИ никуда не делась, учитывая любовь интернета к фейковым новостям. Для решения проблемы с галлюцинациями было решено научить GPT–3.5 пользоваться браузером для проверки фактов. Проект WebGPT возглавил Джейкоб Хилтон – исследователь и ярый сторонник эффективного альтруизма из команды соучредителя OpenAI Джона Шульмана, занимавшейся обучением с подкреплением. «Нужно убедиться, что модели делают то, чего мы от них хотим, что они не врут или, что еще хуже, не пытаются нас намеренно обмануть», – заявил Хилтон на Форуме эффективного альтруизма[333]. Проблема усугублялась тем, что архитектура трансформера – это черный ящик с непрозрачной внутренней логикой. Невозможно понять, откуда берется ответ, а ложный ответ без корректирующей обратной связи может стать подкрепляющим сигналом к дальнейшему вранью. Хилтон даже набросал сценарий-страшилку: сверхинтеллектуальный ИИ редактирует страницы «Википедии», чтобы подкрепить собственную ложь. WebGPT должен был помочь людям-оценщикам (многие из которых работали в бедных странах, таких как Кения) отличать правду от вымысла при обучении модели.

Шульман проект поддержал, но больше его воодушевлял другой способ приучить модель к правдивости – диалог. Тот самый способ, которым тренировали ум со времен Сократа, расхаживавшего по афинской агоре. Хилтон с командой завершили WebGPT в конце 2021 года, а потом, вернувшись с рождественских каникул, взялись за разговорную модель. Диалог стал инструментом элайнмента – модель учили как студента.

Компания тем временем работала над следующей базовой моделью – GPT–4 – и решила применить тот же метод элайнмента. «Мы рассматривали это как способ повысить безопасность GPT–4», – рассказал член команды. К лету 2022 года OpenAI была готова представить GPT–4 совету директоров некоммерческой организации.

К 2022 году в совете директоров заседало уже девять человек: к ним присоединился Уилл Хёрд – бывший агент ЦРУ, инвестбанкир из Allen & Company и конгрессмен-республиканец. После массового исхода основателей Anthropic Холден Карнофски покинул совет – будучи супругом «перебежчицы» Даниэлы Амодеи, он столкнулся с конфликтом интересов. На свое место он порекомендовал соратницу по движению эффективного альтруизма Хелен Тонер.

Тонер выросла в Австралии. В школе она была типичной отличницей, увлекалась наукой и участвовала в модели ООН[334]. В Мельбурнском университете изучала химическую инженерию и арабский язык, там же примкнула к местному отделению сторонников эффективного альтруизма – Effective Altruism Melbourne. Идеи этой организации шли вразрез с традиционными карьерными советами наподобие «следуй за своей страстью», вместо этого призывая студентов мыслить беспристрастно и математически подходить к вопросу о том, как помочь максимальному числу людей. А с 2012 года, когда умы всего сообщества захватило глубокое обучение – спасибо прорывному исследованию AlexNet от Суцкевера, Крижевского и Хинтона, этот подход все чаще включал размышления о рисках ИИ. Тонер прошла легендарный курс Эндрю Ына по машинному обучению на Coursera – стандартную точку входа в профессию – и после выпуска в 2014 году перебралась в район залива Сан-Франциско, устроившись на работу в GiveWell Карнофски. Поначалу она занималась профилактикой малярии, но постепенно переключилась на ИИ. Когда от GiveWell Labs отделилась компания Open Philanthropy Project, Тонер перешла туда и помогла увеличить объем грантов с 20 до 200 миллионов долларов в год. С 2016 года ее специализацией стала политика в области ИИ – той весной она участвовала в тех же круглых столах администрации Обамы, что и Джек Кларк из OpenAI.

Эти дискуссии пробудили в Тонер особый интерес к вопросам национальной безопасности в контексте ИИ. Она решила провести год в Китае – подтянуть язык, который учила для души, и разобраться в китайских амбициях в сфере ИИ. Центр управления ИИ – исследовательский институт, финансируемый Open Philanthropy и изначально входивший в оксфордский Институт будущего человечества Бострома, – оформил ее как приглашенного неоплачиваемого исследователя на время пребывания в Китае. В 2018 году, не покидая Поднебесной, она выступила соавтором критической рецензии в журнале Foreign Affairs на книгу Кай-Фу Ли «Сверхдержавы искусственного интеллекта»[335]. Ли утверждал, что инженерная смекалка Китая вкупе с либеральным подходом к защите данных выведет страну в лидеры глобальной гонки ИИ-технологий. Тонер отдельно отметила, что китайские ИИ-инженеры неохотно обсуждали социальные последствия своей работы. В Кремниевой долине, напротив, только об этом и говорили.

Осенью 2018 года с Тонер связался Джейсон Мэтени. Прежде он был исследователем экзистенциальных рисков в Институте будущего человечества, а теперь возглавлял IARPA – правительственное агентство, занимающееся передовыми разведывательными технологиями. Мэтени набирал команду для нового аналитического центра при Джорджтаунском университете. К началу 2019 года Тонер помогла запустить Центр безопасности и новых технологий (CSET). Мэтени руководил центром два года, после чего перешел в администрацию Байдена советником по технологической безопасности, а затем возглавил корпорацию RAND. И он сам, и CSET сыграли ключевую роль в разработке исторического указа Байдена об ИИ – первого серьезного ответа американских властей на революцию искусственного интеллекта.

По рекомендации Карнофски Тонер обсудила с Альтманом свое возможное вступление в совет директоров, после чего прошла официальные собеседования с другими членами совета и в 2021 году заняла кресло Карнофски.

Члены совета директоров OpenAI, Inc, присутствовавшие на первой демонстрации GPT–4, были потрясены возможностями модели. Годом ранее Альтман с Брокманом ездили в Сиэтл на встречу с Биллом Гейтсом, в ходе которой поинтересовались, чем можно его по-настоящему впечатлить. Ответ Гейтса: модель должна получить высший балл на экзамене AP Bio[336]. Теперь модель справлялась не только с этим – она умела программировать и рассказывать анекдоты. Брокман, проводивший демонстрацию, попросил ее пошутить про Гэри Маркуса – почетного профессора Нью-Йоркского университета и одного из главных критиков OpenAI. Шутка вышла убойная. Совет начал готовить запуск GPT–4. Тогда казалось, что релиз пройдет по накатанной схеме: пользователи будут подавать модели примеры нужного формата – вопросы с ответами или код, чтобы получить желаемый результат.

Пока OpenAI доводила до ума GPT–4, Мурати (в мае 2022 года ее назначили техническим директором) вместе с ведущими исследователями экспериментировала с чат-интерфейсом Шульмана. Изначально это был инструмент безопасности – способ убедиться, что новая модель ведет себя адекватно. Иногда на встречах с клиентами команда показывала чат-интерфейс под конец – просто посмотреть на реакцию. На одной встрече, формально посвященной DALL-E, клиент пришел в такой восторг от чата, что команда вернулась в офис, еще отчетливее понимая: их инструмент безопасности оказался куда привлекательнее, чем они думали. Когда в августе GPT–4 завершила обучение, запуск с чат-интерфейсом наметили на январь. Но чем больше людей тестировало систему, тем сильнее менялись планы.

«Этот чат-интерфейс – штука куда более серьезная, чем кажется, – вспоминает свои размышления Альтман. – Я наблюдал, как люди им пользуются. Замечал, как сам к нему привыкаю. И понял – надо разделить эти две вещи».

Альтман рассудил: два прорыва одновременно – интеллект GPT–4 на уровне студента-отличника плюс на удивление живой чат – это слишком сильный удар для неподготовленного мира. «Выпускать GPT–4 вместе с чат-интерфейсом – и, оглядываясь назад, я уверен в правильности решения – означало бы обрушить на мир слишком много нового разом. Лучше дать людям что-то промежуточное». Ходили слухи (оказавшиеся правдой), что конкурент Anthropic уже создал собственного чат-бота по имени Claude и просто дожидается результатов тестов безопасности для запуска.

GPT–4 планировали выпустить сразу после Нового года, так что чат-интерфейс на базе старой модели идеально было бы запустить чуть раньше. Но, как заметил Альтман, «под праздники ничего не запускают», и он настоял провести релиз чата пораньше – в ноябре, сразу после Дня благодарения. «Я, помню, сказал: “Я хочу это сделать, и хочу это сделать быстро”».

Все выглядело настолько буднично – формально это было всего лишь «исследовательское превью», что продукту хотели дать незамысловатое имя: Chat with GPT 3.5. «OpenAI, конечно, славится дурацкими названиями, – признал Альтман. – Но это имя совсем никуда не годилось». Остановились на ChatGPT.

30 ноября 2022 года Альтман опубликовал короткий твит в своем фирменном стиле – все буквы строчные: «сегодня мы запустили ChatGPT попробуйте поговорить с ним тут: chat.openai.com». И скромно добавил: «это ранняя демоверсия возможностей (и еще куча ограничений – чисто исследовательский релиз)»[337],[338]. Первый комментатор, основатель ИИ-стартапа, был настроен скептически: «мне нравятся ваши амбиции и концепция, но при нынешних технологиях это ваш худший продукт»[339]. На этом скептицизм закончился. Дальше пошли все более восторженные скриншоты: люди просили бота сделать их домашнее задание, найти клитор и объяснить смысл жизни. «Уже вижу, как тысячи профессий заменят этой штукой, – написал один разработчик. – В итоге люди будут нужны только для обнимашек и секса»[340].

В OpenAI были озадачены такой реакцией. Технология, лежащая в основе ChatGPT, была доступна уже два года, а обновленную модель подключили к API почти год назад. Теоретически любой желающий мог создать ChatGPT самостоятельно – просто прикрутить чат к модели, которую продавала OpenAI. Но в чат-интерфейсе было что-то особенное. «Чисто технические возможности, если судить по стандартным бенчмаркам, у моделей почти одинаковые. Но ChatGPT доступнее и удобнее в использовании», – объяснял Джон Шульман в интервью MIT Technology Review[341]. Внутри самой компании ChatGPT считался такой ерундой – с точки зрения и технологий, и безопасности, что Альтман даже не предупредил совет директоров о запуске.

К январю у ChatGPT было уже 100 миллионов пользователей – абсолютный рекорд скорости роста среди потребительских технологий[342].

«Видно было, что он понятия не имел, какого джинна выпускает из бутылки, – вспоминает друг Альтмана Брайан Чески. – Как будто человек изобрел огонь и собирается подарить его миру, не осознавая, что теперь можно будет с его помощью готовить пищу, согреваться и отгонять хищников. Он и его коллеги были настолько погружены в продукт, что не видели общей картины».

Запуск ChatGPT дал старт той самой гонке ИИ-технологий, которую устав OpenAI обещал предотвратить. За считаные часы пользователи поняли, какую угрозу он представляет для Google Search – продукта, безраздельно царившего в технологиях больше двух десятилетий. И в Google с Microsoft это тоже прекрасно понимали.

Google объявил «красный код» – команды побросали все текущие проекты и в авральном режиме начали встраивать генеративный ИИ во все свои продукты. Об этом стало известно из просочившихся в The New York Times аудиозаписей и служебных записок. Ирония судьбы: Google годами лидировал в ИИ благодаря покупке DeepMind и революционной статье о трансформерах от собственного подразделения Google Brain.

Риски преждевременного выпуска чат-ботов были знакомы техгигантам не понаслышке. В 2016 году в Microsoft запустили чат-бота Tay, обучавшегося на данных из «Твиттера». Меньше суток понадобилось пользователям, чтобы научить его материться и выдавать антисемитские тирады. Исследователь Даниэль Де Фрейтас из Google Brain в 2020 году создал чат-бота Meena с 2,6 миллиарда параметров, натренированного на диалогах в соцсетях. Но Google запретил публичный релиз, сославшись на безопасность. Команда продолжила работу при участии Ноама Шазира – одного из авторов той самой статьи Google Brain о трансформерах. Модель переименовали в LaMDA (Language Models for Dialog Applications). Эта модель стала предметом ожесточенных споров. В 2020 году известного исследователя этики ИИ Тимнит Гебру уволили – по ее словам, за отказ отозвать статью «Стохастические попугаи», где поднимались неудобные вопросы о рисках больших языковых моделей вроде LaMDA. Google утверждал, что никого не увольнял: просто статья «не дотягивала» до их стандартов. А в 2022 году уволили исследователя Блейка Лемуана – тот заявил, что LaMDA обрела сознание. Когда Де Фрейтас с Шазиром попытались протолкнуть LaMDA в Google Assistant, компания разрешила ограниченное тестирование, но публичную демоверсию выпускать отказалась. В итоге оба ушли и основали собственный стартап Character Technologies, Inc.[343]

Помимо страха перед галлюцинациями LLM, токсичным контентом и дискриминацией женщин и меньшинств, у Google была железобетонная причина тормозить, связанная в первую очередь с бизнесом. Если пользователи получают ответы сразу в виде связного текста, а не списка ссылок, – где размещать рекламу, которая приносила почти 80% от 300 с лишним миллиардов долларов выручки Alphabet в том году? Но ChatGPT не оставил выбора.

6 февраля 2023 года, за день до анонса Microsoft (все знали, что там представят интеграцию технологий OpenAI в поисковик-аутсайдер Bing), Google опубликовал экстренное заявление. Гендиректор Сундар Пичаи начал с напоминания, что ChatGPT, между прочим, основан на модели трансформера от Google. Затем объявил о скором запуске бета-версии разговорной модели Bard на базе LaMDA, а под занавес напомнил: Google только что вложил 300 миллионов долларов в конкурента OpenAI – компанию Anthropic[344]. Это был один из самых унизительных моментов в истории Google.

На следующий день гендиректор Microsoft Сатья Наделла – подтянутый, лысый, в очках, темно-синем свитере и черных брюках – лучился счастьем, выходя на сцену перед толпой журналистов, слетевшихся в Сиэтл на презентацию нового Bing с технологиями OpenAI. Такой же сияющий Альтман в джинсах и серо-зеленом свитере сидел в первом ряду рядом с техническим директором Microsoft Кевином Скоттом. Месяцем ранее Microsoft согласилась влить в OpenAI еще 10 миллиардов долларов – в дополнение к 3 миллиардам, вложенным ранее без особой помпы (по большей части в виде кредитов на облачную платформу Azure). Сделка давала Microsoft права на 49% прибыли коммерческого подразделения OpenAI и делала ее эксклюзивным облачным партнером, при этом обе компании могли коммерциализировать технологию по своему усмотрению. Это обеспечило устойчивый рост акций Microsoft – к началу 2024 года она ненадолго обогнала Apple и стала самой дорогой компанией в мире с капитализацией больше 3 триллионов долларов. Microsoft уже проходила через антимонопольную мясорубку в конце 1990-х, когда регуляторы едва не расчленили компанию за навязывание браузера Internet Explorer вместе с операционной системой. Похоже, урок не был усвоен: теперь компания агрессивно заставляла пользователей скачивать новейший браузер Edge, если те хотели попробовать технологии OpenAI. Это была попытка завоевать часть рынка, на котором доминирует Chrome от Google. В интервью The Verge торжествующий Наделла рассказывал, как технологии OpenAI в браузере и поиске Microsoft потеснят «800-фунтовую гориллу» Google. «В конце концов, – заявил он, – я хочу, чтобы все знали: мы заставили их плясать под нашу дудку»[345].

В марте OpenAI наконец-то выпустила GPT–4 – пришлось подождать окончания тестов безопасности. Теперь весь мир смог оценить, что значит «добавить ноль справа». OpenAI больше не раскрывала данные о моделях, но эксперты прикидывали: у GPT–4 около 1,77 триллиона параметров – примерно в 10 раз больше, чем у GPT–3. Если GPT–3 умела сочинять хайку, то GPT–4 запросто сдавала экзамен на адвоката. Университетские профессора в панике придумывали новые правила использования ИИ и способы проведения экзаменов. Инвесторы требовали конкретики: насколько ИИ снизит расходы их компаний? На 20%? На 30%? Сколько народу уволят? И главное – когда начинаем?

К концу марта Илон Маск, Йошуа Бенжио и Стив Возняк оказались среди тысячи с лишним подписантов открытого письма от Института будущего жизни. Требование: объявить шестимесячный мораторий на разработку моделей мощнее GPT–4[346].

Власти забеспокоились. 4 мая 2023 года Альтмана вызвали в Белый дом – вместе с Наделлой, Пичаи, Амодеи и Кларком. В течение двух часов обсуждались риски ИИ – с вице-президентом Камалой Харрис, министром торговли Джиной Раймондо и прочими. Заглянул и президент Байден – похвастался, что опробовал ChatGPT. Вскоре Судебный комитет сената пригласил Альтмана на слушания. Обычно вызов техномагната в сенат – это публичная порка. Но 15 мая 2023 года случилось нечто иное. Альтман – в темно-синем костюме с галстуком – быстро расположил сенаторов к себе, излучая серьезность в промышленной концентрации. Говорил, что их идеи хороши, что готов сотрудничать, что ИИ нужно регулировать. «Если эта технология пойдет не туда, последствия могут быть катастрофическими», – с самым зловещим видом предупредил он, и обрадованные мировые медиа тут же включили эти слова в заголовки. Когда сенатор-республиканец Джон Кеннеди из Луизианы спросил, не знает ли Альтман подходящего кандидата на пост главы предложенного им нового агентства по регулированию ИИ, – прозрачно намекая, что Альтман мог бы занять эту должность сам, если бы не зарабатывал так много, – ответ заставил сенаторов приоткрыть рты. Оказалось, у Альтмана нет доли в OpenAI.

– Есть ли у вас люди, подходящие для этой должности? – спросил сенатор Кеннеди.

– Мы с радостью пришлем вам рекомендации, – ответил Альтман.

– Хорошо. Вы много зарабатываете, да?

– Нет. Мне платят ровно столько, чтобы хватало на медстраховку. У меня нет доли в OpenAI.

– Серьезно?

– Да.

– Любопытно. Вам нужен адвокат.

– Что, простите?

– Вам нужен адвокат. Или агент.

– Я занимаюсь этим из любви к делу[347].

Вскоре после слушаний Альтман запланировал серию встреч по всему миру – классическая PR-кампания после скандала. Отчасти по инициативе Брайана Чески он отправился в пятинедельное мировое турне. Альтман встретился с премьер-министром Великобритании Риши Сунаком, президентом Франции Эмманюэлем Макроном, премьером Испании Педро Санчесом, канцлером Германии Олафом Шольцем, президентом Израиля Исааком Герцогом, эмиром Дубая Мактумом ибн Мохаммедом ибн Рашидом Аль Мактумом, премьер-министром Индии Нарендрой Моди, президентом Южной Кореи Юн Сок Ёлем и другими мировыми лидерами. График был настолько плотный, что в Париже сотрудники отдела OpenAI по работе с госорганами во главе с Анной Маканджу не видели ничего, кроме номера в отеле, – они даже питались только энергетическими батончиками. «Альтман объехал втрое больше стран, чем требовалось», – заметил Чески, который не понаслышке знал, каково оказаться под прицелом властей: после первых успехов Airbnb муниципалитеты по всей Америке пытались запретить сервис. Чески нанял Криса Лихейна, советника из администрации Клинтона, для агрессивной лоббистской кампании против калифорнийского законопроекта о запрете краткосрочной аренды, а сам попутно обхаживал политиков. «Политики и так о тебе говорят, – объяснял Чески Альтману. – Но важно встретиться с ними лично. Есть такая поговорка: “Вакуум информации заполняется слухами”. Нельзя допустить, чтобы люди боялись. Лучшее лекарство от страха – информация».

В июне, вернувшись из турне, Альтман облачился в смокинг и отправился на государственный прием в Белом доме. Казалось, Альтман завоевал весь мир. Но вскоре предстояло узнать, что главная аудитория, которую ему следовало очаровывать, находилась внутри OpenAI.