Мы знали, что хотим делать. Мы знали, зачем хотим это делать. Но мы понятия не имели, как.
Отель Rosewood Sand Hill стоит на одноимённой дороге в городке Менло-Парк, штат Калифорния. Это длинное двухэтажное здание в стиле калифорнийского ранчо, окружённое садом с фонтанами и оливковыми деревьями. Внутри светло и тихо, в воздухе постоянно витает лёгкий цитрусовый запах; по коридорам бесшумно проходят официанты с серебряными подносами. Номер на ночь стоит около тысячи долларов, столики в ресторане бронируются за месяц вперёд. Sand Hill Road, на которой отель расположен, известна как место, где сосредоточены офисы большинства крупных венчурных фондов Кремниевой долины. В этой связи Rosewood Sand Hill называют любимым местом для сделок: здесь обедают и ужинают венчурные капиталисты с предпринимателями, и тут, по неофициальной статистике, каждый день решается судьба миллиардов долларов.
В летние месяцы 2015 года в одной из закрытых частных столовых отеля состоялся ужин на восьмерых, который изменил траекторию мировой индустрии искусственного интеллекта. Ужин был забронирован на имя Сэма Альтмана.
Илон Маск, 2025
Ларри Пейдж, Европарламент 2009
Чтобы понять, как состоялся этот ужин, нужно вернуться немного назад. Лет на пять, в общем-то.
Илон Маск и Ларри Пейдж, сооснователь Google, в начале 2010-х были близкими друзьями. Они вместе ходили на лыжах в Аспене, гостили друг у друга, обсуждали смысл жизни и будущее технологий. Их объединяло техническое любопытство и общая страсть: вера в то, что грядут принципиальные изменения, и что несколько правильных людей могут эти изменения формировать.
В чём они расходились, был вопрос об искусственном интеллекте. Пейдж считал, что если в один прекрасный день появится сверхчеловеческий интеллект, в этом нет ничего страшного: это будет просто следующий этап эволюции жизни на Земле. Маск был с этим решительно не согласен. По его мнению, сверхчеловеческий ИИ, не подчиняющийся человеческим ценностям, был величайшей угрозой, с которой когда-либо сталкивался наш вид. Пейдж в одной из их бесед в 2014 году в шутку назвал Маска speciesist — «видоистом», человеком, отдающим неоправданное предпочтение собственному биологическому виду перед другими формами интеллекта. Маск шутку не принял. Их дружба после этой беседы охладела.
Год спустя, в 2015 году, на дне рождения Пейджа состоялся ещё один разговор на ту же тему. По разным версиям, разговор был более или менее резким. Достоверно известно одно: после этого дня рождения Маск и Пейдж перестали общаться. И ещё известно: Маск принял для себя решение. Если Google под руководством Пейджа собирается разрабатывать сверхчеловеческий ИИ, и если внутри Google никто не считает это опасным занятием, значит, нужен противовес. Нужна другая лаборатория, столь же мощная, но играющая по другим правилам: открытая, не управляемая акционерами, ориентированная на безопасность. Не вопреки прогрессу, а изнутри прогресса.
Маск был не из тех людей, что долго думают, прежде чем начать действовать. Через несколько недель после того дня рождения он позвонил молодому президенту инкубатора стартапов Y Combinator. Этого человека звали Сэм Альтман, и Маск знал его как способного организатора, которого все в долине уважают и через кабинет которого проходит больше предпринимателей, чем через любой другой кабинет в Сан-Франциско.
Сэм Альтман, TechCrunch SF 2019
Сэму Альтману на тот момент было тридцать лет. Худощавый, ниже среднего роста, с пристальным взглядом серо-голубых глаз, он производил впечатление человека одновременно очень спокойного и очень целеустремлённого. Он родился в семье среднего достатка, рос в Сент-Луисе, в восемь лет начал программировать, в семнадцать понял, что он гей, и публично сделал каминг-аут в довольно консервативной школе, чем заслужил уважение сверстников. В девятнадцать лет он бросил Стэнфорд, основал стартап Loopt — социальную сеть на основе геолокации — и продал его за сорок три миллиона долларов через семь лет. К двадцати восьми он возглавил Y Combinator, на тот момент самый влиятельный инкубатор Кремниевой долины.
В отличие от Маска, Альтман не был инженером в техническом смысле; он был организатором, переговорщиком, человеком, умеющим находить нужных людей и собирать их в команды. Маск ему позвонил, потому что собирать команды Альтман умел как мало кто. И ещё потому, что Альтман сам незадолго до этого начал интересоваться искусственным интеллектом и в нескольких публичных эссе на своём блоге писал о его рисках, причём почти в тех же формулировках, что и сам Маск.
Их первый разговор по телефону, по позднейшим воспоминаниям обоих, был коротким и деловым. Маск изложил идею: лаборатория искусственного интеллекта, организованная как некоммерческая организация, без акционеров, с миссией обеспечить, чтобы развитие ИИ шло на пользу всему человечеству, а не стало для него гибельным. Открытая, публикующая свои результаты. Конкурент Google в этой узкой области, но конкурент, мотивированный не прибылью, а безопасностью. Альтман сказал, что идея кажется ему интересной. Они договорились встретиться лично. Через несколько недель они встретились в офисе Y Combinator и проговорили несколько часов. После этого разговора оба решили браться за дело.
Оставалось набрать команду. И главное — добыть одного человека. Без него вся затея, как они оба понимали, не имела смысла. Этим человеком был Илья Суцкевер.
Альтман отправил Илье электронное письмо. Из таких, что в Кремниевой долине называются cold email: ты не знаком с адресатом лично, ты просто пишешь и предлагаешь встретиться, и от того, насколько твоё письмо выглядит осмысленным, зависит, ответят тебе или нет. Альтман написал: я Сэм, у меня будет ужин с интересными людьми, среди них Илон Маск, я думаю, тебе будет любопытно прийти. Илья ответил, что придёт.
На самом ужине в Rosewood собралось восемь или девять человек. Маск, Альтман, Брокман (двадцати семи лет, незадолго до того ушедший с поста CTO компании Stripe), Илья и ещё несколько исследователей и потенциальных инвесторов. Илья поначалу думал, что это просто общий разговор; только потом он сообразил, что был на этом ужине почётным гостем.
Маск, согласно позднейшему свидетельству Брокмана, начал разговор с него лично. Это был первый раз, когда они с Брокманом виделись. Маск посмотрел на Брокмана через стол и спросил, без предисловий и не назвав никого по имени, кое-что вот в таком духе. Он спросил, считает ли Брокман главу DeepMind, Демиса Хассабиса, по сути, злым человеком. Брокман, по его собственному признанию, был смущён и не сразу нашёл, что ответить. На самом деле, как он потом узнает, такой вопрос про Хассабиса в Кремниевой долине того лета был не редкостью; некоторые техноруководители всерьёз считали, что в DeepMind делают опасные вещи. Маск, во всяком случае, делал вид, что считает.
Потом перешли к более общему разговору. Обсуждали, далеко ли Google вместе с DeepMind ушли в развитии ИИ. Можно ли вообще их догнать, если начинать в 2015 году с нуля. Если можно, то как должна быть устроена догоняющая лаборатория. Маск, по словам Ильи, употребил слово противовес и сказал, что хочет видеть лабораторию, которая будет противовесом Google в искусственном интеллекте.
Илью никто прямо в этот вечер не приглашал. Никто не сказал ему: иди к нам. Разговор был общий, абстрактный, скорее в духе обмена видениями, чем в духе кадровых переговоров. Но Илья за столом думал о другом. Он думал, что вот сидят люди, всерьёз рассуждающие о том, на что в Google Brain коридорные разговоры не выходили; что для Маска и Альтмана искусственный интеллект — это не один из проектов, а главное; что у этих людей будут деньги, и они будут готовы тратить эти деньги в направлении, которое сам Илья считал правильным.
В машине, возвращаясь в Маунтин-Вью после ужина, Илья начал писать Альтману письмо. Он писал, что идея ему близка, что он готов её возглавить, что у него много мыслей о том, как именно это нужно строить. Письмо вышло длинным. Когда он его дописал, он не отправил его, потому что подумал, что нужно ещё раз перечитать утром. На следующее утро он снова перечитал, ещё что-то добавил, ещё что-то снова отложил. Письмо застряло в черновиках на несколько недель. Альтман сам позвонил Илье через какое-то время, спросил, что тот думает. Илья сказал: думаю. Альтман попросил подумать побыстрее. Илья пообещал.
В сентябре Альтман и Маск официально пригласили Илью возглавить научное направление новой лаборатории. На стороне Google задёргались. Илье сделали встречное предложение, по слухам — выросшую вдвое зарплату и больше ресурсов. Илья отказался. В ноябре он подписал контракт с новой организацией.
Что же его подкупило? Точно не деньги! В Google ему платили существенно больше, и продолжали бы платить. Главное было ощущение: вот люди, которые относятся к делу всерьёз. Альтман не был учёным, но был организатором, и Илья понимал, что под его прикрытием можно будет делать науку без типичных корпоративных ограничений. Маск был миллиардером, и обещанные деньги в его исполнении не были фигурой речи. А идея, что нужно создать не Google, ему лично была близка. В Google он работал, но себя в Google не находил.
Параллельно с разговорами с Ильёй шла другая, организационная работа. Альтман с Брокманом обсуждали структуру новой организации. Решили: будет некоммерческая корпорация по американскому праву, под названием OpenAI Inc., с миссией, прописанной в учредительных документах, обеспечить, чтобы развитие искусственного интеллекта шло на пользу всему человечеству.
Дальше встал вопрос денег. Какую сумму вынести в пресс-релиз, чтобы серьёзные исследователи захотели присоединиться? Альтман с Брокманом исходили из ста миллионов долларов. Это казалось крупной суммой для некоммерческой исследовательской организации; ни одна академическая лаборатория такими бюджетами не располагала. Маск, узнав цифру, написал письмо. Цитата из этого письма впоследствии станет публичной в ходе судебной тяжбы между ним и OpenAI; в передаче её смысл такой: ребята, сто миллионов — это будет звучать безнадёжно, никто не примет нас всерьёз; давайте говорить о миллиарде; если кто-то из нас не сможет вложить столько, сколько обещал, я доложу свою часть.
В декабре 2015 года, 11-го числа, OpenAI объявил о себе пресс-релизом. В пресс-релизе фигурировала цифра один миллиард долларов: пожертвования и обязательства восьми учредителей и инвесторов, среди которых были, кроме Маска и Альтмана: Грег Брокман, Рейд Хоффман (сооснователь LinkedIn), Питер Тиль (сооснователь PayPal и инвестор-миллиардер), Джессика Ливингстон (соосновательница Y Combinator), а также корпоративные доноры Amazon Web Services и Infosys. Среди сооснователей по факту, как сотрудников новой организации, были перечислены: Маск и Альтман в качестве сопредседателей, Брокман как технический директор, Илья как главный научный сотрудник, и группа исследователей: Андрей Карпатий, Войцех Заремба, Джон Шульман, Дурк Кингма, Вики Чёнг, Памела Вагата, Тревор Блэквелл.
Пресс-релиз обошёл все технологические издания мира. Заголовки звучали примерно одинаково: Маск и Альтман запускают противовес Google с миллиардом долларов. Реакция конкурентов была разной. В Google внешне сохраняли невозмутимость, внутри начали инвентаризировать собственные риски. В DeepMind, по слухам, восприняли запуск OpenAI как личный вызов. В академическом сообществе впервые за последние годы оживился разговор о том, нужно ли разработку искусственного интеллекта регулировать.
А внутри самой OpenAI, между тем, понимания, что именно делать, не было.
Здесь честно нужно сказать: миллиард был обещан, но не получен. По налоговым декларациям OpenAI, к 2021 году от обещанных миллиарда было собрано чуть больше ста тридцати миллионов. Маск, по различным источникам, лично передал в общей сложности что-то порядка сорока-сорока пяти миллионов в период с 2016 по 2020 годы. Тиль и Хоффман внесли свои части. Y Combinator Research, как выяснилось значительно позднее, по факту не вложила в OpenAI обещанных сумм. То есть громкая цифра «миллиард» была скорее символическим жестом, чем реально доступным бюджетом. Но шум сделал своё дело: лучшие специалисты в мире прочитали пресс-релиз и поняли — появилась новая лаборатория, и денег у неё, пусть и не миллиард, но хватит надолго.
Грег Брокман, TechCrunch SF 2019
Андрей Карпатий, период OpenAI
Офиса у OpenAI поначалу не было. Первые несколько недель сотрудники собирались в квартире Брокмана в Сан-Франциско, в Мишн-Дистрикте, на третьем этаже над прачечной. У Брокмана была сравнительно большая гостиная, в которой стоял длинный стол; за ним размещалось десять-двенадцать человек. На стенах висели белые маркерные доски. На полу валялись провода.
Альтман, по его собственному признанию, на одной из первых таких встреч обратился к собравшимся примерно так. Так. У нас есть деньги. У нас есть лучшие люди в области. У нас есть миссия. Что делаем? Внятного ответа никто не дал.
Никто из присутствующих не знал, как строить искусственный общий интеллект, потому что никто в мире этого не знал. Никто не знал даже, какие задачи правильно решать в первую очередь, чтобы постепенно подбираться к этой цели. На белой доске рисовали возможные направления: робототехника, обучение с подкреплением, шахматные движки, видеоигры, обработка естественного языка, мультиагентные системы. Спорили, что важнее. Через час расходились, ничего не решив. Через неделю собирались снова, рисовали то же самое, опять расходились.
В первые двенадцать месяцев OpenAI занималась всем подряд. Карпатий с командой строил систему, которая училась играть в видеоигры по экрану. Шульман развивал алгоритмы обучения с подкреплением, более стабильные, чем существовавшие на тот момент. Заремба занимался робототехникой: учил роботизированную руку поднимать предметы. Илья присматривал за всем сразу и пробовал привлекать молодых исследователей со всего мира. Брокман занимался инфраструктурой.
В мае 2016 года в офис OpenAI заглянул Дарио Амодей, тогда исследователь Google, проездом из Маунтин-Вью в Нью-Йорк. Альтман с Брокманом провели его по комнатам, показали проекты, рассказали о планах. Амодей, по его собственным позднейшим словам, ушёл из офиса в смятении. На прямой вопрос: Что вы делаете? — у организации не было прямого ответа. Это была лаборатория, наполненная исключительно талантливыми людьми, у которой явно было много денег и явно было много хороших намерений, и при этом не было никакой внятной стратегии. Амодей подумал и решил, что, пожалуй, такая лаборатория ему как раз и интересна. Через несколько месяцев он сам присоединится к OpenAI.
Если бы кто-нибудь в 2016 году попытался описать первый год OpenAI в одном слове, это слово было бы — хаос. Не плохой хаос. Не разрушительный. Творческий, добросовестный, насыщенный. Но всё-таки хаос. Через несколько лет Брокман в публичных интервью будет вспоминать это время с улыбкой и говорить, что в OpenAI первого года «ничего не работало» — в том смысле, что не было ни одного прорывного результата, на который можно было бы указать пальцем.
И всё же три вещи в этот хаос уже были заложены, и от них, в конечном счёте, всё дальше зависело.
Первая: в OpenAI собрались исследователи, верившие в масштаб, то есть в гипотезу Ильи десятилетней давности. Не все из них её разделяли в одинаково чистой форме, но никто из них не был ей принципиально враждебен.
Вторая: в OpenAI собрались люди, которые думали о судьбе своей дисциплины не как о технической задаче, а как о цивилизационной. Что бы они ни делали потом — играли в Dota 2, переводили тексты, обучали робота — за всем этим стоял общий вопрос: как сделать, чтобы ИИ, когда он станет мощным, не стал бедствием. Этот вопрос будет в дальнейшем направлять огромное количество их решений, иногда хороших, иногда странных, иногда катастрофически неверных.
Третья: у OpenAI был неограниченный (как тогда казалось) запас денег от частных миллиардеров. Это значило, что им не нужно было гнаться за прибылью, не нужно было выпускать продукты на рынок, не нужно было оправдывать каждый эксперимент с точки зрения отдачи. Они могли пробовать что угодно. Эта роскошь будет фундаментально важна для того, что произойдёт через два года: для появления первой большой статьи Алека Радфорда, в которой механизм внимания, придуманный другими, и масштаб, в который верил Илья, наконец сойдутся.
Но раньше этого должно было случиться ещё одно. В лесу нужно было пройти через ещё одну поляну, чтобы выйти к водопаду. Эта поляна находилась в Гугле, в начале 2017 года, и на неё собирались восемь человек, чтобы написать статью с названием, взятым из песни «Битлз».