Встреча, проходившая в отеле Beachside Caribe Hilton в Сан-Хуане, столице Пуэрто-Рико, в январе 2015 года казалась профессору информатики из Корнеллского университета Барту Селману рядовой научной конференцией, пока он не заметил группу охранников, дежуривших у входа в зал. Когда эти же крепкие ребята последовали за участниками на обед, стало очевидно – конференция не такая уж обычная. Среди ученых, сотрудников Google и подозрительно многочисленной группы молодых докторов математических наук из Беркли явно присутствовало и несколько миллиардеров. Одним из них, проявлявшим особый энтузиазм, был Илон Маск.

Маск появился с покрасневшими от жары щеками, в черной футболке с изображением мультяшного астронавта, его волосы были слегка растрепаны – казалось, он провел ночь в офисе Tesla, уснув прямо за рабочим столом. В то время Маск возглавлял и Tesla, и SpaceX и при этом активно участвовал во всех мероприятиях первой в мире конференции по безопасности искусственного интеллекта. Он вышел на сцену вместе с Ником Бостромом – лысеющим интеллектуалом в очках, поддерживая его предостережения об опасности создания умных машин без надежных гарантий, что те будут заботиться о своих создателях. За обедом Маск обходил столы, спрашивая каждого исследователя ИИ, как человечество могло бы контролировать риски, связанные со сверхразумом.

«Для Илона это и в самом деле был вопрос выживания человечества, – вспоминал Селман. – Хотя тогда казалось почти абсурдным всерьез опасаться, что машины захватят власть».

Исследователи ИИ, подобные Селману, после череды надежд и разочарований привыкли не распространяться о потенциале искусственного интеллекта. Чрезмерный энтузиазм предыдущих поколений ученых оттеснил область их интересов на задворки научного мира. Однако недавние успехи в компьютерном зрении, машинном переводе и беспилотных автомобилях выглядели впечатляюще. Книга Бострома «Искусственный интеллект. Этапы. Угрозы. Стратегии» породила движение, которое вышло далеко за пределы тихой академической заводи, где годами ютились исследователи ИИ.

Конференцию организовал Институт будущего жизни, основанный менее года назад физиком из MIT Максом Тегмарком при поддержке Яана Таллинна, сооснователя Skype и приверженца эффективного альтруизма. Таллинн обещал выделять институту по 100 000 долларов ежегодно. После того как продажа Skype компании eBay в 2005 году сделала его миллиардером, Таллинн искал новое применение своим силам и наткнулся на работы Юдковского о рисках ИИ. Поначалу он был настроен скептически, но после четырехчасовой беседы с Юдковским в кафе Panera Bread возле Международного аэропорта Сан-Франциско изменил свое мнение. Вскоре Таллинн уже был одним из главных глашатаев опасности, которую искусственный интеллект несет самому существованию человечества, основал Центр изучения экзистенциальных рисков и стал одним из первых инвесторов DeepMind[214]. Институт будущего жизни, который быстро превратился скорее в политическую, чем в академическую силу, назвал безопасность ИИ своим главным приоритетом. «Наша цель проста: чтобы у жизни было будущее и чтобы оно было, насколько это возможно, прекрасно!» – написал Тегмарк в своей книге «Жизнь 3.0: Быть человеком в эпоху искусственного интеллекта»[215]. После долгих обсуждений различных угроз человечеству, отмечал он, участники «пришли к согласию в том, что, хотя необходимо уделять некоторое внимание биотехнологии, ядерному оружию и климатическим изменениям, наша главная цель – сделать вопрос ИИ-безопасности центральным в данной исследовательской области»[216].

До этого момента большинство громких голосов, призывавших к безопасности ИИ, не принадлежали исследователям, непосредственно работающим над искусственным интеллектом. Движением руководили такие личности, как Бостром и Юдковский, которые в тот день появились на сцене вместе с Маском и Селманом, а также Вернором Винджем и Шейном Леггом из DeepMind – своего рода возрождение прежних саммитов сингулярности. Целью конференции в Пуэрто-Рико было собрать вместе философов и практиков, чтобы попытаться выработать общую позицию, пока экономические интересы последних не сделали это невозможным. «Это была важная конференция, потому что она помогла предотвратить один из возможных сценариев провала, который бы нас ждал, если бы борцы с ИИ и исследователи, создающие ИИ, остались двумя отдельными группами. Несложно представить альтернативную историю, где они образовали разные сообщества, которые не общаются между собой, а только поливают друг друга грязью», – отметил Бостром.

Вместо этого большинство участников – и в общей сложности более 8000 человек, включая Маска, Стивена Хокинга и многих исследователей ИИ, – подписали открытое письмо. В нем, по словам Тегмарка, призывали к тому, чтобы целью исследований был «не бесцельный, а полезный интеллект». Письмо содержало призыв расширить исследования, направленные на то, чтобы ИИ оставался «полезным», и подчеркивало: «Наши системы ИИ должны делать то, что мы от них хотим». В самом письме не было ничего особенно спорного, но сам факт его появления означал огромный шаг к признанию идей, долго считавшихся маргинальными. Среди подписавших письмо специалистов по ИИ были Демис Хассабис из DeepMind, а также два исследователя – Илья Суцкевер и Дарио Амодеи[217]. Тегмарк, в восторге от успехов конференции, пошутил: «Возможно, все дело в сочетании солнца и вина»[218]. В конце Маск отвел Тегмарка в отдельную комнату и сообщил, что жертвует его институту 10 миллионов долларов на исследования безопасности ИИ. Через несколько дней он объявил об этом в «Твиттере», сострив: «Все развлекаются с искусственным интеллектом до потери собственного»[219].

Во время перерывов между выступлениями Маск беседовал с Селманом и другими исследователями на террасе с видом на океан. Он высказал свое главное опасение: Google (через свои DeepMind и Google Brain) и Facebook (через свое подразделение ИИ под руководством авторитетного специалиста по ИИ Янна Лекуна, которое обеспечивало работу таких функций, как автоматическое распознавание объектов на фотографиях) полностью доминируют в области ИИ, но при этом у них нет обязательства делиться результатами своих исследований с общественностью.

«Все признавали опасность того, что эти коммерческие модели с закрытым кодом никто не контролирует. Нужен был какой-то противовес», – вспоминал Селман.

Альтман не присутствовал на конференции, но в следующем месяце опубликовал собственное эссе в духе апокалиптических предсказаний, вдохновленное работами Бострома. В нем он рекомендовал книгу «Искусственный интеллект. Этапы. Угрозы. Стратегии» и заявлял: «Развитие машинного сверхразума – вероятно, величайшая угроза дальнейшему существованию человечества». Он разделял мнение Бострома, что сверхразумные машины могут быть одним из наиболее правдоподобных ответов на парадокс Ферми. Вопрос «Где все?», заданный итальянским физиком Энрико Ферми за обедом в Лос-Аламосской национальной лаборатории в 1950 году. Почему мы не видим следов инопланетян, хотя существует множество планет, пригодных для жизни? Альтман предположил: «Биологический разум рано или поздно создает машинный интеллект, который уничтожает биологическую жизнь, а затем по каким-то причинам решает скрыть свое существование»[220]. Решение, по мнению Альтмана, заключалось в регулировании ИИ. «Правительство США и все другие правительства должны контролировать разработку сверхразума, – писал он в следующем эссе. – В идеальном мире регулирование замедлило бы прогресс злоумышленников и ускорило бы работу хороших парней». Лишь в конце второго эссе он коснулся возможных плюсов новой технологии, отдав дань трансгуманистической мечте о бессмертии, лежащей в основе идеи общего искусственного интеллекта: «Он мог бы решить множество серьезных проблем человечества – но это не произойдет само собой. Другая потенциальная выгода в том, что машинный интеллект поможет нам понять, как загрузить сознание в компьютер, и мы сможем жить вечно»[221].

За помощь в подготовке эссе Альтман особо поблагодарил Дарио Амодеи – исследователя ИИ, который тогда работал в китайской компании Baidu вместе с Эндрю Ыном, бывшим наставником Альтмана из Стэнфордской лаборатории искусственного интеллекта.

Альтман и Маск начали встречаться за ужином каждую среду, когда Маск приезжал в район залива Сан-Франциско во время еженедельных визитов в свои компании. Они были знакомы уже несколько лет, с тех пор как партнер Y Combinator Джефф Ралстон представил их друг другу и организовал для Альтмана экскурсию по фабрике SpaceX в Лос-Анджелесе. «Он подробно рассказывал о производстве каждой детали ракеты, но больше всего запомнилось выражение абсолютной уверенности на его лице, когда он говорил об отправке больших ракет на Марс. Я ушел с мыслью: “Так вот как выглядит настоящая убежденность”», – писал Альтман спустя несколько лет[222].

Их разговоры в 2015 году в основном вращались вокруг личных страхов. Боб Зауэрберг, который в то время тесно сотрудничал с Альтманом по Reddit, вспоминает свое изумление, когда услышал рассказы Альтмана об этих ужинах с Маском: «Мы с Илоном обсуждали конец света. Определили, что есть только два безопасных места – Биг-Сур и Новая Зеландия. У меня есть убежище здесь, у него – там. Мы собираемся все обустроить и продублировать все системы. Мы понимаем, что ИИ – это реальность. Возможно, он опасен – но при этом грандиозен и важен. Нам следует обеспечить свою безопасность и сделать что-то полезное в этой ситуации». (Проект Starlink Маска представлен в Новой Зеландии, но, вероятно, Альтман говорил о соратнике Маска по «мафии PayPal» Питере Тиле, у которого есть владения в этой стране.)

В том же месяце, когда вышло эссе Альтмана о необходимости регулирования ИИ, он предложил Маску вместе составить открытое письмо правительству с аналогичным призывом. Маск согласился, и они начали работать над черновиками письма, которое увидело свет позже в 2015 году. Слухи о готовящемся обращении разошлись еще до публикации, и Демис Хассабис решил выяснить у Маска напрямую, правда ли это. Маск ответил: «При правильном подходе регулирование может даже ускорить развитие ИИ в долгосрочной перспективе. Без уверенности общества в наличии контроля мы рискуем столкнуться с ситуацией, когда ИИ причинит серьезный вред, – и тогда исследования просто запретят как угрозу общественной безопасности»[223]. Судя по документам, предоставленным адвокатами Маска, через пять дней после этого разговора DeepMind объявил о создании совета по этике ИИ и пригласил его войти в состав. Первое заседание, которое прошло в офисе SpaceX по приглашению Маска, убедило его: совет был лишь попыткой затянуть любые разговоры о регулировании. «Илон пришел к выводу, что совет – полная туфта, – рассказал биографу Уолтеру Айзексону глава аппарата Маска Сэм Теллер. – Ребята из Google не собираются всерьез заниматься безопасностью ИИ или как-то ограничивать свою власть»[224].

После этого Маск начал устраивать ужины с друзьями вроде Питера Тиля и Рида Хоффмана, пытаясь найти способ противостоять мощи Google и обезопасить развитие ИИ. В мае он встретился с президентом Обамой, чтобы обсудить необходимость регулирования. «Обама все понял, – рассказывал Маск Айзексону. – Но я осознал, что проблема не настолько приоритетна, чтобы он предпринял реальные действия»[225].

В том же месяце Альтман написал Маску: «Я много размышлял, можно ли остановить человечество в разработке ИИ. Думаю, ответ – почти наверняка нет. Раз это неизбежно, было бы хорошо, чтобы прорыв совершил кто-то, помимо Google». Альтман предложил Y Combinator запустить «Манхэттенский проект для ИИ» – тот самый термин, который Хассабис использовал, продвигая DeepMind в 2010 году. «Мы могли бы организовать все так, чтобы технология принадлежала человечеству через некоммерческую структуру, но работающие над ней люди получали бы вознаграждение, как в стартапе, если все получится. Разумеется, мы будем соблюдать и активно поддерживать любое регулирование». «Стоит обсудить», – ответил Маск.

В июне Альтман направил Маску детальный план новой лаборатории ИИ: «Наша миссия – создать первый общий искусственный интеллект и использовать его для расширения возможностей каждого человека. То есть реализовать распределенную версию будущего, которая представляется наиболее безопасной. Вообще безопасность должна стать приоритетом номер один». Он предложил разместить начальную команду из 7–10 человек в одном из зданий YC в Маунтин-Вью. Исследователи получили бы долю в YC «на случай успеха», но она не зависела бы от их разработок. Управлять проектом должен был совет из пяти человек, включая его самого и Маска. «Со временем мы найдем руководителя для команды, но ему или ей лучше не входить в совет директоров», – добавил он.

Альтман старался не перегружать Маска – достаточно было бы визитов раз в месяц и публичной поддержки для привлечения специалистов. Он также предложил отложить публикацию открытого письма о регулировании до запуска лаборатории[226].

Параллельно Альтман начал все более серьезные переговоры о новой лаборатории ИИ с Грегом Брокманом – давним другом из Stripe, которому он годами помогал продавать ранние акции компании на вторичном рынке.

Брокман вырос на небольшой семейной ферме недалеко от Томпсона в Северной Дакоте. Он был третьим из четырех детей в семье врачей – офтальмолога Рона Брокмана и психиатра Эллен Фельдман, которые в свободное от работы время разводили лошадей, коров и кур. С ранних лет мальчик проявлял способности к математике и естественным наукам. Мать поддерживала его увлечение, отправляя в математические лагеря и на химические олимпиады, а отец уже в шестом классе обучал его алгебре. Вместе с другом Брокман даже организовал Математический клуб. Когда пришло время средней школы, его старшие брат и сестра уехали учиться в школу-интернат, но сам Грег предпочел остаться в местной государственной школе, которая пошла ему навстречу. Так, в восьмом классе ему разрешили заниматься по индивидуальной программе дистанционного обучения Стэнфордского университета для одаренных детей. Двигаясь в собственном темпе, он за год освоил трехлетний курс математики, что позволило ему уже в девятом классе приступить к изучению математического анализа. К десятому классу, когда Грегу исполнилось 15, у него появился автомобиль – в Северной Дакоте водить можно с 14, и он начал посещать занятия в Университете Северной Дакоты. При этом юноша оставался учеником Red River High School, где активно участвовал в театральных постановках. Однажды он даже сыграл Чарли в спектакле «Лучшее рождественское представление на свете» – довольно неожиданный выбор для подростка из еврейской семьи[227].

Брокман был уверен, что станет математиком, но после школы мать убедила его взять годичный перерыв. Он решил написать учебник по химии, однако друг заметил, что без докторской степени его никто не опубликует – придется либо издаваться самостоятельно, либо создать веб-сайт. Брокман, однажды летом посещавший компьютерный лагерь со своим старшим братом Мэттом и проведший все это время за программированием, а не за играми, решил, что создать сайт будет проще и дешевле. Он начал с разработки виджета для сортировки таблиц. «Ты нажимаешь на столбец, и таблица сортируется, – рассказывал он позже газете Университета Северной Дакоты. – Для меня самым важным было то, что я представил это в своей голове, а теперь оно существовало в реальности! Вот это да!»[228] Брокман прочитал работу Алана Тьюринга «Вычислительные машины и разум» 1950 года, где ставился вопрос «Могут ли машины мыслить?» и описывался ставший впоследствии знаменитым «тест Тьюринга» для определения ответа. По мнению Тьюринга, если люди не могут отличить ответы компьютера от ответов человека, компьютер прошел тест. Ученый предлагал создать такой интеллект не путем жесткого программирования логики, как это стало популярно в последующие годы, а создав компьютерного «ребенка», способного к обучению, а затем позволив ему учиться самостоятельно. Вдохновившись этой идеей, Брокман создал чат-бота, который довольно убедительно болтал о погоде, хотя на большее был не способен.

«Раньше я считал: если мои математические исследования найдут применение при моей жизни, значит, они недостаточно абстрактны, недостаточно фундаментальны, – вспоминал Брокман. – Взять хотя бы Эвариста Галуа или Карла Фридриха Гаусса – их открытия, сделанные в XIX веке, получили развитие лишь после их смерти. Для меня в этом была особая красота – ты вносишь долгосрочный вклад в будущее человечества».

Но когда его чат-бот появился на платформе StumbleUpon и привлек 1500 пользователей, все изменилось. «Это было невероятное ощущение. Я создал нечто, чем пользуются люди. По ту сторону экрана – живые люди». И он решил оставить математику, с головой погрузившись в компьютерные науки.

Осенью, поступив в Гарвард, Брокман сразу направился к профессору, который специализировался на обработке естественного языка, и попросился к нему в исследовательскую группу. «Он показал мне, над чем работал, – это были деревья синтаксического разбора и прочие старомодные подходы к ИИ, где нужно вручную прописывать правила языка и тому подобное, – рассказывал Брокман. – Я посмотрел на это и подумал: “Это тупик. Совсем не то, о чем Алан Тьюринг писал в своей статье о тесте Тьюринга”». Брокман вступил в Компьютерный клуб Гарварда. Первый год, когда он слушал, как старшекурсники обсуждают продвинутые темы, было интересно. Но на втором курсе те выпустились, и Брокман оказался во главе клуба – учиться стало не у кого. Его раздражала гарвардская система обязательного изучения гуманитарных дисциплин. «Невозможно было погрузиться в предмет. Сидишь, обсуждаешь математику или программирование, тут подсаживается кто-то с другого факультета – и разговор приходится сворачивать».

Он понял, что его желания стали слишком узкими для студента Гарварда. «Я хотел одного – стать лучшим программистом в мире. Поставил перед собой такую цель». Он ушел из Гарварда и поступил в Массачусетский технологический институт. Но даже в этом более техническом вузе он не нашел того, что искал. Уже через месяц Брокман вел переговоры со стартапами и в октябре полетел в Кремниевую долину для встречи с Патриком и Джоном Коллисонами в только что основанной компании Stripe.

Патрик Коллисон помнит, как дождливым вечером в десять часов Грег появился в их крошечном офисе в переулке, отходящем от Рамона-стрит в Пало-Альто. «Открываем дверь – а там Грег. Я как раз настраивал новые серверы. Он просто плюхнулся на стул рядом и включился в работу».

Позже в тот же уик-энд, во время более официального собеседования за йогуртовым мороженым, Брокман спросил: «Вы работаете по выходным?» Братья Коллисон замялись, подыскивая слова, чтобы не спугнуть потенциального сотрудника: «Ну, вообще-то да, мы работаем все выходные, но не требуем этого от тех, кого нанимаем…» Брокман прервал их: «Все нормально. Просто хочу убедиться, что имею дело с серьезными людьми, которые работают по выходным». Вопрос был решен.

Однако его мать хотела больше гарантий. Она попросила организовать разговор с матерью Коллисонов. «Видимо, наша мама прошла проверку, потому что Грег к нам присоединился», – шутил Патрик.

В 2010 году Брокман бросил MIT и стал четвертым сотрудником Stripe. Компания дала ему жизнь в стартапе, о которой он мечтал. Сотрудники Stripe вспоминают, как приходили в офис в семь утра и обнаруживали Брокмана, уснувшего за своим столом, с громко играющей музыкой и разбросанными коробками из-под пиццы – он программировал всю ночь напролет. Он ходил по офису в носках и любил проводить долгие периоды в так называемых кодовых берлогах, иногда выходя оттуда с полностью готовыми продуктами, которые никто не заказывал. Брокмана отличали две вещи (помимо интеллекта, который был обязательным требованием для всех программистов): во-первых, широта интересов – он стремился понять всю экосистему, частью которой был Stripe, в данном случае систему онлайн-платежей, а во-вторых, как выразился Коллисон, «почти беспримерная целеустремленность и жизненная энергия. Мало кто может сравниться с Грегом в упорстве».

К 2015 году Брокман задумался о своем будущем и решил обсудить с Патриком Коллисоном дальнейшие планы. Стоимость Stripe выросла до 3,5 миллиарда долларов, а сам Брокман, занимавший пост технического директора, тратил все больше времени на управление людьми вместо программирования. Когда он поделился с Коллисоном мыслями об уходе, тот посоветовал поговорить с Альтманом, который славился хорошими советами в подобных ситуациях. Альтман выслушал Брокмана и согласился, что тому пора двигаться дальше. «Жизнь – это не генеральная репетиция», – сказал он[229]. И спросил, чем Брокман хотел бы заняться.

Брокман интересовался машинным обучением. В Stripe он основал еженедельный клуб по изучению материалов блога LessWrong, созданного Элиезером Юдковским в 2009 году и ставшего центром притяжения рационалистов. Едва ли не каждая вторая публикация в нем была посвящена революции в глубоком обучении и связанной с ней этической проблеме: что делать людям, когда их творение превзойдет создателей? Альтман признался, что тоже работает над проектом в области ИИ. Они договорились поддерживать связь. В мае Брокман подал заявление об уходе из Stripe, а в июне записался на трехмесячный интенсив по программированию в нью-йоркский Recurse Center. Перед началом занятий он заказал в интернете свой первый графический процессор – GPU, тип компьютерного чипа, наиболее подходящий для выполнения быстрых вычислений, необходимых при обучении нейронных сетей. Устройство пришло в разобранном виде, и три недели, остававшиеся до начала курса, Брокман потратил на его сборку. Он планировал переквалифицироваться в инженера по машинному обучению, а затем в течение полутора лет придумать новый стартап. В свободное время Брокман начал осваивать фокусы.

В тот период Альтман, как неформальный лидер стартапов, старался привить своим подопечным амбиции не только про успех и деньги, а про смысл и влияние. В уик-энд на День поминовения, во время Camp YC – ежегодного выезда акселератора на природу, который проходил в округе Мендосино, в двух часах езды к северу, – Альтман, стоя на хлипкой деревянной сцене, залитой светом, пробивавшимся сквозь секвойи, провозгласил: существует три вещи, способные фундаментально изменить человечество. Его список приоритетов немного изменился с момента первой публикации в блоге в качестве президента YC. Теперь первое место занимал машинный сверхразум, за ним следовали ядерная энергия и пандемии. «Только этим я и хочу заниматься», – заявил он сотням основателей стартапов, сидевших перед ним на складных стульях. Накануне вечером в одном из немногих полноценных домиков, предназначенных для сотрудников YC (остальные ночевали в трехстенных навесах под открытым небом), он сразился с коллегами-партнерами в «Колонизаторов» – настольную игру, где нужно соревноваться за ресурсы и строить поселения на вымышленном острове. В этой игре, требовавшей и удачи, и стратегии, исход всегда был один. Доктор Гурсон, соучредитель Doblet – одного из стартапов YC, вспоминает разговор с одним из партнеров, который жаловался на безнадежность игры с боссом: «Люди просто отказываются играть с ним, потому что он всегда выигрывает».

К тому времени Альтман регулярно устраивал у себя дома в районе Мишн ужины, приглашая различных исследователей ИИ и другие заметные фигуры сообщества. В июле 2015-го он решил замахнуться на большее и организовал закрытый ужин в отеле Rosewood в Менло-Парке – невысоком курортном комплексе с видом на покрытые кустарником предгорья вдоль шоссе 280. Это было излюбленное место встреч венчурных капиталистов с близлежащей Сэнд-Хилл-роуд. Элитные ювелирные бутики, коктейли по 27 долларов и бар, отделанный плитами из древних секвой, делали его похожим на Клуб нефтяных магнатов Персидского залива, не слишком убедительно замаскированный под калифорнийский экоминимализм. С задней террасы открывался захватывающий вид на горы Санта-Крус – гряды, уходящие в туман одна за другой. Красоту портил только рев машин на шоссе внизу, который техномузыка из-под оливковых деревьев, растущих в больших кадках, маскировала лишь отчасти.

Альтман забронировал в боковом крыле ресторана отдельный зал с собственной террасой, украшенной суккулентами. Те, кто пришел рано, могли посидеть у камина под открытым небом в ожидании остальных. Среди приглашенных был друг Брокмана по MIT Пол Кристиано и два исследователя ИИ – Дарио Амодеи и Крис Ола. Амодеи вырос в итало-американской семье в районе залива Сан-Франциско. Начал учебу в Калифорнийском технологическом институте, потом перевелся в Стэнфорд и в итоге получил докторскую степень по физике в Принстонском университете. Говорливый и темпераментный, он во время разговора постоянно теребил свои буйные кудри, что придавало ему вид безумного профессора. Однако именно его идеи впоследствии помогли OpenAI найти путь к коммерческому успеху. Ола был вундеркиндом – вместо учебы в колледже он выбрал стипендию Тиля. Оба дружили с Брокманом и помогали ему советами, когда тот решил сменить карьеру[230]. Кристиано, как и Брокман, в школе участвовал в математических олимпиадах, а теперь был докторантом Беркли по направлению теоретической информатики.

Альтман также написал человеку, с которым не был знаком лично, но чьи выступления об ИИ произвели на него огромное впечатление. Илья Суцкевер уже считался легендой в мире искусственного интеллекта. За его плечами было несколько прорывных открытий, включая знаменитую статью 2012 года об AlexNet, написанную в соавторстве с Алексом Крижевским и Джеффом Хинтоном, которая возродила интерес к нейронным сетям. После того как Google купил их небольшой стартап в этой области, Суцкевер продолжил исследования в корпорации. Его недавняя статья о методе обучения sequence-to-sequence (seq2seq), представленная на декабрьской конференции по системам обработки нейронной информации (долго сокращавшейся до NIPS, пока не была переименована в NeurIPS), убедительно сформулировала первую парадигму масштабирования – будущий двигатель всех достижений в области ИИ. Но Суцкевер был из тех, кто не может стоять на месте. Он даже одевался как турист – мягкие парусиновые шляпы Tilley с двумя ремешками на случай сильного ветра, черная поясная сумка Patagonia, быстросохнущие брюки – словно в любой момент был готов сорваться в приключение.

Суцкевер родился в Советском Союзе в еврейской семье. Когда ему было пять лет, семья переехала в Израиль. В том же возрасте произошло событие, определившее его будущее, – он внезапно открыл для себя собственное сознание. «Я словно проснулся и почувствовал себя личностью, – вспоминал он. – Это было потрясающе – вдруг осознать, что ты существуешь». Тот момент врезался в память, и позже он задумался: может ли ИИ помочь разгадать тайну сознания? «Меня интересовала душа, – рассказывал он. – Я размышлял: может, душа – это то, что способно учиться? Ведь компьютер не умеет учиться. Но если компьютер сможет учиться, что это скажет нам о душе?» С детства его завораживала «великая нерешенная проблема»: что такое обучение на самом деле и способны ли на него машины.

В израильской школе он настолько опережал программу, что еще в средних классах начал заочно изучать университетские курсы. «Я не любил ходить в школу – там не учили ничему новому, время тратилось впустую. Мне всегда хотелось вырваться из этой системы», – признавался он.

В 16 лет его семья иммигрировала в Канаду, где он проучился всего месяц в одиннадцатом классе средней школы, после чего бросил ее и поступил в Университет Торонто сразу на третий курс. Суцкеверу и его родителям пришлось приложить немало усилий, чтобы убедить университет принять его без аттестата о среднем образовании. Но как только это произошло, он немедленно направился к кабинету Джеффа Хинтона, легендарного исследователя ИИ. 17-летний подросток, подрабатывавший продавцом картошки фри в парке развлечений Paramount Wonderland, спросил, можно ли ему изучать машинное обучение под руководством профессора. Дело было воскресным вечером, и Хинтон предложил договориться о встрече в более подходящее время. Но Суцкевер настаивал. Тогда Хинтон дал ему свою фундаментальную работу о методе обратного распространения ошибки и велел возвращаться, когда он ее прочтет. Через несколько дней Суцкевер вернулся и сказал, что не понимает. «Это же элементарный матанализ», – удивился Хинтон. «Да нет, – возразил Суцкевер. – Я не понимаю, почему вы не берете производные и не передаете их подходящему оптимизатору функций»[231]. Хинтону потребовались годы, чтобы прийти к такому пониманию. Он дал юноше другую статью, и тот вернулся с не менее глубоким наблюдением. «Он сказал: “Вы обучаете одну нейросеть для одной задачи, потом другую – для другой. Почему бы не обучить одну сеть решать обе задачи сразу?”» – вспоминал Хинтон.

«Это единственный студент, у которого было больше хороших идей, чем у меня самого», – признавался Хинтон. Он пригласил Суцкевера в свою лабораторию, несмотря на то что формально тот отставал от других студентов. Суцкевер получил степень бакалавра математики в Университете Торонто, а затем под руководством Хинтона защитил докторскую по информатике.

«Он очень силен в математике, но главное – он мыслит самостоятельно, и мыслит блестяще, – говорил Хинтон. – Он интеллектуально честен и при этом бесстрашен. Он не цепляется за идею только потому, что она принадлежит ему».

Это сочетание качеств сделало его востребованным руководителем – человеком, полным собственных идей, но открытым к чужим. При этом он с самого начала твердо верил в потенциал нейронных сетей. «Илья был убежден в перспективности нейросетевого подхода к ИИ и очень рано понял: чем больше масштаб нейронной сети, тем лучше она работает. Мало кто тогда рассуждал подобным образом», – отмечал Хинтон. Большинство считало эту идею отговоркой, объясняющей, почему нейронные сети все еще не показывали хороших результатов. «Илья понимал, почему масштабирование улучшит работу нейросетей, и был, пожалуй, самым убежденным сторонником этого подхода среди всех исследователей».

По словам Суцкевера, он пришел к этому убеждению методом исключения, тщательно изучив сначала все другие подходы к ИИ, чтобы убедиться в своей правоте. «В конце концов я смог сформулировать, на мой взгляд, предельно ясное, простое и убедительное объяснение того, почему все другие формы ИИ бесперспективны», – говорил он.

Суцкевер считал, что исследования ИИ попали в ловушку академических требований – ученые публиковали статьи с красивыми теоремами, которые демонстрировали их интеллект, но не приближали к цели. Для этого явления у него было название: «зависть к математике». И он считал, что его собственное математическое образование делало его невосприимчивым к этой болезни.

«Если вами движет желание доказывать теоремы, вы выбираете те области, где это возможно, тогда как об ИИ на основе нейронных сетей теоремы доказать невозможно, потому что он слишком сложен, – объяснял он. – Но в том-то и дело: вещи, которые нам нужно изучать, очень сложны. Если ваш ИИ слишком прост, он никогда не заработает. Это тупиковый путь. ИИ должен быть сложным».

Убеждение Суцкевера базировалось на простой идее: человеческий мозг – это карта, ведущая к общему искусственному интеллекту. Как метко заметил Хинтон, мы не понимаем, что происходит в голове у таксиста, но это не мешает нам садиться в машину и ожидать, что она довезет нас до нужного места. «Непостижимость нейросетевого ИИ – не недостаток, а ключевое преимущество. Мы применяем непостижимый способ решения непостижимой проблемы, – утверждал Суцкевер. – Но самым сильным аргументом был тот факт, что человеческий мозг тоже представляет собой нейросеть, состоящую из маленьких простых нейронов. Если что-то способен сделать мозг, почему того же не может правильно обученная искусственная нейросеть? Остается выяснить, что значит “правильно обученная”».

Вся лаборатория Хинтона работала исходя из предпосылки, что нейронные сети могут работать, – и стремилась расширить границы их возможностей. Человеческий мозг состоит из 100 миллиардов нейронов, которые, по сути, действуют как маленькие переключатели, которые либо передают дальше сигнал, поступающий через дендрит, либо нет, в зависимости от его силы. Искусственные нейроны, впервые предложенные в 1940-х годах, были грубыми аналогами этих переключателей. Сила входящего сигнала выражалась числом – «весом». Великое открытие Хинтона 1980-х годов – метод обратного распространения ошибки – дало математическую формулу для обучения этих весов на основе опыта. «Это уже немного напоминает работу мозга, – говорил Суцкевер. – Теперь нейросети могут учиться по-настоящему интересным вещам». Но тем не менее на протяжении долгих лет нейронные сети не оправдывали надежд энтузиастов.

Затем, около 2010 года, появилась новая технология, изменившая правила игры: графический процессор, или GPU. Изначально разработанные для обработки графики в видеоиграх, GPU обладали уникальной способностью быстро выполнять множество вычислений одновременно, что позволило исследователям работать с нейросетями и массивами данных невиданных прежде размеров. Наконец-то можно было приблизиться к масштабам и сложности человеческого мозга. «Если следовать этой аналогии, становится понятно, почему нужна большая сеть, – ведь мозг состоит из огромного количества нейронов», – объяснял Суцкевер.

Хинтон и Суцкевер считали, что все элементы для решения задачи компьютерного зрения с помощью нейронных сетей уже имеются. Чтобы доказать это, Суцкевер предложил лаборатории принять участие в ежегодном конкурсе Стэнфорда. Университет собрал крупнейшую в мире базу фотографий, известную как ImageNet, и предложил исследователям научить машины правильно распознавать изображения. Каждый год победителем становилась исследовательская группа с наименьшим процентом ошибок. Хинтон закупил для лаборатории GPU и дал карт-бланш Алексу Крижевскому – партнеру Суцкевера, талантливому разработчику, умевшему выжимать из графических процессоров максимум производительности. Тот загружал фотографии в модель и продолжал ее настраивать, пока она не научилась распознавать объекты на изображениях. Суцкевер тем временем сосредоточился на подготовке данных, чтобы сделать их более «удобоваримыми» для машины. В итоге их модель победила в соревновании ImageNet с огромным отрывом, а их последующая статья, получившая неофициальное название AlexNet – в честь Крижевского, показала: нейросети – жизнеспособный путь развития ИИ, пусть и требующий виртуозной инженерной работы и колоссальных вычислительных мощностей[232].

«Нейросеть должна быть правильного типа, все детали должны быть выверены. И тогда вам остается только ее масштабировать. Мы поступили именно так, и это сработало, – говорил Суцкевер. – Если мы исходим из того, что искусственный нейрон хотя бы приблизительно похож на биологический, то нейросеть размером с человеческий мозг теоретически способна на все, что может человек».

Статья 2012 года перевернула и всю область исследований, и жизнь ее авторов. За их стартап DNNresearch развернулась настоящая битва между гигантами технологической индустрии. Победителем вышел Google. Суцкевер, годами читавший о Кремниевой долине, наконец переехал туда и начал работать в кампусе Google в Маунтин-Вью, не веря своей удаче. «Я словно попал в будущее, где все помешаны на искусственном интеллекте», – говорил он.

Ему нравилось работать в Google, но еще больше он любил приключения, поэтому, когда Альтман прислал ему приглашение в Rosewood, Суцкевер заинтересовался, особенно узнав, что среди гостей будет Маск. «Я знал, что там будет Илон, и был так взволнован, что буквально побежал на этот ужин».

Грег Брокман опоздал и переживал, что пропустил самое интересное. Но Маск задержался еще сильнее, на целый час. Тем временем Альтман представил Брокмана исследователям, с которыми тот еще не был знаком, включая Суцкевера. Маск появился, когда все уже переместились в помещение и расселись за длинным столом. Главный вопрос: реально ли вообще создать новую лабораторию ИИ, учитывая колоссальную фору Google и других техногигантов? Не слишком ли поздно? «Каждый пытался объяснить, почему это невозможно, но никто не звучал убедительно, – вспоминал Брокман. – Шансы казались минимальными, но не нулевыми».

После ужина Альтман подвез Брокмана до города. По пути Брокман – единственный из присутствовавших, кто не имел постоянной работы, – вызвался взяться за создание лаборатории, которую они только что обсуждали. А на следующий день Альтману написал Суцкевер: «Если вы ищете руководителя для лаборатории, я определенно заинтересован».

Брокман и Суцкевер отлично сработались. Через несколько недель они встретились за обедом и обнаружили, что их видение возможностей ИИ совпадает, а навыки идеально дополняют друг друга. Хотя Суцкевера прежде всего привлекала перспектива работы с Маском, он, как отмечал его наставник Хинтон, «также был очень впечатлен Грегом Брокманом. Это сыграло важную роль в его решении. Грег был не только очень умен и технически подкован, но и разбирался во всех тех бизнес-вопросах, о которых Илья не имел ни малейшего представления».

Будучи новичком в машинном обучении, Брокман понимал, что он не самый очевидный кандидат для формирования команды исследователей ИИ. Поэтому по совету Альтмана он обратился к тому, кто подходил для этой роли идеально: к профессору Монреальского университета Йошуа Бенжио, одному из пионеров революции глубокого обучения наряду с Хинтоном и Янном Лекуном[233]. Бенжио разделял опасения Маска относительно рисков ИИ, сочувствовал их проекту и был впечатлен участием Суцкевера.

«Когда основатели OpenAI обратились ко мне, у них была замечательная идея, – рассказывал Бенжио. – Некоммерческая организация. Открытая наука. Развитие ИИ в направлении, которое, как я считал, имело большой смысл. Поэтому я поверил в их историю и с удовольствием давал им советы». Пару месяцев он помогал молодой лаборатории, составил список перспективных исследователей, к которым следовало обратиться Брокману. Среди них были Войцех Заремба, работавший над компьютерным зрением сначала в Google Brain, затем в Facebook, и Дурк Кингма – докторант, специализировавшийся на глубоком обучении и стажировавшийся в DeepMind. «У каждого я спрашивал, с кем еще стоит поговорить», – рассказывал Брокман.

В течение первого месяца Брокман думал, что организация начнется с нескольких ключевых фигур, включая его самого, Суцкевера, Дарио Амодеи и Криса Ола. Вместе они обсуждали ценности и культуру будущей компании. Другой исследователь, с которым он общался, Андрей Карпатый – эксперт по компьютерному зрению, только что защитивший докторскую диссертацию в Стэнфорде под руководством Фей-Фей Ли, создательницы массива данных ImageNet, – поначалу скептически относился к проекту, поскольку Брокман пришел из другой области. Но когда Брокман переговорил с другом Карпатого Джоном Шульманом и тот присоединился к лаборатории, все изменилось. Доверие Шульмана убедило и Карпатого, и Зарембу – они решили дать проекту шанс. «Я думал, что складывается очень интересная команда – маленькая, но очень сильная. Я знал каждого, уважал каждого». Но когда усилия по набору персонала, казалось, начали набирать обороты, Амодеи и Ола внезапно отказались участвовать. Они не увидели у маленькой лаборатории четкой миссии и ушли в Google Brain. Брокману нужно было удержать оставшихся кандидатов.

«Заставить их всех сказать “да” было непросто, но потом у Сэма возникла идея организовать выездное мероприятие», – рассказывал Брокман. План был простой: собрать потенциальных сотрудников, угостить вином на фоне красивых пейзажей и добиться четкого согласия. «И это сработало», – отмечал Брокман. В ноябре 2015 года он арендовал автобус и отвез 10 потенциальных сотрудников на однодневную экскурсию в винодельню в долине Напа. Там они бродили по виноградникам и обсуждали один из первых проектов – создание среды обучения с подкреплением, которая научит ИИ-агента ориентироваться в интернете. В терминологии ИИ «агент» – это система, способная принимать решения и взаимодействовать с окружающей средой для достижения целей. На обратном пути они застряли в пробке, но никто не жаловался – все были увлечены разговором. «Мы просто весь день гуляли и говорили обо всем – о видении, миссии, исследовательских планах, – вспоминал Карпатый. – Было здорово. Мы уважали друг друга, чувствовалась общность. Атмосфера была отличная. Это укрепило мою уверенность – я понял, что и в самом деле хочу присоединиться к ним и сделать этот проект реальностью».

После поездки Брокман дал каждому три недели на размышления. В то время участие Маска в проекте еще не было подтверждено. Новая лаборатория создавалась как часть некоммерческого подразделения YC Research, о котором Альтман объявил в октябре, вложив 10 миллионов собственных средств. Альтман заявил, что YC Research будет заниматься фундаментальными научными исследованиями с горизонтом планирования, недоступным обычным стартап-инвесторам. «Стартапы эффективны, когда у вас есть вопрос и вы знаете на него ответ», – сказал Альтман Джессике Лессин из The Information. Он хотел, чтобы YC Research стал новой Bell Labs – легендарной лабораторией, где с 1930-х по 1970-е годы были изобретены транзистор, лазер, операционная система Unix и языки программирования вроде Cи. Версия YC должна была начаться с 10 исследователей – штатных сотрудников YC, которые получили бы долю в компании как часть вознаграждения – в этом Альтману приходилось конкурировать с щедрыми пакетами акций, предлагаемыми технологическими гигантами. Он пообещал, что любая интеллектуальная собственность, разработанная исследователями, будет находиться в свободном доступе, если только ее публикация не создаст угрозу безопасности. «Никому же не хочется, чтобы технологии редактирования генома контролировала одна компания», – пошутил он[234].

Некоммерческий статус оказался весомым аргументом при найме исследователей. «Нам говорили: ИИ станет настолько важным, что нельзя отдавать его в руки коммерческой организации с ее бесконечной погоней за прибылью, – рассказывал Карпатый. – Меня это очень зацепило».

Идея некоммерческой организации в конечном итоге привлекла и Маска. В ноябре Брокман написал ему: «Я надеюсь, что мы войдем в эту область как нейтральная группа, стремящаяся к широкому сотрудничеству и смещению общественного диалога в сторону выигрыша для всего человечества, а не какой-то конкретной группы или компании. (Думаю, это лучший способ для нас встать на путь превращения в ведущий исследовательский институт.)» Маск согласился финансировать лабораторию и предложил название: Институт OpenAI или просто OpenAI[235].

Майкл Мориц из Sequoia отговаривал Альтмана от идеи некоммерческой организации. По его мнению, это противоречило натуре Альтмана. «Он прирожденный делец, человек рынка. Создать OpenAI как некоммерческую организацию для него – все равно что играть на чужом поле», – объяснял Мориц.

Грэм считал, что у Альтмана просто не было другого выбора, кроме как создать OpenAI в виде некоммерческой организации, – он уже руководил YC и не мог параллельно основывать коммерческую компанию. «Люди думают, будто он провернул какую-то нечестную схему – сначала создал некоммерческую организацию, а потом превратил ее в бизнес. Но кто бы на такое купился? Если бы он мог вернуться в прошлое, неужели не создал бы сразу коммерческую компанию? – рассуждал Грэм. – Он же гений фандрайзинга, легко привлек бы инвестиции. Причина, по которой он оформил OpenAI как некоммерческую организацию, заключалась в том, что у него уже была работа».

Как бы то ни было, 8 декабря 2015 года OpenAI была зарегистрирована в штате Делавэр как некоммерческая организация. В ее уставе говорилось: «Созданная технология будет служить обществу, и корпорация будет стремиться к тому, чтобы технология с открытым исходным кодом работала на благо общества, когда это применимо»[236]. Через несколько дней команда вылетела в Монреаль, чтобы представить свою новую лабораторию на ежегодной конференции NIPS. Но по прибытии они столкнулись с проблемой: Суцкевер начал колебаться.

С тех пор как Суцкевер сообщил руководству Google о своем уходе, его активно пытались удержать, предлагая зарплату, в разы превышающую рыночную, и даже возможность возглавить собственную лабораторию. Суцкевер отказался от участия в OpenAI, но затем Альтман сообщил ему, что Маск решил присоединиться к проекту. «Ух ты, это меняет дело, – сказал Суцкевер. – Если бы не участие Маска, я, скорее всего, не согласился бы». Он приехал в Монреаль с твердым намерением работать в новой лаборатории. Но тут к нему подошел Джефф Дин – один из самых авторитетных специалистов Google, курирующий все исследования корпорации в области ИИ. Он предложил почти 6 миллионов долларов в год и воззвал к идеализму Суцкевера, к его привязанности к коллегам из Google. Суцкеверу требовалось время подумать. OpenAI пришлось отложить объявление на несколько дней. Наконец в последний день конференции, за несколько часов до запланированной публикации анонса в блоге, у них не осталось выбора – что бы ни решил Суцкевер, объявление нужно было делать.

Брокман сделал последнюю попытку, обратившись к Суцкеверу напрямую: «Слушай, я очень хочу работать над этим вместе с тобой. Ты с нами?» В последний момент Суцкевер согласился – решающую роль сыграло его уважение к Брокману. «Грег произвел на меня огромное впечатление. Я верил в его таланты, чувствовал, что мы идеально дополняем друг друга. И не ошибся».

Через несколько минут 11 декабря в блоге появился пост за подписью Брокмана и Суцкевера. Они объявляли о запуске OpenAI – некоммерческой исследовательской компании с финансированием в миллиард долларов. Деньги предоставили Маск, Альтман, Брокман, Джессика Ливингстон, Питер Тиль, Amazon Web Services, Infosys и YC Research. Ошеломляющая сумма была идеей Маска. «100 миллионов – это слишком мало. На фоне бюджетов Google и Facebook мы будем выглядеть жалко, – писал Маск Брокману 22 ноября. – Давайте объявим о миллиарде. Это реально. Я покрою все, что не предоставят другие». Он также предложил привлекать новых сотрудников не только опционами YC, но и акциями SpaceX.

«Наша цель – развивать цифровой интеллект так, чтобы это приносило максимальную пользу всему человечеству, без оглядки на финансовую выгоду, – писали Брокман и Суцкевер. – Мы верим: ИИ должен стать продолжением человеческой воли и, следуя принципам свободы, быть доступным всем в равной степени. Результат непредсказуем, работа предстоит сложная, но мы убеждены в правильности цели и выбранной структуры. Надеемся, именно это важнее всего для лучших специалистов в нашей области».

Вечером на коктейльной вечеринке, организованной Facebook, главный исследователь этой компании в области ИИ Янн Лекун – третий «крестный отец искусственного интеллекта» наряду с Хинтоном и Бенжио – сказал Суцкеверу, что из-за отсутствия опытных специалистов по машинному обучению у них нет шансов. «Вы провалитесь», – заявил он[237].