В 2020 году OpenAI представила GPT–3, обученный на текстовых данных объемом более терабайта, что составляло примерно 100 миллиардов слов. Подробности его обучения не разглашались, но впоследствии выяснилось, что OpenAI крайне вольно интерпретировала идею «добросовестного использования», включив в обучающий набор не только всю англоязычную «Википедию», но и обширные данные с защищенных авторским правом веб-сайтов, в том числе из архивов The New York Times начиная с 1851 года.
Из литературы, помимо самиздатовских вампирских романов, в этот набор вошел загадочный корпус текстов под названием Books2. Многие полагали, что он был составлен на основе LibGen, пиратской коллекции, состоящей из 4 миллионов электронных книг, которые годами циркулировали по файлообменникам (среди подавших в суд на OpenAI, помимо Times, были известные писатели, такие как Джонатан Франзен, Джон Гришэм, Джоди Пиколт и Джордж Мартин). Затем модель была тонко настроена для исключения ответов оскорбительного содержания.
GPT–3 поразил техническое сообщество своими способностями, в том числе к решению логических задач и написанию полноценного кода. Однако его дебют остался незамеченным широкой публикой. И только к концу 2022 года общественное внимание привлек ChatGPT – бот для общения с последними моделями OpenAI, разработанный Суцкевером и его командой.
Детали функционирования этих моделей оставались засекреченными. Microsoft на тот момент сделала инвестиции с ограниченной прибылью в подразделение OpenAI на сумму не менее 10 миллиардов долларов и не желала делиться с конкурентами закрытыми данными. Можно было сказать лишь, что ChatGPT был адаптирован для общения с человеком на основе не только текстов из интернета, но и стенограмм видео с YouTube и данных из лицензированных сторонних источников. По самым консервативным оценкам, в модели было не менее триллиона параметров, то есть, если применять биологическую аналогию, она уже соответствовала мозгу кошки.
Бета-версия ChatGPT была выпущена 30 ноября 2022 года без маркетинговой поддержки и предоставлялась пользователям совершенно бесплатно. Путь к мировому господству выглядел как незатейливая веб-страница в серых тонах с мигающим курсором в строке, в которую пользователь мог вводить абсолютно любые запросы. Действительно любые. ChatGPT умел писать стихи! И не просто банальные вирши, а сонеты, лимерики и даже секстины. Он справлялся с написанием сценариев, эссе и рабочего компьютерного кода. А еще умел создавать короткие рассказы и письма и давал родителям ценные советы по воспитанию детей. За первые пять дней на тестовую версию подписались более миллиона человек. К январю 2023 года у ChatGPT было 100 миллионов активных пользователей в месяц.
В марте 2023 года OpenAI представила на своем онлайн-портале обновленную модель: GPT–4. Для оценки уровня интеллекта своего творения разработчики OpenAI провели серию академических испытаний. GPT–4 успешно сдал экзамены на юриста и получил высшие баллы в продвинутых школьных программах по истории искусств, истории США, государственной системе США, биологии и статистике. В вербальной части экзамена для поступающих в магистратуру его результат оказался среди 1% лучших результатов, а на вводном экзамене сомелье – среди лучших 8%.
Исследователи добавили в нейронную сеть модуль визуального распознавания, что позволило ей не только точно описывать изображения, но и интерпретировать сложные визуальные шутки. В одном из экспериментов ей показали изображение массивного компьютерного кабеля из 1990-х годов, подключенного к iPhone, и попросили объяснить, что она видит. «Юмор этого изображения заключается в абсурдности подключения огромного устаревшего коннектора VGA к маленькому современному порту для зарядки смартфона», – объяснила модель. Позднее в социальных сетях пользователь продемонстрировал, как GPT–4 может создать веб-сайт, получив в качестве эскиза рисунок на салфетке.
В этот период я начал беспокоиться, что скоро останусь без работы. Однажды я попросил ChatGPT заставить меня плакать над рассказом и получил трогательную историю о паре певчих птичек, одна из которых погибла, ударившись о стекло, а другая осталась охранять пустое гнездо. В другой раз я дал ему задание рассмешить меня, и он предложил представить, как человек в соседней машине ковыряет в носу. Но я не использовал ChatGPT для написания этой книги – слишком страшно.
Мой опыт сходен с опытом пользователей по всему миру. Школьники поняли, что могут использовать нейросеть для написания сочинений, и домашние задания ушли в прошлое. Юристы начали применять ее для получения кратких обзоров правовых документов, соискатели работы – для составления резюме. Для моего отца ChatGPT написал обращение к местным властям с просьбой установить дорожный знак. Это было настоящее волшебство – по крайней мере так казалось. «Однажды пообщавшись с ChatGPT, люди попадают на крючок, – говорит Илья Суцкевер. – Этот первый опыт сродни духовному переживанию. Вы думаете: "Ничего себе, этот компьютер и правда все понимает!"»
На обучение модели GPT–4 OpenAI затратила более 100 миллионов долларов, причем львиная доля этих средств перешла через Microsoft к Nvidia. В отличие от GPT–3, который представлял собой единую масштабную нейронную сеть, в GPT–4 использовалась модель Mixture of Experts, то есть набор специализированных нейронных сетей, каждая из которых выполняла свою задачу. Одна экспертная сеть обеспечивала контроль запросов, блокируя попытки пользователей узнать у GPT–4, как сделать бомбу или избавиться от трупа, другая занималась написанием компьютерного кода, третья обслуживала эмоциональную составляющую. (Комментировать архитектуру GPT–4 в OpenAI отказались.)
Затраты на инференцию, или вывод информации, в GPT–4 могли составлять более половины расходов на обучение, при этом функция должна была постоянно быть доступной для пользователей. По оценке одного из экспертов, цена инференции составляла около четверти цента за слово. При такой стоимости написание курсовой работы в 5000 слов обошлось бы в 10 долларов. Это гораздо дешевле, чем заказать ее безработному аспиранту, и значительно проще, чем писать самостоятельно. Чтобы компенсировать затраты на инференцию, OpenAI установила месячную плату за доступ к GPT–4 в размере 20 долларов. К марту 2023 года продукт привлек почти 2 миллиона подписчиков.
Объединение архитектуры трансформера с гипермасштабируемыми параллельными вычислениями породило своего рода кембрийский взрыв[17] в развитии ИИ-сервисов. Microsoft создала Copilot – инструмент автодополнения кода, ставший незаменимым для программистов. (Успех оказался настолько впечатляющим, что Хуанг сделал смелый прогноз, заявив, что в ближайшем будущем традиционные языки программирования будут заменены обычными словесными описаниями.) DeepMind создала AlphaFold2 – искусственный интеллект, который предсказывал трехмерную структуру белков на основе последовательностей аминокислот. Это приближало эру «программируемой биологии», в которой четыре азотистых основания, входящих в состав РНК, можно было заставить работать по принципу нулей и единиц в двоичном компьютерном коде.
Появилось множество синтезированных ИИ-продуктов, которые обещали произвести революцию в творческих профессиях благодаря созданию контента по запросу. Такие программы, как DALL-E от OpenAI и конкурирующие с нею Midjourney и Stable Diffusion, способны за считаные минуты нарисовать произведение изобразительного искусства в стиле любого художника. Стартапы Udio и Suno разработали приложения для генерации музыки любого жанра. Jasper был рассчитан на разработку эффективных маркетинговых кампаний. Sora от OpenAI, представленная в 2024 году, могла в реальном времени создавать видео по описанию.
Хотя потребительские продукты работали блестяще, многие специалисты считали, что подлинные достижения были невидимы для большинства. Промышленное применение ИИ позволило повысить эффективность энергетических систем, ускорить планирование рейсов на авиалиниях, уменьшить сроки доставки грузов и добиться многих других положительных результатов. Несмотря на то что все эти новшества внедрялись в инфраструктуру незаметно и для широкой публики оставались за кадром, их совокупным эффектом стало значительное и устойчивое повышение эффективности работы множества сфер.
Прогресс наблюдался и в том, что, вероятно, стало последним рубежом человеческих достижений: самосовершенствовании искусственного интеллекта. В 2022 году DeepMind представила нейронную сеть, предназначенную для ускорения матричных вычислений. Спустя два года Nvidia выпустила программный пакет, в котором генеративный ИИ использовался для проектирования схем на кремниевых микрочипах. Однако, несмотря на технологические прорывы, саморазвитие ИИ пока оставалось под контролем человека.
Тем временем появились и менее приятные возможности применения ИИ. С помощью технологии клонирования голоса недоброжелатели озвучили компьютерную игру Overwatch голосами Дональда Трампа и Джо Байдена. Соцсети наводнил алгоритмически сгенерированный контент негативного содержания. Ученицы старших классов стали получать порнографический дипфейк-спам. Голосовые боты заполонили телемаркетинг, терроризируя людей звонками, а мошенники имитировали голоса якобы похищенных или попавших в беду людей, чтобы выманить деньги у их родственников. Гонконгская полиция рассказала о случае, когда финансовый сотрудник архитектурной фирмы оказался обманутым на 25 миллионов долларов; его коллеги на видеоконференции оказались дипфейк-клонами. Специалисты утверждали, что единственным решением подобных проблем может стать еще более широкое использование ИИ.
Крупнейшие технологические корпорации кардинально изменили свои бизнес-модели с учетом развития нейросетей. Microsoft, Meta, Tesla и Google вкладывали миллиарды в разработку ИИ. Автопроизводители обещали вот-вот наладить выпуск машин с автопилотами, а оборонный сектор разрабатывал автономное оружие. В 2023 году ИИ-стартапы собрали в общей сложности 50 миллиардов долларов инвестиций. Щедро финансировались проекты в медицине, образовании, развитии бизнес-платформ и робототехнике.
На этом фоне фондовый рынок стремительно рос в ожидании небывалого скачка производительности во всех сферах. Разработчикам ИИ присуждали множество премий. В 2024 году сразу два специалиста, работающих с искусственным интеллектом, были удостоены Нобелевской премии: Демис Хассабис из DeepMind получил награду по химии за исследования структуры белков, а Джеффри Хинтон стал лауреатом премии по физике[18]. В том же году Дженсен Хуанг был избран в Национальную инженерную академию, что многие сочли давно заслуженным признанием. И все это – огромные финансовые потоки, труд множества талантливых людей и его результаты – неизбежно было связано с корпорацией Nvidia.
В романе Эрнеста Хемингуэя «Фиеста» Майка Кэмпбелла, спившегося и обнищавшего ветерана войны, спрашивают, как он обанкротился. «Двумя способами, – отвечает он. – Сначала постепенно, потом сразу». Этими же словами можно описать историю обогащения Дженсена Хуанга. Небольшие успехи и вложения, накапливавшиеся в течение двадцати лет, теперь приносили феноменальные дивиденды.
В начале 2023 года Хуанг сообщил инвесторам, что Nvidia продала суперкомпьютерные кластеры на базе GPU пятидесяти компаниям из первой сотни крупнейших корпораций Америки. Остальные пятьдесят, добавил он, арендовали инфраструктуру Nvidia через облачные сервисы. По его словам, в 2023 году доходы от центров обработки данных впервые превысили доходы от игр, и он ожидал, что в следующем году они удвоятся. Nvidia, контролировавшая почти 90% рынка микросхем для ИИ, стала объектом пристального внимания Уолл-стрит, а телеканал CNBC даже запустил обратный отсчет до даты объявления квартальных результатов компании. Впервые ожидания оказались скромнее реальности, которая их превзошла. Когда 25 мая 2023 года открылись торги NASDAQ, стоимость Nvidia выросла примерно на 200 миллиардов долларов. К закрытию торгов Nvidia стала шестой корпорацией на планете по стоимости, которая превысила совокупную стоимость Walmart и ExxonMobil. «В мире идет война за ИИ, и Nvidia – единственный торговец оружием», – заметил один из аналитиков с Уолл-стрит.
Десять лет назад Хуанг умолял Fidelity не отстранять его от руководства компанией. Теперь, в свои шестьдесят, он стал самым знаменитым монополистом на планете. В Тайване лапшичные, которые он посещал, помещали его фотографию в меню, а его кожаные куртки демонстрировались в разделе «Стиль» газеты Times.
Помимо домов в Лос-Альтосе и на Мауи, он через подставную компанию приобрел особняк с семью спальнями за 38 миллионов долларов в престижнейшем районе Сан-Франциско «Золотой берег». Дом с библиотекой, тренажерным залом и кинотеатром был одним из самых дорогих в городе. Хуанг встал в один ряд с такими культовыми фигурами, как Джобс, Безос, Гейтс и Цукерберг. Его микросхемы ценились настолько дорого, что их можно было использовать в качестве залога для получения кредитов, а спрос был таким, что весьма влиятельные люди буквально шли к нему на поклон, чтобы их получить.
В конце 2023 года Хуанг встретился с Илоном Маском и сооснователем Oracle Ларри Эллисоном в ресторане Nobu в Пало-Альто. Стоимость активов Эллисона и Маска превышала 300 миллиардов долларов, но даже в этой избранной компании тон задавал Хуанг. Двое миллиардеров весь вечер упрашивали его поставить им больше ИИ-чипов. «Мы с Илоном буквально клянчили, по-другому не скажешь, – вспоминает Эллисон. – Это был час суши и унижения».
Бурный рост акций Nvidia принес целое состояние тем инвесторам, кто остался ей верен. Тенч Кокс и Марк Стивенс входили в совет директоров с 1993 года, помогая Хуангу в трудные времена и защищая его, когда Starboard Value пыталась захватить компанию. К 2024 году доля каждого из них в Nvidia превышала 2 миллиарда долларов. Кокс, вложившийся в сотни компаний, посмотрел на меня как на идиота, когда я спросил, были ли его инвестиции в Nvidia самыми лучшими. «Э-э… да», – ответил он (позже до меня дошло, что доля одного из основателей в самой дорогой компании мира по определению является наилучшей из возможных инвестиций).
Доля давнего члена совета директоров Харви Джонса оценивалась примерно в 600 миллионов долларов. Брук Сьюэлл, председатель аудиторского комитета Nvidia, владел акциями компании на сумму около 400 миллионов. Джим Гейтер, первый юрист Хуанга, располагал акциями «всего лишь» на 300 миллионов, поскольку присоединился к совету директоров только в 1998 году. Доля финансового директора Nvidia Колетт Кресс составила около 500 миллионов, главного юрисконсульта Тима Тетера – примерно 300 миллионов, а Деб Шокист, операционного гения Nvidia, – более 200 миллионов.
Из-за децентрализованной структуры управления компании старожилы вроде Дуайта Диркса и Билла Дэлли не считались корпоративными руководителями и потому не были обязаны раскрывать свои активы, но я подозреваю, что и у них все было в порядке. Дэвид Кирк, которому Хуанг предложил внушительный пакет акций еще в 1997 году, вышел на пенсию в 2018-м, но сохранил его часть. «У меня гораздо больше денег, чем я когда-либо рассчитывал иметь», – признается он. Самое непрозрачное состояние в Nvidia оказалось у соучредителя Криса Малаховски, чье имя, как я заметил, отсутствовало в списке миллиардеров Forbes. В его последнем обязательном финансовом отчете еще в 2001 году указывалось, что он владел примерно 5% компании. Сегодня эта доля должна составлять более 100 миллиардов долларов. Когда я в середине 2023 года спросил у него, продал ли он акции, он ответил: «Немного».
Как и многие компании, Nvidia позволяла сотрудникам приобретать акции со скидкой. Уникальность программы Nvidia заключалась в том, что скидка рассчитывалась от минимальной цены за предыдущие два года. И хотя сумма покупки была ограниченна, стремительный рост котировок превратил программу в настоящий денежный дождь. Те, кто из года в год вкладывал максимально возможные суммы, оказались в невероятном выигрыше. В связи с тем, что многие сотрудники среднего управленческого звена быстро разбогатели, новички выказывали опасение, что ветераны компании перестанут добросовестно работать. Однако топ-менеджмент с этим не соглашался. Джефф Фишер, один из первых 30 сотрудников Nvidia, возглавляющий ее игровое подразделение, говорит: «Многие из нас сейчас работают фактически на общественных началах, но мы верим в миссию».
Разработка революционных технологий наделяла работу людей смыслом, который невозможно измерить деньгами. Особенно это касалось старой гвардии, долгие годы приходилось объяснять всем подряд, зачем они работают в игровой компании, и постоянно поправлять произносящих ее название. Изначально искусственный интеллект не был для них в числе приоритетов, так что они сами порой удивлялись тому, как все обернулось.
«Тогда ни я, ни кто-либо другой не могли даже вообразить, что то, о чем пишут в научной фантастике, станет реальностью», – говорит Джей Пури, глава отдела продаж Nvidia, работающий в компании с 2005 года. К 2024 году стоимость пакета акций Пури превысила 500 миллионов долларов, но он считает, что самое интересное в работе Nvidia только начинается. «Может, я предвзят, но я действительно думаю, что это самая значимая технологическая компания нашего времени», – говорит он.