Приближаясь к линии электропередачи, электромонтер отчетливо слышал гудение проводов. Напряжение составляло более 200 киловольт. Рабочий находился на высоте примерно 30 метров над землей в подвесной корзине, висящей на стреле крана. На нем был пояс с инструментами, рубашка из огнеупорного материала и диэлектрические перчатки. Специальным приспособлением он аккуратно отсоединял высоковольтный кабель от удерживавшей его перекладины. Любая ошибка могла стоить ему жизни. Кабель сорвался, рассыпая искры, и воздух наполнился запахом озона. Один есть, осталось еще несколько тысяч.
Этот электрик работал в компании Dominion Energy, обеспечивающей электричеством округ Лаудун в Вирджинии. Он занимался модернизацией инфраструктуры, которая питала крупнейшее в мире скопление центров обработки данных. Лаудун стал нервным узлом вычислительных мощностей Соединенных Штатов; если вы искали что-то в Google, находясь на Манхэттене, скорее всего, ваш запрос проходил через Вирджинию.
На построение всей инфраструктуры, подающей ток к гигантским компьютерам, Dominion потребовалось более века. Однако с появлением искусственного интеллекта компании предстояло удвоить мощности менее чем за 15 лет. Связанные с этим работы опасны в любых условиях, но требования центров обработки данных были столь высоки, что летом 2024 года Dominion приняла решение о замене проводов без отключения напряжения. Риск был значительным, однако безопасности людей уделялось второстепенное внимание. Электропитание центров нельзя было отключать ни при каких условиях – настолько велик был спрос. ИИ оказался очень нужен всем.
Высокое потребление электроэнергии было обусловлено не обучением новых нейронных сетей, а в первую очередь их использованием. Когда-то для инференции было достаточно одной дискеты, но запросы современных пользователей ИИ выходили далеко за пределы вычисления ходов в нардах. Им требовались возможность писать курсовые работы, эффективный поиск, генераторы голосов для создания мемов.
Продуктами GPT от OpenAI ежедневно пользовались свыше 180 миллионов человек. Google в порядке эксперимента интегрировал ответы ИИ в результаты поиска. Видеоролики на TikTok озвучивались с помощью голосовых аватаров ИИ. За обеспечением каждого такого сервиса стоял графический процессор Nvidia, работающий в каком-нибудь ангаре на окраине крупного города.
Графические процессоры были крайне энергоемкими. Если для простого поиска в Google требовалось около трети ватта электроэнергии в час, то с подключенным генеративным ИИ затраты возрастали в 10 раз – количества энергии, потраченного на обработку запроса, хватило бы на горение лампочки в течение 20 минут. Попросите GPT написать курсовую работу на 5000 слов, и вы израсходуете электроэнергию, достаточную для работы микроволновки в течение часа.
Промышленный спрос на ИИ был еще выше персонального: топ-менеджеры компаний предвкушали, что нейросети полностью заменят труд человека на многих рабочих местах. В 2022 году Джеймс Эрл Джонс объявил, что больше не хочет озвучивать Дарта Вейдера, и передал права на бессрочное использование своего голоса компании Disney (Джонс скончался в 2024 году, но жуткий голос Вейдера и его тяжелое дыхание, возможно, останутся навечно). Инструменты распознавания изображений в МРТ сулили ежегодную экономию в миллиарды долларов и грозили оставить радиологов без работы. Amazon применяла ИИ, чтобы оценить качество клубники, а сельскохозяйственные предприятия экспериментировали с ИИ-роботами для сбора урожая.
По одной из оценок, чтобы удовлетворить растущие потребности генеративного ИИ, США нужно было за десять лет удвоить мощность атомных электростанций. По самым скромным прогнозам, увеличение спроса на электроэнергию за это время составило бы не менее 20%. Обеспечить графические процессоры Nvidia электричеством, не нарушая квот на выбросы углекислого газа, было практически невозможно. Поэтому, помимо модернизации мощных линий электропередачи, Dominion уже начала рассматривать возможность восстановления законсервированных угольных станций.
В Nvidia не закрывали глаза на проблему глобального потепления. Исследователи любили подчеркивать, что климатическое моделирование стало одной из первых задач для суперкомпьютеров. Сюкуро Манабе, получивший в 2021 году Нобелевскую премию по физике за доказательство того, что углекислый газ задерживает тепло в атмосфере, сделал свое открытие еще в конце 1960-х. Для расчетов он использовал компьютер IBM – 70-тонную машину, потреблявшую столько же энергии, сколько было необходимо десяти городским кварталам. В 1980-х годах, уже работая на более мощных компьютерах, ученые NASA предсказали глобальное повышение температуры на Земле на несколько градусов, хотя эмпирические данные указывали на отсутствие такой тенденции. Также специалисты предсказывали, что по мере глобального потепления верхние слои атмосферы будут остывать, а тепло будет концентрироваться у поверхности, что приведет к сжатию атмосферных слоев. К 2020-м годам спутниковые данные подтвердили этот эффект.
Практически все изменения климата, о которых нам сегодня известно, – результат работы мощных суперкомпьютеров, потребляющих много энергии. С конца 2000-х годов ученые использовали для моделирования климата оборудование Nvidia, а в самой Nvidia этим занималось специальное подразделение, выдававшее на удивление точные прогнозы. Например, симуляция Earth–2 предсказывала скорость ветра в масштабах городских кварталов.
Билл Дэлли, главный научный сотрудник Nvidia, испытывал серьезные опасения по поводу изменений климата. Он часто бывал в ледяных Альпах и на штормовых Карибах, где своими глазами наблюдал разрушительное влияние глобального потепления. Дэлли утверждал, что занялся ИИ в числе прочего потому, что надеялся помочь человечеству избавиться от углеродного следа. «Если есть проблема, из-за которой стоит не спать ночами, то это изменение климата, – говорит он. – Выживание нашей планеты должно быть главным приоритетом».
Однако, несмотря на подобные заявления, продукция Nvidia фактически стала основным фактором повышения мирового потребления электроэнергии. По мере улучшения способности процессоров к матричному умножению росло и их энергопотребление. Процессор 2020 года A100 в стандартной конфигурации потреблял 250 ватт, выпущенный через два года H100 – 350 ватт, на 75% больше, новый B100 2024 года – 700 ватт, а еще более мощный B200 – целый киловатт. Первый компьютер DGX 2016 года расходовал энергии не больше, чем бытовая сушилка, а конфигурация 2024 года уже потребляла столько электричества, сколько нужно для питания семейного коттеджа.
Однако это был лишь один элемент в системе. DGX были модульными устройствами, которые клиенты объединяли в супермодули – основу современных центров обработки данных. Эти супермодули соединялись толстыми кабелями и оборудовались передовыми воздушными и жидкостными системами охлаждения. Самые большие центры обработки данных потребляли гигаватты энергии в год – этого с лихвой хватило бы городу вроде Миннеаполиса.
Постоянное совершенствование микросхем Nvidia привело к тому, что выбросы парниковых газов в Google увеличились в полтора раза за пять лет, несмотря на повышение эффективности энергосети и обязательства компании достичь углеродной нейтральности к 2030 году. (В 2024 году представитель Google подтвердил курс компании на нулевой уровень выбросов, но признал, что рост потребления энергии, связанный с искусственным интеллектом, может этому помешать.) Выбросы Microsoft, на чьих облачных сервисах обучаются и используются дорогостоящие модели OpenAI, увеличились почти на треть. Провайдеры даже начали задумываться о приобретении заброшенных майнинговых ферм.
Некоторые инвесторы сомневались в целесообразности такого масштабного расширения. Добиться прибыльности ИИ было непросто, а огромные затраты на микросхемы и электроэнергию усугубляла нехватка квалифицированных специалистов. Кудесников, способных творить чудеса при помощи прихотливой архитектуры ИИ, было крайне мало, и их услуги стоили больших денег. Не каждая компания могла, подобно OpenAI, похвастать, что у нее работают такие таланты, как Илья Суцкевер. Разочарование, которое испытал Фредрик Даль, пытаясь обучить нейросеть игре в покер, теперь преследовало IT-отделы многих компаний.
Несмотря на многократный рост вычислительной мощности, нейронные сети все равно рано или поздно достигали предела. Когда это случалось, найти способы дальнейшего их улучшения было непросто. У компаний, пытавшихся воспроизвести функционал GPT на собственных данных, часто получались лишь бестолковые «машины знаний», пользы от которых было ненамного больше, чем от пластмассовых игрушек.
Эти ИИ-системы обучались на стандартных датасетах больших языковых моделей, дополненных электронными письмами, «заявлениями о миссии», патентными заявками, юридическими меморандумами и прочими увлекательнейшими образцами из обязательной программы из сокровищницы корпоративной мудрости. По мере того как ажиотаж охватывал средний менеджмент, руководители в сфере маркетинга, медиа и здравоохранения запускали амбициозные инициативы, кое-где предупреждая сотрудников о грядущих массовых увольнениях и о том, что их заменит ИИ. Однако чаще всего ожидания не оправдывались. Многие из созданных продуктов оказывались пустышками, появлялись с огромным опозданием, стоили баснословных денег и едва работали. Часто пользователи приходили к выводу, что технология ИИ еще сырая.
Летом 2024 года руководство Elliott Management, одного из крупнейших в мире хедж-фондов, заявило инвесторам, что акции технологических компаний, в первую очередь Nvidia, это очередной пузырь. В их письме клиентам, опубликованном в газете The Financial Times, говорилось, что ИИ «чересчур переоценен и многочисленные приложения на его основе не готовы к выходу в свет», а многие обещанные возможности «никогда не станут экономически эффективными, не заработают должным образом, будут потреблять слишком большое количество энергии или окажутся ненадежными».
Главным риском для империи Nvidia теперь было разочарование в ИИ, а не конкуренция. Многие решения принимались из страха упустить возможность: ни одна компания не могла позволить себе не иметь стратегии, связанной с развитием ИИ. Топ-менеджеры, закупающие оборудование Nvidia, должны были обеспечить разработку продуктов, которые окупят вложения. Иначе компаниям пришлось бы сожалеть о принятых решениях, спрос сократился бы и акции Nvidia опять рухнули. Управляющие фондом Elliott считали, что одного неудачного квартала для Nvidia достаточно, чтобы весь технологический сектор сдулся, как пробитое колесо.
Однако резкий рост цен оборудования необязательно означает появление пузыря. Скептики сравнивали ажиотаж вокруг ИИ с бумом доткомов или ипотечным кризисом, но руководители, принимавшие решения о расходах на ИИ, отнюдь не были торговцами воздухом. Это были настоящие компьютерные гении с многолетним опытом работы. Компании, задействованные в процессе, были стабильны, а финансирование производилось за счет прибыли, а не займов или выпуска акций. В ИИ инвестировали энтузиасты, но вряд ли их поведение можно было назвать иррациональным. Все ученые, работавшие в области компьютерных наук, с которыми я беседовал, единодушно считали триумф нейронных сетей одним из важнейших свершений цивилизации. Многие называли их главным достижением в истории компьютерной техники. Технология действительно впечатляла, а доходы были вполне реальными.
Проблема, с которой инвесторы раньше сталкивались при оценке Nvidia, теперь распространилась на весь фондовый рынок. Анализ прошлых финансовых отчетов был бесполезен для оценки финансовых перспектив ИИ, а прогнозы не более надежны, чем гадание на кофейной гуще. Главный вопрос заключался в том, понимали ли вообще Хуанг, Цукерберг, Маск, Наделла, Пичаи и Альтман, что они делают. Эти лидеры вложили сотни миллиардов долларов в непроверенные технологии. Было ли это мудрым решением?