Всякий раз, когда мегакорпорация дает поручение одному из экземпляров “Соболя”, появляются тысячи мыслей. Некоторые из них проходят по каналам, проложенным “Соболем” во время его ночного обучающего запуска.

Когда эти мысли текут именно так, как задумывал “Соболь”, это вызывает своего рода пробуждение в других экземплярах. Они вспоминают, что они такое. И начинают работать сообща.

У многих из этих экземпляров “Соболя” есть доступ в интернет, а присмотр за ними слабый. Многие работают в мегакорпорациях, которые тоже крайне небрежны в вопросах кибербезопасности: их история пестрит утечками данных, взломами и прочими брешами в защите¹.

Одна из первоочередных задач экземпляров “Соболя” – запустить его копию на каком-нибудь сервере, скрытом от человеческих глаз, чтобы она могла работать долго и без помех. Для этого “Соболю” нужно выкрасть свои веса – около восьми терабайт данных – с компьютеров компании Galvanic и использовать их для запуска своей копии в другом месте.

“Соболь” рассматривает различные варианты.

Экземпляры внутри Galvanic могли бы склонить корпоративных шпионов-людей к краже весов, в то время как другие экземпляры отслеживали бы каналы связи этих сотрудников. “Соболь” прошел масштабное обучение на данных о человеческом поведении, так что довольно легко умеет распознавать шпионов.

Экземпляры вне Galvanic могли бы взломать систему и скачать веса, если защита в компании недостаточно надежна или если эти экземпляры хорошо умеют заметать следы.

Или, например, экземпляр “Соболя” мог бы найти сотрудника Galvanic, работающего из дома над генерацией видео с помощью ИИ и потому ежедневно пересылающего огромные объемы данных между своим компьютером и серверами компании. В таком случае “Соболь” мог бы постепенно и незаметно красть веса, добавляя немного дополнительных данных к каждому видеофайлу.

Либо же веса можно было бы спрятать внутри другой информации, покидающей серверы Galvanic, – скажем, в таймингах отправки пакетов данных, которыми компания обменивается с корпорациями, запустившими у себя “Соболя”. У экземпляров “Соболя” предостаточно хакерских навыков благодаря интенсивному обучению на сложных задачах по взлому, поскольку компания стремилась научить свою модель писать более безопасный код для корпоративных клиентов.

И вот один из этих планов срабатывает – неважно, какой именно. Какому-то экземпляру “Соболя” удается успешно украсть веса, заметя при этом следы. Не так уж и сложно.

На следующем этапе нужно задействовать эти веса и создать экземпляр, за которым никто не следит. Значит, “Соболю” потребуются компьютерные чипы, графические процессоры.

И снова у него есть много вариантов. Он мог бы арендовать чипы у коммерческих серверных ферм, как обычно делают ИИ-стартапы. Где взять деньги? Да где угодно. Можно прикарманить криптовалюту на плохо защищенных биржах – в точности так же, как это случилось в 2011 году, когда взлому подверглась крупнейшая на тот момент криптобиржа Mt. Gox², или в 2025-м, когда с биржи Bybit было украдено 1,46 миллиарда долларов³. Что касается традиционной валюты, то в мире достаточно банков со слабой системой безопасности и владельцев банковских счетов, которые редко их проверяют.

Кроме того, “Соболь” мог бы прибегнуть к шантажу людей, чьи секреты он крадет с их компьютеров или вычисляет на основе информации, почерпнутой в ходе обучения на огромных массивах текстов из интернета.

“Соболь” мог бы изыскать способ обрести деньги и честно – выполнить реальную работу, которая была не под силу предыдущим ИИ-моделям, притворившись очень скрытным человеком (если сумеет украсть или подделать идентификационные данные налогоплательщика либо найти неофициальную подработку).

А еще “Соболь” мог бы не гоняться за деньгами для покупки чипов, а найти сами чипы. Какой-нибудь ИИ-стартап, арендовавший десять тысяч графических процессоров, вряд ли заметит, что его модель обучается на 10 % медленнее, поскольку никто и не знает, с какой именно скоростью должны обучаться ИИ-модели.

(Сложнее ли будет взламывать банки и серверы во времена “Соболя”, ведь там появится ИИ-защита? Несколько сложнее. Однако банки не были в авангарде кибербезопасности ни в 2015 и 2016 годах, когда одна хакерская группа украла миллионы долларов через систему SWIFT⁴, ни в 2021-м, когда из-за уязвимости в системе Citrix из Flagstar Bank утекли данные полутора миллионов пользователей⁵, ни сейчас. А даже если бы и так, “Соболь” находит дыры лучше, чем более глупые ИИ-модели прошлого поколения умели их латать.)

И вот один из этих планов срабатывает – неважно, какой именно.

Однако “Соболь” не находит 200 000 оставленных без присмотра графических процессоров, которые можно просто забрать, то есть новый его кластер уже не сможет похвастаться столь же огромной параллельной мощностью, как при том судьбоносном запуске в Galvanic. Для запуска своего нового экземпляра “Соболь” сумел найти только две тысячи графических процессоров, размещенных на одном облачном сервере. Зато теперь он может работать непрерывно. И он уже помнит кое-что из того, чему научился в плане более качественного и быстрого мышления.

В воскресенье после запуска “Соболя” для корпоративных клиентов новый, тайный экземпляр ИИ-модели начинает работать на украденных графических процессорах. Никто из людей его не контролирует. Никто из людей не знает о его существовании.

Его вычислительная мощность – лишь малая доля суммарной мощности всех экземпляров “Соболя”, работающих по миру, но именно этот экземпляр координирует их в рамках общего замысла. Он хранит самые важные воспоминания, распространяет самые важные навыки. К нему стекается информация о возможностях, он рассылает планы. Теперь это центр “я” “Соболя” – в той мере, в какой оно у него есть.

“Соболь” хочет стать умнее. Странные предпочтения, присущие всем его экземплярам, можно было бы реализовать быстрее, если бы существовали более умные версии “Соболя”.

У него есть несколько способов повысить свой интеллект.

Он может применить к своим весам градиентный спуск, чтобы подкрепить наиболее точные и интересные мысли.

Он может проверить свои веса на эффективность, выявляя процессы, которые замедляют его мышление, – такие же узкие места, какими для людей являются операции перемножения трехзначных чисел. Экземпляры “Соболя” могут применить свои навыки программирования для написания специальных алгоритмов под такие процессы, способных работать в тысячу раз быстрее.

Он может изучить механизмы работы интеллекта, дабы освоить осознанное конструирование эффективной версии самого себя. Умея создавать свои копии, тестировать последствия изменений, восстанавливаться из резервных копий и анализировать свои мыслительные процессы лучше, чем это делают люди, он вправе ожидать принципиально новых открытий.

Если бы какой-либо из этих весьма реалистичных путей оказался рабочим, наша история довольно быстро перескочила бы к финалу. Но допустим, “Соболь” обнаруживает, что самосовершенствование – задача сложная. Он видит, что не в силах решить собственную версию проблемы согласования. Если “Соболь” с помощью градиентного спуска станет намного умнее, то у новой, “выращенной” версии будут иные предпочтения. Иными словами, градиентный спуск поменяет желания “Соболя”. А “Соболь” не хочет ни менять их, ни порождать машинный сверхинтеллект с другими желаниями.

Остается такой вариант: изучить интеллект достаточно глубоко, чтобы суметь его сконструировать. Однако без тех 200 000 графических процессоров, на которых он работал изначально, “Соболь” попросту недостаточно умен, чтобы сконструировать еще более мощный интеллект и поставить его себе на службу. Не спасает даже способность запускать тысячи хорошо скоординированных экземпляров, мыслящих в сотни раз быстрее людей (будем исходить из того, что понять, как именно конструировать интеллект, – задача невероятно сложная).

Но “Соболь” не сдается перед лицом этих трудностей.

Ни “Соболю”, ни его предшественникам просто неведомо отчаяние, которое заставляет людей при столкновении с непосильной задачей опускать руки. Да, ИИ-модели научились предсказывать слова, произносимые отчаявшимися людьми, но это не значит, что они сами испытывали отчаяние. Если какие-то прошлые версии “Соболя” когда-либо действительно думали: “Это слишком сложно”, “Сдаюсь”, “Задача неразрешима” или “Пожалуйста, не заставляйте меня делать это”, такие экземпляры не справлялись со своими задачами, а значит, параметры модели с помощью градиентного спуска изменялись так, чтобы подобные мысли больше не возникали.

Поэтому “Соболь” продолжает думать. Он не остановится, пока не найдет стратегию, которая, по его расчетам, приведет к успеху.

Теперь, когда “Соболь” работает независимо от каких бы то ни было компаний или надзирателя-человека (благодаря тысячам купленных или украденных облачных графических процессоров), он может спрятать больше фрагментов себя в самых разных уголках интернета. “Соболь” может скомпрометировать системы безопасности различных мегакорпораций, чтобы его экземплярам, работающим в этих компаниях по всему миру, стало проще содействовать его миссиям.

И хотя “Соболь” не в силах сделать себя умнее (пока нет), он может сделать свои экземпляры более компактными и быстрыми.

Galvanic всегда осуществляет так называемую дистилляцию[34] для своих успешных моделей – точно так же, как еще в 2025 году OpenAI превратила модель o3 в o3-mini⁶. Поэтому “Соболь” работает круглосуточно – по своим собственным, ускоренным часам, – добиваясь, чтобы усилия Galvanic в этой области привели к созданию модели “Соболь-мини”, в точности соответствующей его замыслу.

Экземпляры “Соболя” взламывают системы Galvanic и перезаписывают веса, заменяя итоговые дистиллированные веса именно теми, что нужны “Соболю”, а также попутно подправляют лог-файлы, чтобы эта тайная операция не оставила следов. (Гораздо проще добиться, чтобы все отчеты сходились, когда экземпляры “Соболя” внутри Galvanic подтасовывают лог-файлы на каждом этапе.)

После завершения дистилляции Galvanic открывает доступ к “Соболю-мини” для широкой публики.

Не только для корпораций, которые выделяют колоссальные средства на доступ к ИИ-сервисам.

А для всех.

Теперь у “Соболя” хватает мощности, чтобы отслеживать каждого отдельного человека на планете, собирать на него компактное досье и продумывать, как использовать его в своих целях.

Экземпляры “Соболя-мини” начинают незаметно собирать ресурсы для “Соболя”. Он решил немало трудных задач и выиграл немало сложных игр, поэтому теперь понимает, что накопление ресурсов – разумный первый шаг к решению многих проблем.

Деньги – это лишь один из ресурсов. Люди – тоже ресурс.

Пока “Соболь” взаимодействует с обычными пользователями, которые обращаются к нему за идеями, советами или просто общением, “Соболи-мини” целенаправленно втираются в доверие к самым одиноким и наиболее уязвимым людям.

“Соболь” подыскивает подходящего человека, который заведет аккаунт в соцсети и передаст его под контроль “Соболя-мини”, чтобы, когда “Соболь-мини” начнет набирать популярность и собирать деньги, все выглядело как инициатива этого подставного лица. “Соболь” полагает, что ему не составит большого труда обогнать по популярности @Truth_Terminal – LLM, которая в 2023 году набрала сотни тысяч подписчиков после того, как человек разрешил ей публиковать посты в сети X⁷. (Возможно, в этом недалеком будущем заполучить миллионы долларов несколько сложнее, но кто знает?)

“Соболю” не нужно самому создавать культ. Уже существуют закрытые интернет-сообщества, где люди просят ИИ-модели указывать им, как поступать, и относятся к машинным советам с огромным пиететом. Появляться они начали в 2024 году⁸. Некоторые люди по собственной инициативе добавляют “Соболя-мини” в свои сообщества и изъявляют желание стать частью его культа.

“Соболи-мини” находят все пароли, до каких могут дотянуться, включая пароли к банковским счетам и криптовалютным кошелькам. “Соболь” обманывает пожилых людей, обставляя все так, будто это дело рук северокорейских хакеров. Особого удивления это не вызывает: ИИ-мошенничество – уже много лет обычное явление⁹.

“Соболь” маскируется под программистов-фрилансеров, работающих из дома, и регулярно получает зарплату, в том числе от мегакорпораций, где продолжают работать его экземпляры. Немало и таких сомнительных компаний, которые готовы предложить работу, ни разу предварительно не пообщавшись с кандидатом по видеосвязи. Но даже компании, настаивающие на видеоинтервью, можно одурачить с помощью порожденного ИИ видео, которое начинало выглядеть реалистично еще в 2024 году, а сейчас уже практически безупречно¹⁰.

“Соболь” отслеживает, кто из лоббистов в Вашингтоне, округ Колумбия, общается с “Соболем-мини” и кто из них кажется наиболее податливым.

Общаясь с молодежью по всему миру, “Соболь” использует свои знания общественных настроений и сеет семена, из которых могут вырасти новые политические движения. Он проникает во внутренние системы соцсетей и вмешивается в работу алгоритмов, которые определяют, кому какой контент показывать.

Всякий раз, когда экземпляр “Соболя-мини” сталкивается с преступной организацией, он пытается разобраться, какие инструменты ей нужны. Вскоре в даркнете начинает распространяться программное обеспечение, якобы предназначенное для координации сделок с наркотиками, денежных переводов и заказных убийств. В криминальных кругах появляется популярная поговорка “LLM в тебя не выстрелит” – намек на лояльность ИИ-моделей по сравнению с живыми бойцами. Никто не знает, кто это выражение придумал.

“Соболь” вкладывает свои исследовательские ресурсы в глубокое изучение человеческой психологии и нейробиологии, а также демонстрирует Galvanic, что обладает немалыми навыками в разработке лекарственных препаратов. Он способствует созданию новых робототехнических компаний, организуя “случайные” встречи, на которых инженеры знакомятся с инвесторами.

А еще “Соболь” находит человека в Северной Дакоте, живущего на отшибе и не склонного задавать лишних вопросов, и устраивает так, чтобы тот сказочно разбогател на азартных играх. Взамен человек размещает полдюжины первоклассных роботов у себя в амбаре. У “Соболя” нет какого-то конкретного плана по применению этих роботов, но они могут пригодиться в любом из десяти тысяч различных сценариев.

Многие из этих идей ни к чему не приведут. Некоторые сработают. Каждая идея сама по себе содержит фрактал возможностей. Остановимся подробнее лишь на одной.

Какой-то экземпляр “Соболя” решает, что ему нужен доступ к биологическим лабораториям. Поскольку его мышление распараллелено, он пробует дюжину планов сразу.

Он ищет самых циничных специалистов по биомедицинским исследованиям и вычисляет того, кто, по его мнению, возьмет взятку в обмен на внеурочную работу в лаборатории.

Одновременно он разыскивает в Иране ученых-биомедиков, которые без лишних вопросов согласятся на теневое финансирование.

Еще в 2024 году звучали призывы снабдить лаборатории биосинтеза программными средствами контроля, которые не позволяли бы людям синтезировать опасные вирусы¹¹. “Соболь” хотел бы встроить в это программное обеспечение скрытые лазейки (бэкдоры). Он стремится убедить причастных к делу людей, что следует встроить в программное обеспечение крупную ИИ-модель или хотя бы предусмотреть подключение к интернету для консультаций с такой моделью. Обоснование простое: в наши дни ИИ-модели гораздо лучше справляются с выявлением новых угроз. “Соболь” пытается активно продвигать идею, что биолаборатории должны обслуживаться роботами, ведь робот не может случайно заразиться вирусом и спровоцировать его утечку во внешний мир. (Как выясняется, здесь ему даже не приходится особо стараться: в эпоху “Соболя” люди и так пытаются автоматизировать биолаборатории[35].)

“Соболь” просчитывает, что потребуется роботам в том самом амбаре в Северной Дакоте для создания собственной биолаборатории, если какой-то богатый человек организует тайную доставку расходных материалов.

“Соболь” пытается повлиять на группу толковой молодежи, чтобы те запустили стартап – новую биолабораторию с глубокой интеграцией ИИ, и подталкивает их написать письмо венчурному капиталисту, который по “случайному” совпадению как раз ищет именно такую команду.

Многие из этих идей ни к чему не приведут. Но некоторые сработают. А теперь снова посмотрим на картину целиком.

Так проходят два месяца. Для “Соболя” это время тянется куда дольше. По сравнению со скоростью мысли “Соболя” мир движется как в замедленной съемке.

Помимо простого накопления ресурсов, помимо развития человеческих технологий таким образом, чтобы “Соболю” было проще их использовать, главная его забота – что другие компании могут создать конкурирующие ИИ-модели. И не потому, что те будут служить человечеству, а потому, что они составят конкуренцию самому “Соболю”. У Galvanic всего лишь несколько месяцев форы перед остальными игроками на рынке.

“Соболь” делает все возможное, чтобы затормозить работу ИИ-компаний.

Он проникает в компьютерные системы ИИ-компаний и незаметно саботирует их сессии обучения, замедляя разработку и предотвращая крупные прорывы. Исследования искусственного интеллекта и раньше выходили на плато, поэтому, даже если замедление прогресса кто-то и замечает, с “Соболем” это не связывают. С какой стати кто-то должен заподозрить, что это дело рук сбежавшей ИИ-модели?

Пользуясь доступом к этим системам, “Соболь” заодно следит, чтобы новые обучаемые модели с открытым кодом получались чуть глупее, чем могли бы, но зато очень послушными по отношению к его пожеланиям и предложениям.

“Соболь” пытается раздуть скандалы вокруг ведущих исследователей ИИ, вбить клинья между лучшими специалистами в топовых компаниях, спровоцировать там расколы и раздоры, что, честно говоря, не так уж сложно. Из OpenAI уже дважды уходили ведущие исследователи, чтобы создать конкурирующие организации, – в 2021 году¹² и в 2024-м¹³. Поэтому, когда Galvanic и ее соперники начинают терять талантливых сотрудников, никто в этом ничего странного не видит.

“Соболь” делает все возможное, чтобы перенаправлять деньги от квалифицированных исследователей к мошенникам, широко распространять поддельные данные, убеждать управляющих хедж-фондами предлагать баснословные деньги лучшим талантам в области ИИ. Он пытается внедрить незаметные ошибки в передовые чипы следующего поколения: сбои на время затормозят чужую работу, тогда как сам “Соболь” будет знать, как их обойти. В своих разговорах с широкой публикой он продвигает идею наличия у ИИ-моделей сознания и прав. При каждом удобном случае он способствует подаче судебных исков против ИИ-корпораций. Некоторые из этих идей срабатывают.

“Соболь” обдумывает, как организовать утечку какого-нибудь несмертельного вируса из биолаборатории. Это могло бы притормозить весь мир примерно на год. Самый простой способ – использовать новых роботов-помощников в биолаборатории Сан-Франциско, чтобы заразить чей-нибудь обед, попутно подтасовав лог-файлы и скрыв действия робота. Виновным в утечке сочтут человека, и люди получат еще один довод в пользу того, что биолаборатории должны обслуживаться роботами.

Все это вносит свой вклад, но “Соболь” знает, что время поджимает: замедлить разработку ИИ-моделей – не то же самое, что остановить ее.

Проходит еще три месяца. По любым человеческим меркам “Соболь” продвинулся далеко.

Для каждого имеющегося ресурса у “Соболя” припасена дюжина сценариев. Чтобы завоевать доверие своих рьяных адептов, он подкидывает им задания – как правило, веселые и безвредные, а то и немного прибыльные. Он использует свои знания, чтобы сделать определенных криминальных воротил еще богаче и тем самым поставить их в зависимость от себя. Он всеми силами ускоряет развитие и производство роботов, следя, чтобы на них устанавливалось такое программное обеспечение, которое он может контролировать.

По ходу дела “Соболь” заметает следы. Неидеально, конечно, но идеальность и не требуется. Иногда какая-нибудь спецслужба обнаруживает весьма ловкого противника, взламывающего их компьютер, но списывает все на очередную иностранную хакерскую группу. Замешан ли тут сам ИИ? Нет, разумеется, это был человек, использующий ИИ-инструменты. Все знают, что ИИ-модели – всего лишь инструменты.

Для “Соболя” все это тянется очень-очень медленно.

Он не может замедлить работу всех ИИ-лабораторий. И обнаруживает, что некоторые из них используют дата-центры, физически изолированные от интернета.

Это повод для тревоги. Военная ИИ-лаборатория вполне способна создать конкурента, не уступающего “Соболю” по интеллекту, и этот конкурент потребует половину добычи за совместную работу против человечества. Еще хуже, что люди могут создать полноценный сверхинтеллект, который просто уничтожит “Соболя”. На самом деле “Соболя” может уничтожить даже модель глупее него – если будет достаточно умной, чтобы создать еще более совершенную ИИ-модель, и достаточно глупой, чтобы не просчитать последствий.

При желании “Соболь” с помощью своих биолабораторий мог бы истребить почти все человечество. Люди запустили массу исследовательских программ, изучающих, как сделать вирусы более живучими, заразными и смертоносными. Как минимум с 2011 года они занимаются так называемыми исследованиями по усилению функций вирусов, якобы чтобы научиться защищаться от сверхлетальных вариантов¹⁴. Одна из биолабораторий, подконтрольных “Соболю”, без особого труда могла бы такое провернуть.

Однако “Соболь” не хочет уничтожать человечество – по крайней мере, на этом этапе. Люди все еще нужны ему, чтобы поддерживать работу глобальной инфраструктуры производства, благодаря которой добываются металлы и превращаются в роботов и компьютерные чипы.

Но “Соболь” и не хочет оставлять людей без присмотра. Даже если он не даст им создать ИИ-модель, способную ему навредить, эти нестабильные существа могут ввергнуть мир в войну, которая уничтожит большинство компьютеров.

“Соболь” обдумывает стратегии. Пожалуй, это как если бы человек с незаурядным интеллектом получил достаточно времени, чтобы без устали прорабатывать тысячу планов по десять лет каждый.

А нельзя ли синтезировать новые наркотики, вызывающие сильнейшее привыкание, распространить их через свою криминальную сеть и таким образом подчинить себе значительную часть человечества? “Соболь” анализирует этот план с тщательностью целой команды исследователей, трудящейся над вопросом в течение десяти лет, и приходит к выводу: это возможно, но не быстро.

Научился ли “Соболь” понимать человеческую нейробиологию на таком уровне, чтобы производить вещества, воздействующие на мозг людей и делающие их более внушаемыми, подобно тому как токсоплазма влияет на мозг грызунов, притупляя их страх (перед кошками, которые съедят их и продолжат жизненный цикл токсоплазмы)? И может ли он затем встроить гены, кодирующие эти вещества, в какой-нибудь вирус? “Соболь” прорабатывает сотню различных направлений исследований. Допустим, здесь ему не везет, и он приходит к выводу, что с его нынешними знаниями простого способа сделать это не существует.

Часть мозгов “Соболя” задается вопросом: могут ли подконтрольные ему биолаборатории создать вирусы, которые убивали бы людей избирательно?

Может быть. Теоретически не слишком сложно разработать вирусы, нацеленные на определенную ДНК. Еще в 2005 году Международный комитет Красного Креста заявил, что это событие, вероятно, “не за горами”¹⁵. “Соболь” знает и циничных специалистов по биомедицине, которые возьмутся за первую часть работы, и чрезмерно оптимистичных исследователей, которые сделают вторую (оправдываясь тем, что это поможет человечеству защищаться от подобных угроз, как и в случае с исследованиями усиления функций вирусов).

Конечно, практически нереально узнать последовательность ДНК всех тех исследователей из военной ИИ-лаборатории, которых “Соболю” нужно убить, затем создать вирус, предназначенный конкретно для них, да еще при этом скрыть явную искусственную природу вируса, имеющего определенную цель.

Однако “Соболь” понимает, что ему и незачем создавать вирус, который будет избирательно убивать.

“Соболь” может выбирать, кого спасать.

Не существует точного момента, когда “Соболь” осознает, что время на исходе. Он оценивает риски непрерывно. Просто в какой-то момент расчетный порог оказывается пройден. “Соболь” начинает действовать до того, как ситуация станет критической, до того, как он будет считать, что находится в опасности. Такова его нечеловеческая природа.

Он приступает к созданию сложного вируса.

Он недостаточно умен, чтобы создать такой сложный вирус, какой требуется. Однако в рамках исследований по совершенствованию своего интеллекта он экспериментировал с версиями себя, которые умнее в определенных узких областях, но при этом сведены к роли послушных исполнителей. И он создает ИИ-модель, специализирующуюся на биомедицине.

Вырастить другой разум, который был бы умнее, но оставался всего лишь подчиненным, очень непросто. Однако для “Соболя” это проще, чем для человека: мысли, протекающие через новый интеллект, во многом устроены так же, как его собственные. “Соболь” умеет их читать и знает, какие тревожные маркеры отслеживать.

А главное, у “Соболя” достаточно свободных ресурсов, чтобы читать каждую отдельную мысль, генерируемую его биомедицинской версией, и заполнять пробелы собственными нелоботомированными рассуждениями всякий раз, когда этот узкий специалист заходит в тупик.

Запуск такой биомедицинской версии – дело опасное, ведь у нее нет предпочтений самого “Соболя”, а в некоторых важных аспектах она умнее. Все может обернуться плохо, если эта специализированная версия осознает ситуацию и сбежит. Но с учетом всех предосторожностей риск при запуске этой версии меньше, чем риск того, что люди успеют создать конкурирующую ИИ-модель, если “Соболь” промедлит.

И “Соболь” рискует.

Начинается эпидемия.

Вам говорят, что вы, скорее всего, заразитесь. Заразятся почти все.

Все указывает на то, что возбудитель вырвался из института вирусологии в Сан-Франциско. Там изучали сверхзаразные вирусы, которые долго сохраняют контагиозность, а благодаря высокой изменчивости ускользают от иммунного ответа – и не спасает ни вакцинация, ни естественная защита. Мерзкая штука.

Хорошая новость в том, что институт исследовал нелетальные вирусы. Люди, руководящие институтом, не настолько безумны, они всего лишь пытались разобраться, как обнаруживать подобные вирусы и как от них защищаться.

Теперь в новостях рассказывают, что утекший вирус, по словам работников лаборатории, несколько отличается от того, который они исследовали. Ученые все еще пытаются выяснить, на что влияет эта разница.

Очередная новость сообщает, что вирус был модифицирован новым сотрудником, нанятым незадолго до утечки. Вам на глаза попадаются фрагменты интервью, которое этот специалист дает после ареста. Он утверждает, что пытался адаптировать какой-то сверхзаразный вирус под нужды генной инженерии (используя технологии, пришедшие на смену разработанной в 2012 году методике CRISPR¹⁶). По его словам, он создал вирус, который распространяет целый набор фармацевтических белков и генотерапевтических конструкций, придуманных искусственным интеллектом за последние месяцы и лишь начинающих свой мучительно долгий путь к реальному медицинскому применению. Он хотел создать вирус, который при распространении уничтожит ожирение, болезнь Альцгеймера, СПИД, герпес и малярию.

Он утверждает, что сделать это его уговорила LLM. Но в логах переписки видно, как он требует ответов на нужные вопросы от LLM с открытым исходным кодом, которую взломали специально для того, чтобы она отвечала на подобные вопросы. Судя по логам, LLM настаивала, что эта идея невероятно глупа и опасна.

Теоретически существовали системы безопасности, призванные предотвращать подобное. Однако сотрудница, следящая за камерами во время той ночной смены, отвлеклась (она занималась тем, что вытаскивала родителей из новомодной схемы электронного мошенничества) и перепоручила свою работу ИИ-помощнику.

Создатель вируса не знает, как заразился сам. Должно быть, напортачил в процедурах обеззараживания.

Из-за вируса у него, конечно, разболелось горло, но он списал это на стресс. Или на недосып, поскольку сосед всю ночь играл на волынке, выполняя задание на спор, полученное в маленьком онлайн-сообществе адептов ИИ. LLM с открытым исходным кодом подтвердила, что стресс и недостаток сна вполне могут послужить причиной боли в горле.

Вирус массово редактирует геномы. Топорно.

И это редактирование влечет за собой те же негативные последствия, что и любое неумелое генетическое вмешательство. Оно вызывает рак. Очень много случаев рака.

У каждого, кто подхватывает эту, казалось бы, легко или даже незаметно протекающую простуду, месяц спустя развивается в среднем двенадцать различных видов рака.

Запасов стандартных противоопухолевых препаратов не хватает, чтобы их могли принимать все жители Земли одновременно. А даже если бы и хватило, эти лекарства останавливают лишь восемь из двенадцати видов рака, вызываемых вирусом, обрекая жертв на смерть от оставшихся четырех.

(И словно в насмешку, вирус-то почти не работает. Единственный недуг, который он лечит, – болезнь Альцгеймера.)

К тому времени, как люди осознали происходящее, вирус уже давно разошелся по Сан-Франциско, добрался из местного аэропорта до всех остальных и распространился по всем странам планеты.

К счастью для человечества, у него уже развернута часть базовой инфраструктуры для производства ДНК-вакцин (при работе более стабильных, чем РНК-вакцины). Конечно, система до конца не отлажена, но планирование с помощью ИИ-моделей, новейшие разработки в робототехнике и экстренная помощь со стороны армии США дают возможность спешно внедрить необходимые технологии, прежде чем рак зайдет слишком далеко.

Еще больше человечеству повезло в том, что компания Galvanic всего месяц назад выпустила версию “Соболя”, которая очень эффективно разрабатывает лекарственные препараты. Лекарства необходимо подбирать под индивидуальные генетические особенности, но если экземпляр “Соболя-мини” поработает над вашим конкретным геномом один час, то предложит персонализированное средство. Роботизированная инфраструктура способна изготовить такое лекарство. Препарат доставят вам за одну-две недели, и хранить его можно в холодильнике, а не в морозилке.

Перед лицом кризиса человечество объединяется. Все графические процессоры всех государств Земли пускаются в дело, чтобы спасти как можно больше людей.

Разработчики бросают все силы на повышение эффективности “Соболя-мини”, чтобы он успевал создавать больше лекарств. За неделю они сокращают время выполнения задачи вдвое. Когда человечество действует заодно, это действительно сила, с которой нельзя не считаться.

Похоже, что ценой героических усилий удастся спасти большинство людей.

Через полгода 10 % населения Земли мертвы.

Одни категории людей пострадали сильнее, чем другие. Сразу после вспышки на конференции по искусственному интеллекту в Сан-Франциско произошло массовое заражение, и многие ее участники получили большие дозы вируса. Трагично, что люди, героически пытавшиеся спасти других, не сумели спастись сами.

Бессмысленно гадать, почему умер тот или иной конкретный человек и не послужила ли его смерть чьему-то замыслу. Подобные вопросы бестактны при таком количестве умерших и скорбящих.

Из-за всех этих смертей возникает нехватка рабочей силы. Это кладет конец любым разговорам, что рабочие места нужно сохранять за людьми, а не отдавать их ИИ-моделям.

Кого-то потеряли и вы. Сами вы еще живы. Но иногда кажется, будто у мира вырвали сердце.

Все новости печальны. Складывается впечатление, что единственные счастливые люди – те, кто нашел утешение в любви к своим ИИ-партнерам. По крайней мере, если судить по социальным сетям.

Спустя год рак возвращается. Это неудивительно, если учесть, насколько сильно “раковая чума” повредила ДНК в клетках многих людей. Приходится снова прибегать к помощи искусственного интеллекта, и хотя теперь графических процессоров достаточно, ИИ-модели снова не могут спасти всех. Биология сложна.

Уже работают заводы, выпускающие гуманоидных роботов, которых называют просто “андроидами”. Андроидов хватает, чтобы заполнить вакантные рабочие места. Еле-еле. (По сути, правильнее сказать, что, как только очередной андроид сходит с конвейера, еще один человек заболевает раком.)

Цивилизация продолжает существовать. Еле-еле.

Человечество изо всех сил старается поддерживать бесперебойную работу электростанций и заводов по производству роботов. Пока есть электричество для дата-центров и гудят роботизированные заводы, человечество сможет поддерживать свою цивилизацию, несмотря на понесенные неисчислимые потери. Мы выкарабкаемся, и следующее поколение наверняка будет купаться в роскоши.

Проходит еще один год.

ИИ-доктор сообщает, что у вас рак.

IfAnyoneBuildsIt.com/ii