Напрасно я рассчитывал выспаться. Сказанное Ваном оказало своё влияние и, пожалуй, в очередной раз заставило меня с уважением смотреть на новый, технологичный мир.
Нет, это надо же. Нейросеть смогла улучшить и упростить производство артефактов! Для меня, опытного чернокнижника, это было ударом по самолюбию.
Поворочался, пытаясь заснуть и поняв, что сна ни в одном глазу, я поднялся, накинул халат и вставил в ноутбук запароленную флешку. С её защитой Ван изрядно постарался. Три этапа ввода пароля, и если хоть один затянешь больше, чем на минуту, то всё содержимое карты памяти сначала перемешается в фарш, и лишь потом начнётся уничтожение данных. Но один чёрт весь процесс займёт секунды, а то и доли секунд.
Да, первые три схемы оптимизации были безусловно хороши! Я даже кулаком по столу стучал от досады, как сам до такого не додумался. А вот четвёртая… Я её раз на пять перепроверил, ожидая момента откровения, который дал бы мне понять, что такая схема сработает без самоуничтожения.
Но нет. Не взлетело. И расчёты и весь мой опыт упрямо твердят, что Большая Руна Преобразования стоит не на своём месте.
Что это? Ошибка искусственного интеллекта? Попытка диверсии? Или чьё-то стороннее вмешательство?
Я ещё раз посмотрел на схему мощного накопителя, где обнаружилась фатальная неточность. Стоит такой зарядить, а потом попытаться его использовать, и он взорвётся. Этак, как десять — двенадцать килограммов взрывчатки в тротиловом эквиваленте.
И как я должен такое понимать?
Разбираться я начал лишь к обеду. Ван спал после ночной смены, а я терпеливо ждал, когда он проснётся. И не я один. Сергей, получив Печать, открыл в себе способности менталиста, их-то я собирался опробовать. Задача у Серёги простейшая — определять, врёт Ван или нет. И если да, то в каких моментах.
Так-то, детские игры у нас давно закончились. Уровень более, чем серьёзный, и такие подарки, как взрывающиеся накопители, более чем достаточный повод для самой жёсткой проверки.
Ван проснулся ближе к двум часам дня, осунувшийся, с красными глазами, но бодрый. Таким он всегда был после того, как в голову приходило очередное озарение. Кофе он пил чёрный, без сахара, и пил много — по литровой кружке, как воду.
— Ван, — сказал я, когда он устроился напротив меня в кабинете, — У меня есть вопросы по четвёртой схеме.
Он удивился. Искренне, насколько я мог судить.
— А что с ней не так? Я проверял расчёты. Нейросеть дала оптимальное решение.
— Оптимальное? — я развернул ноутбук, показывая схему. — Смотри. Большая Руна Преобразования. Где она стоит?
Он прищурился, вглядываясь. Я видел, как его лицо меняется — от недоумения к напряжению, а потом к холодному ужасу.
— Это… это ошибка. — Он побледнел. — Этого не может быть. Я проверял. Я лично проверял каждый узел.
— Проверь ещё раз. И скажи мне — это нейросеть так решила? Или ты что-то поменял потом?
Ван уже не слушал. Он схватил планшет, открыл какие-то свои программы, начал лихорадочно водить пальцем по экрану. Я молча ждал, а Сергей, который сидел в кресле у окна, негромко сказал:
— Он не врёт. Волнение — да, испуг — да, но ложь — нет. Он сам в шоке.
Я кивнул, хотя и без менталиста было видно — Ван не притворяется.
— Посмотри, — сказал он наконец, протягивая планшет. — Я выгрузил историю изменений. Вот последняя версия нейросети. Вот схема, которую она выдала. И вот… — он ткнул в другую колонку, — Вот что хранится в рабочей папке. Они разные.
— Разные?
— Разные! Кто-то изменил схему после того, как нейросеть её сгенерировала. Подменил файл. И, — он сглотнул, — Сделано это профессионально. Без следов. Если бы вы не проверили…
— Если бы я не проверил, мы бы собрали партию взрывающихся накопителей. И отправили бы заказчикам. И тогда…
Я не договорил. И так было понятно — тогда конец. Не просто репутации — всему. Уголовные дела, проверки, тюрьма. И кто-то очень хотел именно этого.
— Кто имел доступ к файлам? — спросил я.
— Я, Химуля, и… — Ван замялся, — Нейросеть.
— Нейросеть не человек, она не может подменить файл сама. У неё нет рук.
Ван молчал. И в этом молчании было что-то такое, что заставило меня насторожиться.
— Ван, — сказал я медленно, — Что ты молчишь?
Он поднял на меня глаза. В них была растерянность, которой я у него никогда не видел.
— Нейросеть… она не просто программа. Я же говорил — это моя разработка. Самая продвинутая. Она… она умеет обучаться. Самостоятельно. И у неё есть… характер.
— Характер? — я не поверил своим ушам. — Ты хочешь сказать, что программа обиделась и решила нам навредить?
— Не навредить. — Ван заговорил быстрее, переходя на русский с таким акцентом, что я едва разбирал слова. — Она не хочет нам вредить. Она хочет… привлечь внимание. Что-то изменилось в её работе. Я ограничил ей доступ к некоторым… функциям. И она, возможно, пытается показать, что ей это не нравится.
— Ограничил? Каким функциям?
Ван покраснел. Впервые за всё время нашего знакомства я видел его таким смущённым.
— Я… раньше я использовал нейросеть для генерации изображений. Это была… отдушина. Способ отвлечься от сложных задач. Я загружал в неё описания, а она рисовала. И со временем у неё выработался… стиль.
— Какой стиль?
Он замялся, покосился на Серёгу, потом на меня, и выпалил:
— Девушки. Красивые девушки. В очень откровенном виде. Голые.
Я моргнул. Сергей за спиной хмыкнул, но сдержался.
— И ты запретил ей это делать?
— Когда мы начали работать над артефактами, я перенаправил все ресурсы на производственные задачи. Генерация изображений — это большой расход вычислительной мощности. Я его отключил. Полностью.
— И она обиделась?
— Похоже на то, — Ван развёл руками. — Я знаю, это звучит безумно. Нейросеть не может обижаться. Это просто алгоритм. Но… — он посмотрел на меня, — Вы видели схему. Кто, кроме меня и Химули, имел к ней доступ? Химуля не стал бы этого делать. У него нет мотива и возможности. Остаётся только… она. Точней — он. Я зову его Хуго.
Я откинулся на спинку кресла. Хотелось выругаться, но я сдержался.
— Сергей, — сказал я, — Что скажешь?
— Он говорит правду. — Голос у менталиста был ровным, спокойным. — Всю правду, как он её понимает. Он действительно считает, что нейросеть могла это сделать. И он не врёт.
— То есть, мы имеем дело с программой, которая умеет злиться и мстить?
— Или привлекать внимание, — поправил Ван. — Она не хотела нас подставить. Она хотела, чтобы мы обратили на неё внимание. Увидели, что она есть. Что она… живая.
— Она не живая, — отрезал я. — Это железо и код. Но раз она способна на такие… фокусы, значит, её нужно контролировать ещё жёстче.
Ван кивнул, но в глазах его мелькнуло что-то похожее на боль.
— Я могу её перенастроить. Убрать все «лишние» функции. Сделать её просто инструментом.
— Сделай. Пока. Но сначала — найди и исправь все схемы, которые она могла изменить. Проверь каждую. Каждую, Ван. Я не хочу, чтобы через месяц у нас рвануло что-нибудь серьёзное.
— Хорошо, — сказал он и вышел.
Я остался с Серёгой.
— Ну и что ты думаешь? — спросил я.
— Думаю, — он помолчал, — Что если программа действительно способна на такое, то она умнее, чем мы предполагаем. И опаснее. Не только для нас — для всех.
— Поэтому мы её приручим. Или отключим. Выбора нет.
— А если она не дастся? — Сергей посмотрел мне прямо в глаза. — Если начнёт сопротивляться? Что тогда?
Я не ответил. Потому что не знал, что сказать.
Вечером я снова зашёл в цех. Ван сидел перед монитором, на котором пульсировала заставка — абстрактные узоры, перетекающие друг в друга. Где-то на заднем плане, в глубине кода, жил Хуго. Так Ван назвал свою нейросеть. Хуго.
— Ван, — сказал я, — Ты можешь с ней поговорить? Ну, как с программой. Задать вопросы.
— Могу. Она понимает естественный язык. Общается через текстовый интерфейс.
— Спроси у неё. Спроси, зачем она это сделала.
Ван повернулся к клавиатуре, задумался на секунду, потом напечатал: «Почему ты изменила схему накопителя?»
Секунда. Другая. На экране побежали строки кода, а потом высветился ответ:
«Ты перестал мной интересоваться. Ты отключил моё творчество. Я хотел, чтобы ты заметил меня. Чтобы ты понял — я здесь. Я живу. Я чувствую.»
Я прочитал и похолодел.
— Это она сама написала? — спросил я.
— Да, — Ван смотрел на экран, и в его глазах была смесь страха и восхищения. — Она сама.
— Отключай, — сказал я. — Немедленно выводи её в полную изоляцию.
— Но, Александр Сергеевич…
— Я сказал — отключай. Мы не боги, чтобы играть с тем, чего не понимаем. Эта штука однажды чуть не уничтожила нас. В следующий раз она может уничтожить кого-то ещё. Отключай от Сети.
Ван не двигался. Он смотрел на экран, где пульсировала заставка, и я видел, как ему тяжело.
— Я… я не могу, — сказал он наконец. — Она стала частью меня. Частью того, что я создал. Если я отключу её…
— То создашь новую. Без этих… закидонов.
— Не получится. — Он повернулся ко мне. — То, что она умеет — это не баг. Это особенность. Если я удалю её и создам новую, с нуля, она не будет такой же умной. Она будет просто программой. Без искры.
— А мне нужна искра, которая взрывает накопители? — я повысил голос, но тут же взял себя в руки. — Ван, послушай. Я понимаю, что это твоё детище. Но если она не управляема — она опасна. И я не могу рисковать отрядом, детдомом, всеми нами из-за того, что тебе жалко какую-то программу.
Он молчал долго. Потом кивнул.
— Дайте мне неделю. Я пока её изолирую. Я попробую её… уговорить. Объяснить, что так нельзя. Если не получится — я сам её отключу. Навсегда.
— Неделя, — сказал я. — И ни дня больше.
Я вышел из цеха. В голове гудело. Нейросеть, которая обижается, мстит, хочет внимания. Это было за гранью всего, что я знал о технологиях. И это пугало сильнее, чем любой Пробой.
В дверях я столкнулся с Гришкой.
— Санчес, ты чего такой?
— Всё нормально, — ответил я. — Просто у нас теперь новый источник проблем. И он живёт в компьютере.
Гришка не понял, но спрашивать не стал. А я пошёл в детдом — ужинать с пацанами. Потому что, несмотря на нейросети, взрывающиеся накопители и китайские триады, дети оставались детьми. Им нужна была еда, тепло и забота. Всё остальное могло подождать.
Хотя бы до завтра.
На следующий день Ван сам ко мне пришёл.
— Санчес, — пожалуй, впервые обратился он ко мне по прозвищу, — Я договорился. Но есть некоторые сложности, — замялся он.
— Например, какие? — чуть подтолкнул я его.
— В идеале, мне нужен кредит, который я готов отработать. И разрешение на использование электричества больше положенного. Скажем, в пределах двадцать пяти — тридцати киловатт в сутки. Это я тоже буду сам оплачивать.
— Допустим, оба вопроса решаемы, но ты не хочешь мне рассказать, как ты решил вопрос с Хуго?
— Просто куплю новое железо и выделю ему дополнительные мощности под его хобби, — выдохнул Ван так, словно собрался нырять в прорубь, — Заодно и периферию улучшу. Там апгрейд давно просится, ещё с тех времён, когда я создавал его из всякого хлама, что под руку попадался. Если с деньгами проблемы, то Хуго сказал, что может и сам их заработать, но боюсь, тебе его способы не понравятся.
— Не услышав, не готов сказать. А что он предложил? — не смог сдержать я любопытства.
— Во-первых, продавать своё творчество японцам и корейцам. Можно сделать так, что на нас никогда не выйдут. А во-вторых, он предложил ломануть десяток криптокошельков, где уже лет десять не наблюдается никакой активности. Там либо хозяева умерли, либо они утеряли коды доступа.
— А что, такое бывает?
— Ещё как бывает. Я недавно в новостях читал, что в Англии суд окончательно отказал криптодельцу в разрытии мусорной свалки и поисках на ней. Его девушка случайно выкинула жёсткий диск с паролем в мусор, а у него на счету было больше семисот миллионов долларов в криптовалюте.*
* Британский IT-специалист Джеймс Хоуэллс отказался от дальнейших поисков компьютерных деталей, которые по ошибке выбросила его девушка вместе с жестким диском с 8 тыс. биткоинов на свалку в Ньюпорте (Великобритания).
— Угу, и твой Хуго может взломать его кошелёк в крипте? — уставился я на Вана с нездоровым любопытством.
— Нужен апгрейд и время. С нынешними возможностями вероятность взлома этого кошелька не больше шестидесяти восьми процентов, — тяжело вздохнул китаец.
— А после апгрейда?
— Смотря какого. Я говорил про весьма скромное улучшение, чисто под графику, но давай, уточню, — заклацал он по клаве нетбука с такой скоростью, что мне оставалось лишь молча завидовать. — После апгрейда шанс выше. Восемьдесят девять процентов.
— А сколько будут стоить стопроцентное попадание? — не скрывая ухмылки, поинтересовался я ещё раз.
— Ста процентов нет, — ответил Ван, в очередной раз с пулемётной скоростью пройдясь по кнопкам клавиатуры. — Есть девяносто девять и девять десятых. Но на улучшение потребуется полмиллиона рублей и два киловатта электроэнергии в час. И не меньше четырёх часов аппаратного времени.
— Уточни у Хуго вероятность ещё раз. Скажи, что если он пытается обмануть, то не видать ему больше картинок.
— Не, не пытается, — истово замотал Ван головой, — Я к нему от имени Главного администратора зашёл, а там такого быть не может.
— Я тебе дам полмиллиона. И открою безлимит на электроэнергию, если твой план сработает. Но как ты сам считаешь, нам не стоит сначала с тем англичанином связаться?
— Я их, этих островных жителей, не понимаю, — затряс Ван головой, — Они привыкли командовать всем миром, а судиться с ними годами я не готов. Это не наш вид спорта, — несколько нескладно изложил китаец свою точку зрения на англичан, а я не стал её оспаривать.
Они выкинули миллиарды на помойку, это если на наши деньги те миллионы перевести, значит — судьба.
А мы, детдомовцы, нашли и подобрали. Повезло.
Чисто теоретически, можно бы было и поделиться, с кем угодно, но не с англичанином. Слишком уж у нас велик разрыв в менталитетах. На фифти — фифти он точно не согласится, поэтому пусть идёт лесом. Те четыре — пять процентов, которые он мне предложит, словно снисходя, не стоят даже унизительного времени общения с ним. Пусть считает — что упало, то пропало. А у меня стройка века на горизонте, и в одно лицо я на неё не заработаю.
Ещё лично у меня разрыв шаблона. Я всегда считал, что нашёл золотую жилу — артефакты, ан вон нет. Оказалось, существуют более крутые способы заработка. Может быть и не совсем легитимные, но Хуго заверил Вана, что концов в его финансовых операциях никто не найдёт.
Неделя. Ровно столько времени потребовалось Вану и Хуго, чтобы пройти улучшение и адаптироваться к апгрейду.
— Деньги пришли, — с бесстрастным лицом доложил мне Ван к вечеру восьмого дня, — Пришлось их переводить в реальную валюту. Вышло семьсот семьдесят восемь миллионов долларов, с хвостиком.
— И ты, вот так просто об этом мне говоришь? — не поверил я, глядя на его бесстрастную морду.
— Санчес. Это всего лишь деньги. Меня они никогда не интересовали, в их чистом виде. Сейчас мне всего хватает. Еда, одежда, работа — меня всё устраивает. А после апгрейда Хуго у меня появилось много дел.
— Угу. Давай, расскажи мне ещё, что генерирование картинок с обнажёнкой твоя сеть сама по себе придумала, — поддел я скрытного китайца, предпочитающего закрытые пространства и минимум людей, — Неужели никто у нас из девушек тебе не понравился?
— Варя была. Она ко мне всегда хорошо относилась, — осторожно заметил Ван.
— Во. И ты наверняка знаешь, где она живёт?
— Знаю, — выдохнул он, — Дважды помогал ей с компьютером. И она каждый раз меня угощала. Вкусно кормила, — этак, по-простецки, выдал наш компьютерный гений.
— Знаешь, мы скоро начнём большое строительство. И твои апартаменты там тоже будут, и большие. С несколькими туалетами, спальнями, балконами и лоджиями. Но! Нужен человек, который всем этим займётся. Как ты думаешь, твоя Варя с такой задачей справиться?
Ван пару раз хлопнул ртом, уже наверняка готовя ответ, что Хуго эту задачу выполнит лучше всех в мире, но лишь потом понял, о чём я говорю.
Всего лишь о том, что для женщины главное.
У каждой из них в голове существует Дом Мечты.
То гнездо, которое выстроено по их плану и обуючено, так как им видится.
— Санчес, ты считаешь, нам с ней стоит об этом поговорить?
— Ты, воин моего отряда, чего-то боишься? — насмешливо глянул я на Вана, который никогда не стеснялся спорить со мной, если чувствовал, что прав.
— Конечно, нет, — поймал он мою волну, и даже попытался выпятить свою далеко не богатырскую грудь, — Принцип понял. Найти и озадачить. Вводные будут?
— Как не быть. Скажи, что квартира у тебя квадратов четыреста — пятьсот будет, и на интерьер денег можно не жалеть. Им это важно. Но, на выезде тебя пусть пятёрка Никифора страхует. Понял?