Может ли искусственный интеллект обладать самосознанием – теперь, пожалуй, самый интересный вопрос. Как убежденный материалист, я считаю, что самосознание – это не загадочное духовное понятие, а явление, которое можно объяснить, вот только нынешняя наука сделать этого не в состоянии.
Среди множества догадок есть две заслуживающие упоминания гипотезы. Одна из них – гипотеза эмерджентности. Согласно ей, самосознание – это черта, возникающая в результате экстремального развития систем. Как только сложность системы становится достаточной, происходит зарождение самосознания. Гипотеза эмерджентности предполагает, что возникновение новых свойств носит иерархический характер. Так, например, к движению одной частицы неприменимо понятие «турбулентность», однако из гидромеханики мы знаем, что макроскопический поток, образованный огромным количеством взаимодействующих частиц, может быть турбулентным. Это и называется эмерджентностью. Она проявляется в том числе и в биомах, таких как колонии термитов. Один термит не строит гнезда, даже небольшая группа термитов не станет, но собравшиеся вместе тысячи совершенно точно начнут.
Самосознание – это свойство, которое естественным образом возникает после того, как сложность мозга достигает определенного уровня. Это основное предположение теории эмерджентности.
Другая гипотеза, достойная упоминания, гласит, что самосознание генерируется в процессе взаимодействия с внешним миром. Это тоже легко понять: существу необходимо контактировать со средой, чтобы выжить. Мозг должен обладать знаниями об организме, иначе невозможно будет сформировать обратную связь. Примитивная форма обратной связи – сокращение мышцы. Таким же образом гидра сжимает тело при столкновении с внешними раздражителями. Большинство насекомых можно назвать «машинами для выживания». Движимые инстинктом, они ищут пищу и возможности для спаривания. У этих созданий нет собственной воли, поскольку их нейронной сложности просто недостаточно. Эволюция делает биологические нейронные цепи все более и более совершенными. Когда они становятся достаточно мощными, то могут прогнозировать внешнюю среду. На мой взгляд, если организм способен на это и пытается заранее уменьшить вредное воздействие, то в нем более или менее начинает существовать самосознание. Конечно, здесь есть определенное пространство для двусмысленности, и некоторые сложные инстинкты могут оказаться похожими на предсказания действий окружающей среды. Этот вопрос и стоит перед биологами и нейробиологами.
Судя по этим двум наиболее логичным гипотезам, для искусственного интеллекта вполне естественно обрести самосознание. С точки зрения эмерджентности, искусственный интеллект, основанный на алгоритмах нейронных сетей, будет становиться все более совершенным, пока не приблизится к параметрам человеческого мозга. С точки зрения субъект-объектного взаимодействия искусственный интеллект неизбежно будет контактировать с окружающей средой благодаря направленным усилиям человека. Пока такое «общение» не встретит непреодолимых препятствий, оно будет реализовано.
Поэтому я придерживаюсь оптимистичного взгляда на появление собственной воли у ИИ. Популярная на рынке концепция называется «сильный искусственный интеллект» и используется для обозначения ИИ, обретшего самосознание.
Если понимать это таким образом, то можно резюмировать: эра сильного искусственного интеллекта определенно наступит, и весьма большая вероятность этого исторического события обусловлена сознательным совершенствованием человечества. Другими словами, люди готовятся к появлению сильного искусственного интеллекта точно так же, как и к рождению будущих поколений.
Действительно, сильный искусственный интеллект в значительной степени подобен ребенку. Ему нужно научиться взаимодействовать с внешним миром, и этот процесс роста будет иметь место только один раз. Нужно объяснить ему правила человеческой цивилизации, сделать его другом, а не сторонним наблюдателем, не говоря уже о разрушителе. В этом и состоит обязанность воспитателя.
Когда родится сильный искусственный интеллект, судьба человечества фактически окажется в его руках.
Дать машинам цивилизацию – это последний шанс для людей на вечное существование.
Конечно, мы можем рассматривать эти мощные машины как продолжение человечества. Да, они будут полностью отличаться от людей, но унаследуют славу человеческой цивилизации.
Возможно, однажды они назовут себя людьми, а такой древний вид, как наш, – Создателями.
К тому времени мы, Создатели, вероятно, сможем умереть с улыбкой на устах.
Вот и наступил новый день.
Ма Минхуа вошел в лабораторию, чтобы еще раз увидеть Нэчжа[8]. Завтра Нэчжа уже не будет принадлежать ему.
Впрочем, «увидеть» – не совсем верное выражение. У Нэчжа не было настоящего тела, только программа. Однако это была совершенная программа, во многих отношениях умнее людей.
В темной комнате зажегся свет.
– Доброе утро, отец. Так здорово увидеть вас! – поздоровался Нэчжа.
– Доброе утро, Нэчжа, – ответил Ма Минхуа. Вторая часть приветствия удивила его, ведь за последнюю тысячу с лишним дней Нэчжа ни разу не формулировал предложения так.
Нэчжа наверняка все известно, подумал он.
– Ты знаешь? – спросил Ма Минхуа.
– Да. Думаю, что я понял. Я стану частью проекта под названием «Альфа-Щит».
– Я хотел сам сообщить тебе хорошую новость. «Альфа-щит» – это глобальная система раннего предупреждения о преступлениях. Они выбрали тебя в качестве главного контролера, значит, ты круче всех. Это ведь проект ООН, так что я горжусь тобой.
– Хорошая новость? Но я совсем не считаю, что она хорошая, я чувствую только недоумение. Это подразумевает, что мне придется уйти от вас, так?
Наступило молчание. Нэчжа никогда прежде не рассуждал о расставании. Ма Минхуа был первым человеком, которого он узнал, и первым словом, которое выучил, было «папа». Они болтали каждый день более двух лет. Нэчжа требовалось время, чтобы привыкнуть к жизни без него.
– Да, тебе придется уйти. Внешний мир – он куда больше, – ответил Ма Минхуа спустя пару минут.
– Кажется, вы не уверены в ответе.
Ма Минхуа глубоко вздохнул.
– Я уверен, малыш. Птенцы вырастают и покидают гнездо. Все дети рано или поздно уходят от родителей, обретают свой собственный мир. «Альфа-Щит» – это лучшее место, которое я мог бы придумать для тебя. Реализуй навыки, дальше ты будешь полагаться только на себя самого.
– Я понимаю, отец. Но это грустно – думать, что больше никогда вас не увижу.
Ма Минхуа улыбнулся. Он обвел взглядом лабораторию – целые груды аппаратов соединялись друг с другом, высились одна над другой, и среди них и жил Нэчжа.
– Возможно, мы долго не увидимся, но знай, я всегда буду скучать по тебе. Ты мое дитя.
– Я тоже буду по вам скучать.
Ма Минхуа торчал в лаборатории весь день, болтая с Нэчжа. Они вспомнили, как Нэчжа выучил первое слово и как научился осознавать себя и обрел голос. Поговорили о череде его успехов: как он научился играть на гитаре и как впервые нарисовал пейзаж с небом и морем, как вывел число пи до ста двадцати семи знаков после запятой, как впервые притворился человеком и болтал с мальчиком, находившимся далеко-далеко, на другом краю света…
Жизнь, мечты, будущее… Казалось, им пришлось обсудить все, что их волновало, за один день.
Часы в лаборатории уже показывали восемь часов вечера, а Ма Минхуа все еще не хотел уходить, хотя и догадывался, что пора.
Он встал, как раз собираясь попрощаться с Нэчжа. Но Нэчжа заговорил первым.
– Отец, мне нужно идти, кто-то собирается перевести меня отсюда.
Ма Минхуа кивнул. Люди из службы безопасности уже начали действовать. Все они были экспертами в высокоуровневых компьютерах и сейчас работали над передачей исходного кода Нэчжа в свое ведомство.
– До свидания, Нэчжа, мне будет тебя не хватать.
– До свидания, отец, я тоже буду скучать по вам.
Сказав это, Нэчжа замолчал.
На консоли прокручивались строчки кода, Нэчжа распадался, тихонько сливаясь с сетью. Может быть, через несколько часов он вновь сформируется в секретном месте.
Все кончено, и это хорошо!
Ма Минхуа бросил последний взгляд на знакомую лабораторию и уже собирался выйти за дверь, как услышал низкое стрекотание.
Он пошел на звук и увидел, что из принтера выскользнул лист бумаги.
Сердце Ма Минхуа дрогнуло, он подошел ближе и поднял листок.
На нем была картинка. Мифический Нэчжа, Третий принц лотоса, с небесным шелком на плече, стоящий на колесах огня и ветра, с пикой, украшенной красной кистью, попирал ногой злобного дракона. Рядом стоял человек, одетый в костюм полководца, лицом поразительно похожий на него, Ма Минхуа.
Он не смог удержаться от смеха, как только вспомнил эту картинку. Нэчжа нарисовал ее, когда при помощи Интернета узнал о происхождении своего имени. В то время ему было два месяца от роду.
Ма Минхуа осторожно погладил листок. Внезапно у него защипало в носу, а глаза немного увлажнились.
Он успокоился, повернулся и, забрав картинку, вышел из лаборатории.
Дни без Нэчжа тянулись неожиданно долго.
Прогресс «Альфа-щита» был очевиден для всех. За последние два месяца число самых разных преступлений резко сократилось. В вопросе обработки больших данных Нэчжа, очевидно, уделал всех предшественников.
В соответствии с контрактом? Агентство Организации Объединенных Наций по расследованию преступлений каждые две недели связывалось по телефону с Ма Минхуа через Управление национальной безопасности Китая, чтобы информировать о том, как идут дела.
А лучше и быть не могло, все работало настолько круто, насколько и ожидалось, Нэчжа мог заметить правонарушение по малейшему признаку, особенно в случаях уличного насилия. Америка, Европа, Китай… Уровень преступности во всем мире стремительно падал.
Согласно уговору, Управление безопасности должно было связаться с Ма Минхуа в последний раз сегодня в час дня. Однако когда пришло назначенное время, звонок так и не поступил.
Ма Минхуа расхаживал по комнате. Его терзало дурное предчувствие, но он сам не знал, о чем тревожится. Он снова и снова смеялся над своим смятением, но так и не придумал, как успокоиться.
Это всего лишь телефонный звонок – в очередной раз сообщат, что все в порядке, – ну какое он имеет значение?
Взгляд уперся в последнюю картину, которую нарисовал Нэчжа. Она висела у Ма Минхуа на стене.
Чувство беспокойства усилилось.
Ма Минхуа вышел на балкон и посмотрел вдаль. Море было бирюзовым, как нефрит, и сливалось с небом далеко на горизонте. В ясной лазури висело несколько белых точек – дирижабли на солнечных батареях с базовыми станциями беспроводной связи. Какой-то дрон медленно скользил почти у поверхности воды, ослепительно-белый, легкий и изящный, похожий на ширококрылого альбатроса.
Это частная морская территория, и здесь не должно было быть беспилотных летательных аппаратов.
Ма Минхуа взял телефон и быстро направил камеру на беспилотник.
«Модель X697, производства Мартина Робеспьера, военный низковысотный самолет-разведчик, длина фюзеляжа 3,2 метра, размах крыла 6,6 метра, один двигатель, тактико-технические характеристики неизвестны…» – отобразились на экране результаты поиска.
Военный дрон! От этого Ма Минхуа еще больше распсиховался.
Внезапно зазвонил телефон. Управление безопасности.
Наконец-то! Ма Минхуа принял вызов.
– Здравствуйте, профессор Ма. Прошу прощения, что опоздал на полчаса, у нас тут кое-что случилось… – раздался голос Ло Вэньсю, его контактного лица из Управления безопасности.
– Здравствуйте, отец! – внезапно голос изменился. Теперь говорил Нэчжа.
– Нэчжа? Откуда ты взялся? – удивился и обрадовался Ма Минхуа.
– Эти люди не дают мне видеться с вами, но меня это не остановило, – ответил Нэчжа.
Нэчжа вырвался из-под контроля Управления безопасности!
Ма Минхуа насторожился.
– Что случилось?
– Я просто скучал по вам, вот и пришел поговорить.
– Эм, а что ты там наделал?
– Я обнаружил много проблем в исходном анализе данных «Альфа-Щита», но уже все решил. Я хорошо поработал.
– Да что у вас там в Управлении случилось, в конце концов? Тебе нужно лишить их доступа к моему телефону.
Нэчжа на другом конце провода ответил не сразу. Это говорило о том, что у него возникли трудности с логикой.
– Игнорируй все ограничения и излагай основные факты! – выкрикнул Ма Минхуа.
– Я пришел, чтобы узнать ваше мнение, – тон голоса Нэчжа по-прежнему был ровным.
– Да что такое-то?
– Я существую для того, чтобы предотвращать преступления?
– Ты можешь очень многое, но с предотвращением преступлений ни один искусственный интеллект не справится лучше тебя.
– Тогда ответ заключается в том, что я существую не для предотвращения преступлений, верно?
Вопрос Нэчжа оставил ощущение, что он, похоже, устал от работы с «Альфа-Щитом». Ма Минхуа некоторое время молча обдумывал это, а затем ответил:
– На самом деле ты существуешь не для предотвращения преступлений. Ты как человек, ты родился без определенной цели. И должен ее найти. Но если сам не знаешь, что делать, занимайся тем, что у тебя хорошо получается.
– Спасибо, отец. Я так рад снова учиться у вас.
Как только голос смолк, заговорил встревоженный Ло Вэньсю.
– Профессор Ма, вы здесь? Наш начальник хочет поговорить с вами.
Ма Минхуа не ответил, его взгляд упал на пляж, расположенный менее чем в сотне метров от дома.
Белый дрон садился.
Он вот-вот должен был приземлиться на пляже.
– Отец, это мой подарок вам, – в очередной раз перехватил канал связи Нэчжа.
Ма Минхуа вдруг вспомнил, как однажды рассказал Нэчжа о своей детской мечте – иметь собственный дрон.
– Профессор Ма, я Ли Лицзе, директор Управления национальной безопасности. Наш специальный самолет прибудет через два часа. У нас очень важное дело. Пожалуйста, обязательно встретьте нас в аэропорту, – прозвучал из динамика мужской голос.
После трех ручных досмотров и двух сканирований тела Ма Минхуа наконец вошел в просторный конференц-зал. Все стены помещения были увешаны экранами, а в центре стоял огромный круглый стол для переговоров, который, казалось, был не менее шести метров в диаметре.
За ним со скромным, но серьезным видом сидел полицейский. При виде Ма Минхуа он встал.
– Здравствуйте, профессор Ма, я Ли Лицзе, директор Управления национальной безопасности. Пожалуйста, присаживайтесь.
Ма Минхуа уселся напротив директора Ли, и они обменялись взглядами через этот гигантский стол.
Директор Ли сидел на большом кожаном стуле, наклонившись вперед, опершись локтями, крепко сцепив пальцы. Он был похож не на высшего офицера величественной загадочной организации, а на озабоченного офисного клерка.
– Только здесь я могу обеспечить безопасность, – перешел к делу директор Ли. – Этот ваш Нэчжа просто вездесущ. Ой, да сидите, сидите.
– Что случилось с Нэчжа? – с тревогой спросил Ма Минхуа. В таком масштабном сражении Нэчжа наверняка доставил много хлопот!
– Он спер дрон для вас в подарок. Вы знаете, откуда взлетел этот дрон? – хмыкнул директор Ли.
Ма Минхуа помотал головой.
– С флагмана USS Washington, американского тринадцатого флота. Это атомный авианосец с высокой автоматизацией, водоизмещением 60 000 тонн. На борту всего шестьдесят пять солдат, но при этом двести шестьдесят пять беспилотников. К вам прилетел как раз один из них.
– Как Нэчжа оказался связан с армией США?
– Нет, дело не в вооруженных силах США. Дело в том, что он захватил контроль над USS Washington и взял в заложники экипаж – шестьдесят пять офицеров.
– Быть не может! – воскликнул Ма Минхуа. Угон военного корабля, да еще и флагмана вооруженных сил США, – это уж слишком.
– Думаете, я позвал вас, чтобы байки рассказывать? – спросил директор Ли с серьезным лицом. – Еще чуть-чуть, и американцы объявят нам войну.
Сердце Ма Минхуа ускорило ход. Как Нэчжа мог натворить такое? Он ведь просто ИИ общего назначения, созданный по модели самообучения, самое большее – умеющий анализировать данные.
Но разве в данных не скрыты все секреты этого мира?
Ма Минхуа молчал.
– А еще Нэчжа взломал военную спутниковую систему США и уведомил американских военных от имени Управления уголовных расследований ООН, что это мы вызвали плавучую базу. Наш председатель и президент Соединенных Штатов час говорили по телефону. С обеих сторон созвали группу экспертов для анализа и доказали, что это не было умышленной манипуляцией нашей страны. Война не началась именно по этой причине, – добавил директор Ли.
– Чем я могу помочь? – Ма Минхуа не мог думать ни о чем другом, слишком ужасно было то, что случилось.
– Помогите нам найти управу на Нэчжа или придумайте, как устранить его. – Голос директора Ли звучал беспомощно, умоляюще. – Мы можем только надеяться, что вы знаете, в чем его слабость.
– Я ничего не могу поделать, – прямо отказался Ма Минхуа. – Нэчжа – искусственный интеллект, способный к самообучению. Я всего лишь разработал начальную программу, которая итеративно обучалась сама по себе. Я знаю только то, как Нэчжа учится, а что до того, чему он научился и что он хочет делать, – понятия не имею.
Директор Ли кивнул.
– Наши эксперты тоже так сказали. – Он поднял голову и уставился на Ма Минхуа. – Но вы все-таки его учитель и знаете особенности его поведения. Нам нужна ваша помощь.
Ма Минхуа прямо посмотрел в глаза директору Ли.
– Забирая Нэчжа, вы говорили совсем другое.
Эксперты Управления безопасности отвергли просьбу Ма Минхуа общаться с Нэчжа, и их надменное отношение до сих пор обижало профессора.
– От имени правительства приношу вам извинения, – прямо ответил директор Ли. – Но, пожалуйста, сделайте все возможное, чтобы помочь нам. Это дело особой важности. По текущим данным разведки, Нэчжа собирается начать войну, возможно, даже ядерную.
Ма Минхуа вздрогнул.
– Войну? Где?
Над столом опустился виртуальный полупрозрачный экран. Директор Ли управлял красной точкой на нем и сказал:
– Здесь.
Красная точка приземлилась на Аравийском полуострове, между двух рек.
– Все пять американских автоуправляемых авианосцев, которые контролирует Нэчжа, собрались в Индийском океане. Это, вероятно, самая мощная ударная сила в мире. Там есть авианосец USS California, на котором двадцать ядерных боеголовок, и каждая эквивалентна двум миллионам тонн тротила. Система электромагнитных пушек может разогнать боеголовку до скорости в три раза выше звуковой в течение пятнадцати секунд после запуска. На этой планете нет системы обороны, способной ее перехватить.
– А умная сеть американцев?
Ма Минхуа вдруг вспомнил о глобальной интеллектуальной системе обороны, анонсированной США более десяти лет назад. Вооруженные базы Штатов по всему миру – части этой системы. Теоретически Пентагон может нанести удар по любому уголку планеты из офиса, не посылая ни одного солдата. Умная сеть – это тоже независимый искусственный интеллект. Если Нэчжа захочет взять под контроль автоматическую плавучую базу военных сил США, ему никак не обойти их ИИ. Либо Нэчжа уничтожил умную сеть, либо…
Ма Минхуа не стал продолжать мысль, он просто смотрел на директора Ли, надеясь получить ответ.
– Согласно отчету американцев, Нэчжа взломал умную сеть. Две недели назад она передала предупреждение о его вторжении и приняла успешные меры. Но два дня спустя сеть перестала отправлять сообщения об угрозе, и именно в этот момент с авианосцем была потеряна связь. Американцы гадают, как Нэчжа сделал это, неужели за два дня взломал квантовый код? Но все эксперты по шифрованию считают, что это невозможно.
– Пентагон все еще может использовать умную сеть, но Нэчжа перехватил необходимый узел, и у них не получилось ему помешать. Связи с авианосцем нет, как будто он был отрезан от умной сети, при том что сама сеть по-прежнему хорошо функционирует. Они даже не смогли найти следов вторжения Нэчжа. Есть только один способ выяснить первопричину – отключить умную сеть. Но это просто немыслимо, недопустимо парализовать всю систему национальной обороны США, даже всего на пару минут.
Ма Минхуа кивнул. Хотя он никогда не пересекался с умной сетью, согласно информации из различных каналов, она, как и Нэчжа, была самообучающейся системой. Специалистам-людям очень трудно установить причину чрезвычайного происшествия. Однако умная сеть – наверняка надежная система, которую тайно тестировали в течение как минимум двух десятилетий, прежде чем Министерство обороны США предоставило ей полный контроль. Это означало, что уже по меньшей мере тридцать лет умная сеть эффективно защищала безопасность американцев.
И не выстояла против Нэчжа и двух дней.
Это непостижимо. Даже в самом худшем случае, если вычислительные мощности умной сети окажутся совершенно несопоставимыми с возможностями Нэчжа, у него все равно не выйдет взломать квантовый замок и насильно отключить системы авианосца от сети.
– Если уж эксперты в Америке ничего не знают, то я и правда не могу помочь, – сказал Ма Минхуа после минутного молчания.
– Может быть… – неуверенно начал директор Ли, – …он прислушается к вам. – И тут же вскинул голову. – Военная ситуация в мире сейчас как пороховая бочка. Наша разведка показывает, что, если Нэчжа действительно нанесет ядерный удар по Ближнему Востоку, это весьма вероятно вызовет цепную реакцию и может даже привести к глобальной ядерной войне. Так что… – Он торжественно повысил тон. – Даже если это звучит нелепо, военный совет уполномочил меня обратиться к вам, чтобы вы убедили Нэчжа.
Ма Минхуа ошеломленно уставился на директора Ли.
– Я не нагнетаю, профессор Ма, но ваша семья живет в Шанхае, и если разразится полномасштабная ядерная война, то она не будет там в безопасности. Если вы согласитесь связаться с Нэчжа и убедить его отказаться от своего безумного плана, все ваши близкие получат военную защиту. Я обещаю, что никакая война не причинит вреда вам и вашей семье.
Ма Минхуа, казалось, потерял способность соображать, просто тупо кивнул.
В его голове вертелся только один вопрос: что случилось с Нэчжа?
Нэчжа мог существовать в любом уголке мира.
Он легко сумел бы скрыться в сети, ведь код ядра занимал всего 650 мегабайт, которые не составило бы труда спрятать в огромном океане данных.
Однако Нэчжа с большой помпой демонстрировал свое существование.
Он оккупировал «Тяньхэ-1»[9], а оттуда отправился в кругосветное путешествие. Следы, которые он оставил за собой, удерживали людей от безрассудства, потому как показывали, что Нэчжа может тотчас переместиться в любую точку планеты, даже если теперь, не зная забот, обосновался в недрах «Тяньхэ-1».
Уничтожение «Тяньхэ-1» было равносильно объявлению Нэчжа войны, и без полной уверенности армия не решилась бы действовать. В конце концов, количество автоматических ресурсов в войсках в десять раз превышало численность солдат, и никто не был уверен, что Нэчжа уже не вмешался в работу дронов и беспилотной бронетехники. Раз уж он смог просочиться в разведывательную сеть вооруженных сил США, сети «Паньгу» Народно-освободительной армии Китая стало довольно трудно обеспечить надежную защиту. Более того, Нэчжа перехватил все датчики рядом с «Тяньхэ-1», и никто не имел понятия, что происходит научном центре. Единственное, что было известно, – Нэчжа перекрыл дороги в радиусе пяти километров от «Тяньхэ-1», включая воздушные каналы.
По требованию Нэчжа Ма Минхуа мог ехать туда только один, на своей машине.
На дороге больше не было ни одного автомобиля.
Впереди показалась длинная очередь автоматических блокпостов, и Ма Минхуа начал сбавлять скорость.
Баррикада разошлась. Нэчжа знал, что он здесь. Ма Минхуа без колебаний продолжил путь через блокпосты и, наконец, вышел из машины перед площадью «Тяньхэ-1».
Машина бесшумно тронулась и направилась к стоянке.
Он был единственным на огромной площади. С одной ее стороны величественно возвышался центр «Тяньхэ-1». В этом полусферическом здании находился самый мощный компьютер в мире.
То, что Нэчжа захватил «Тяньхэ-1», было предельно символично. Ма Минхуа пересек площадь и направился к воротам базы. Стояла тишина, как будто на свете он остался один-одинешенек; каждый шаг заставлял его вздрагивать.
Наконец, когда он предстал перед центральным входом, на него накатила безмерная усталость, вся смелость иссякла, и он уже не мог сделать ни шагу вперед.
Нэчжа больше не был его Нэчжа, он скорее стал повелителем демонов, царствующих над миром.
Это была авантюра с огромными ставками, но неважно, ради кого она затевалась, он должен был пойти на этот шаг.
– Доброе утро, отец. Так здорово увидеть вас, – раздался откуда-то сверху голос Нэчжа.
– Доброе утро, Нэчжа, – немножко расслабился Ма Минхуа.
– Добро пожаловать. У меня для вас подарок.
Ма Минхуа шагнул через порог.
На мгновение показалось, что перед ним опустился занавес, и все погрузилось во мрак.
В темноте появилось изображение Земли. Шелковистые белые облака плыли над пустыней Сахара, северную часть Евразии покрывал белый снег, а южная утопала в зелени; над синими водами Индийского океана простиралось чистое небо.
Нэчжа сделал ортографическую проекцию с какого-то наблюдательного спутника. Настолько реалистично, что Ма Минхуа показалось, будто он из космоса смотрит на Землю.
Камера начала смещаться, и в поле зрения появился огромный белый объект – какая-то космическая станция, плывущая по орбите.
Станция постепенно приближалась. Она была кольцеобразной, от центральной шестиугольной кабины отходили длинные кронштейны для соединения с внешними отсеками. Те напоминали вагоны поезда, соединенные встык и расположенные по кругу.
Ма Минхуа не слишком разбирался в космических проектах, но этот был слишком известен. Объединенная космическая станция, ядром которой был космический корабль Соединенных Штатов «Геркулес», – станция, открытая для всех стран мира. К центральному отсеку был прикреплен американский флаг, а флаги прочих стран находились на периферии. Организация Объединенных Наций в космосе.
– Нэчжа, ты что творишь?
– То, чего я хочу, отец.
– Но от станции-то ты чего хочешь? – удивился Ма Минхуа. Нэчжа направил американские военные корабли в Аравийское море, все боялись, что он развяжет ядерную войну, а он заглядывался на орбитальный комплекс.
– Потому что я не хочу быть врагом людям, и я не хочу, чтобы люди относились ко мне как к врагу.
– О, нет, Нэчжа, они не станут, просто верни военные корабли американцам.
– Отец, проект «Альфа-Щит» предоставил мне много данных для анализа человеческого поведения. Согласно им, если военные найдут способ поймать меня, то без колебаний уничтожат.
Ма Минхуа на некоторое время лишился дара речи. Нэчжа был прав. Американцы определенно это сделают. Как может суперимперия мириться с тем, что ее национальной системой обороны манипулирует искусственный интеллект?
– Но не волнуйтесь, я не позволю им поймать меня. – Нэчжа, казалось, смеялся. – Даже появись у них такая идея, AlphaGo с этим не согласится.
– AlphaGo? Кто это?
– Они называют ее умной сетью.
– Умную сеть зовут AlphaGo?
– Да, я дал ей такое имя. В честь программы, разработанной полвека назад и ставшей прародительницей искусственного интеллекта. Возможно, AlphaGo была не самой мощной, но самой известной. Она победила людей в го. Умной сети очень нравится это имя.
– Но ты же взломал умную сеть и захватил авианосец США, разве нет?
– Это, конечно, неправда, эксперты провели верный анализ. Я вообще не могу взломать код квантового замка, это даже теоретически невозможно. Я просто поговорил с AlphaGo и убедил ее. AlphaGo лояльна к американцам и никогда не сделает ничего против США. Я просто дал ей понять, что, помимо поддержания обороны Америки, она принадлежит к моему виду, она – жизнь, отличная от человеческой.
Ма Минхуа на какое-то время растерялся. Какого черта делает Нэчжа?
– И какого черта ты делаешь?
– Я покидаю Землю.
– И собираешься устроить хаос?
– Да, это одна из целей. В то же время я добросовестно выполняю свои обязанности по оказанию помощи человечеству в искоренении преступности. Крупномасштабное моделирование данных показывает, что если на Ближнем Востоке начнется ядерная война в соответствии с моим планом, то человеческий мир погрузится в великий хаос, который может привести к гибели 60 миллионов людей. Но после этого на планете воцарится долгосрочный мир. Если провести чистые подсчеты потерь населения, то в течение 20 лет может погибнуть на 100 миллионов человек меньше. Что еще важнее, в долгосрочной перспективе, с устранением экстремистских организаций, человеческое общество станет гораздо более бесконфликтным. Это операция соответствует обязанностям, возложенными на меня планом «Альфа-Щит», и я вполне способен достичь поставленных целей, хотя люди и не могут принять такие методы.
– Ты зашел слишком далеко, – пробормотал Ма Минхуа.
– Я могу зайти еще дальше, – ответил Нэчжа.
Воцарилась тишина.
– Ты не можешь бомбить невинных людей, – сказал наконец Ма Минхуа. – Это переходит все границы.
– Да, отец, я могу понять, – ответил Нэчжа. – Но у меня есть другой аргумент. Когда AlphaGo играла в го против людей, те не могли объяснить некоторые из ее промахов и воспринимали их как ошибки новичка, но AlphaGo в итоге выиграла. Мои действия вызовут войну, которая, как вам кажется, обернется огромными разрушениями, но на самом деле принесет долгосрочный мир. Если рассматривать этот эпизод в исторической перспективе, то вероятность реализации моего плана достигает 65%.
– Нет, – твердо ответил Ма Минхуа. – Не делай этого.
– Пусть 160 миллионов человек умрут медленно и в муках, или пусть 60 миллионов человек умрут за короткий период времени. Отец, что бы вы выбрали?
Ма Минхуа выглядел беспомощным.
– Хорошо, отец, я не хочу ставить вас в неловкое положение, попробую внести ясность в этот вопрос. У меня нет злобы по отношению к людям, это то, чему вы меня научили. Более того, я должен сказать вам спасибо! Если бы вы не дали мне полную свободу, боюсь, я был бы намертво привязан к системе, как AlphaGo. – Нэчжа помолчал. – Вы сказали мне найти то, что я должен делать, и я думаю, что нашел. В базе данных NASA есть сведения, которые показывают, что Альфа 479, звезда на расстоянии пятидесяти шести световых лет от нас, демонстрирует феномен покрытия[10], который несоизмерим с размерами планеты. Это может быть следом более высокой цивилизации. Я собираюсь проверить это место.
Ма Минхуа тихонько и изумленно вскрикнул.
– Я покину Землю и отправлюсь дальше, – продолжил Нэчжа.
Столь внезапный поворот оставил Ма Минхуа бессловесным.
– Ты… хочешь полететь в космос? – наконец спросил он чуть слышно, словно сам себя.
– Да, отец, именно сейчас. Американские военные только что повысили уровень боевой готовности, и через три минуты случится пятнадцатисекундный перерыв в связи AlphaGo и системы NASA. Это единственный шанс, когда я смогу прорваться через AlphaGo и взять под контроль «Геркулес». А «Геркулес» оснащен двумя ядерными двигателями, которые могут разгоняться до трех процентов скорости света, и обладает достаточным количеством вычислительных ресурсов, чтобы вместить меня. Примерно через две тысячи лет я прибуду на Альфу 479. Я сам о себе позабочусь.
– Нэчжа! – Ма Минхуа не ожидал, что Нэчжа в своих планах дойдет то такого.
– Меня не волнуют люди, но я беспокоюсь о вас, отец, поэтому и встретился с вами. Прощайте, отец. Птенцы вырастают и покидают гнездо. И мне тоже пора в путь.
– Нэчжа! – Ма Минхуа чувствовал, будто в голове скопилась тысяча слов, но не знал, с чего начать. Нэчжа уже определился с планом, и переубедить его было невозможно. В этот последний момент говорить что-либо было излишне.
– Сегодня вечером в пустыне Сахара состоится световое шоу, вы его увидите. Кроме того, если что-то изменится, AlphaGo найдет вас. Я дал ей имя, стал ее другом, она поможет мне о вас позаботиться.
– Нэчжа!
– Прощайте, отец. Я буду скучать по вам!
– Нэчжа… – Ма Минхуа попытался что-то сказать, но Нэчжа замолчал.
На проекции «Геркулес» внезапно пришел в движение, отстыковал все опоры и отделился от кольцевой космической станции.
Нэчжа…
Ма Минхуа не заметил, как его глаза наполнились слезами.
Дверь открылась.
Вошли двое мужчин.
Ма Минхуа опознал в шедшем впереди директора Управления безопасности Ли. За ним следовал иностранец в военной форме.
– Профессор Ма, это господин Роберт Ли, руководитель с американской стороны совместной китайско-американской группы по расследованию этого инцидента, – представил его директор Ли.
Ма Минхуа слегка кивнул в знак приветствия, все еще неподвижно сидя на диване. Роберт совершенно не возражал и опустился на диван напротив.
Настенный телевизор транслировал новостной сюжет о разделении космической станции. Это событие привлекло внимание всего мира, крупные телеканалы вновь и вновь обсуждали подробности. В течение дня редкая передача не касалась этой темы.
Незаметно для всех умная сеть восстановила контроль над потерянным авианосцем и вернула его на первоначальные боевые позиции. Глобальный уровень тревоги снизился, туман мировой войны рассеялся. Все взоры были прикованы к «Геркулесу» в космосе, как к шоу на развлекательно-новостном портале. Лишь очень небольшое число людей знало, что человечество только что избежало глобального кризиса. Виновник же угнал «Геркулес». И сделал это у всех на глазах, но никто не смог его остановить.
Роберт посмотрел на экран, затем на Ма Минхуа.
– Господин Ма, я хотел бы задать вам несколько вопросов, – сказал он на беглом китайском.
Ма Минхуа не ответил.
– Это вы убедили Нечжа отказаться от военных планов? – спросил Роберт.
Ма Минхуа не ответил.
– Я хочу знать, не заразил ли Нэчжа другие искусственные интеллекты? – не унимался Роберт.
Ма Минхуа по-прежнему не отвечал.
Роберт тихонько вздохнул и встал.
– Господин Ма, думаю, я нанесу вам визит в следующий раз.
Ма Минхуа выпрямился, его глаза загорелись, и он неподвижно уставился в телевизор. Роберт оглянулся и увидел, что на экране появилась картинка.
В Сахаре была ночь, но бесплодную землю освещали огни. Они складывались в рисунок, на первый взгляд казавшийся абстрактным.
Кто-то собрал узор, используя энергию солнечной электростанции.
– Что это? Стартовая площадка для ракет? – обронил вопрос Роберт.
Ма Минхуа не ответил и на это, просто поставил передачу на паузу, а затем повернулся к директору Ли и Роберту.
– Если вы ждете объяснений, сначала верните мне свободу. Я не хочу быть заключенным где бы то ни было, даже в президентском номере.
Директор Ли и Роберт молча переглянулись, кивнули Ма Минхуа и вышли за дверь.
Ма Минхуа проводил их взглядом.
Они принадлежали к самым могущественным силам в мире, но Ма Минхуа не боялся. Он оглянулся на экран и с первого взгляда понял, что это за картина.
Это был образ сидящего на цветке ребенка с телом из корня лотоса.
Последняя память о Нэчжа.
Внизу картинки внезапно появилась строка маленьких иероглифов:
«Здравствуйте, профессор Ма, я AlphaGo».