Как показывает опубликованный в июне 1984 г. доклад профессиональной группы «Общественная ответственность специалистов по вычислительной технике», этот проект представляет большую опасность²⁴. Обеспокоенность специалистов понятна. Без ЭВМ немыслимы ни ракеты, ни авиация, ни флот в том виде, в котором они существуют ныне. Человеческая мысль не может обеспечить быстроты, необходимой для учета всех параметров, нужных для вычисления траектории ракеты или прокладывания курса. Компьютер перестал быть просто вычислительным устройством, дающим информацию для принятия решений человеку. Сегодня военные передоверяют принятие некоторых решений машинам, программируемым заранее. В современном конфликте военачальник, как правило, лишен визуальной информации. В его распоряжении — лишь кодированные сообщения, поставляемые компьютерами и ими же переведенные на естественный язык. Свобода выбора для человека при таком положении становится все иллюзорнее.

Вспоминается поэтическое описание воздушного боя прошедшей войны:

Из литературного приема, называемого «остранением», ситуация стала реальностью, чуть ли не техническим описанием работы авиационных систем. Пилот истребителя, поднимающегося в небо, — хозяин своего самолета лишь в той мере, в какой это позволяет ему компьютер. Летчик не имеет возможности идти на риск, не совместимый с летными характеристиками полета. Более того, можно сделать так, чтобы самолет не подчинялся приказам, противоречащим командам компьютера. ЭВМ способна отключить ручное управление и также автоматически привести ракеты в боевую готовность.

Пока что компьютеры не способны думать, рассуждать или читать мысли. Но в проекте «Стратегическая информатика» речь идет о компьютерах пятого поколения, и по заказу Пентагона фирма «Макдоннел-Дуглас» уже работает над компьютерной системой, которая будет сканировать волны, исходящие от мозга пилота, следить за пульсом, сокращениями сердечной мышцы, другими жизненно важными функциями его организма и на основании этого определять боеспособность пилота, выдавая ему ровно столько информации, сколько он в состоянии воспринять в данный момент.

Управление перспективного планирования создает и так называемого «помощника пилота» — робота, помогающего летчикам в условиях воздушного боя выполнять операции, которые сейчас делаются вручную, например обходные маневры с целью уйти от ракет противника. Робот будет выполнять голосовые команды пилота и отвечать ему тоже в речевой форме²⁶.

В осуществлении «стратегической компьютерной инициативы» способность систем сбора и обработки данных (военные называют их «три К» или «К³» («К» в кубе) в соответствии с их тройной функцией: командование, контроль, коммуникации²⁷) следить в реальном масштабе времени за развертыванием конфликтов на различных театрах военных действий с тем, чтобы сохранить контроль над участвующими в боях воинскими частями, превратилась в важнейший боевой фактор. Но системы «три К», задуманные для установления строгого контроля, страдают врожденными пороками: во-первых, они исключительно уязвимы для воздействия электронными импульсами; во-вторых, регулярно «обнаруживая» ложные атаки, они неоднократно приводили к объявлению боевой готовности. Причиной последнего может оказаться как дефект одного из электронных компонентов, несовершенство математического обеспечения, неправильное истолкование природного явления (перелет стаи диких гусей был принят однажды за «советскую ракетную атаку»), так и ошибка оператора, вызывающая немедленную реакцию системы. Примеров этому немало.

Так, крупный скандал разразился в Пентагоне в 1984 г., когда обнаружилось, что миллионы микрочипов компании «Тексас инструментс», широко используемых в современных системах оружия, не отвечают элементарным требованиям надежности. Компания просто-напросто не проводила многих существенно важных испытаний и проверок чипов перед их монтажом в системах боевой техники. Такие неисправные чипы в радарах, системах раннего обнаружения (в том числе и спутниковых) оказываются ответственными за ложные тревоги. Случай с «Тексас инструментс» — отнюдь не уникальное событие. В том же 1984 г. стало известно, что Национальная корпорация полупроводниковой техники фальсифицировала результаты испытаний кремниевых чипов, предназначенных для военных систем²⁸. Ради доходов возможностью того, что из-за неисправных электронных цепей может погибнуть человеческая цивилизация, просто пренебрегли.

Другой пример. 3 и 6 июня 1980 г. компьютер в штаб-квартире командования противовоздушной обороны Северной Америки (НОРАД)²⁹ выдал ложные сигналы о якобы начавшемся советском нападении. В результате были приведены в повышенную боевую готовность стратегические бомбардировщики с ядерным оружием на борту³⁰. А причиной послужил маленький, размером с монету, кремниевый элемент. Руководящий деятель лейбористской партии Великобритании Т. Дэлиэлл заявил в этой связи: «Тот факт, что дважды за четыре дня ошибка компьютера приводила к запуску американской военной машины, должен стать проблемой номер один в повестке дня каждого правительства и каждой политической партии мира»³¹.

В конце 70-х — начале 80-х годов американские эксперты были обеспокоены большим числом сбоев в пентагоновской компьютерной глобальной системе командования и управления (ВИМЕКС). Дж. Брэдли, бывший главный инженер-испытатель ее компьютерной сети, предупреждал, что эта система не настолько надежна, чтобы военное командование могло полагаться на нее. По его оценкам, прессе становится известен не более чем один из десяти случаев ложных тревог³².

ВИМЕКС, которая к началу 80-х годов устарела уже на десятилетие, неоднократно интерпретировала гряду облаков, стаю гусей и тому подобные явления как ракетную атаку. По некоторым оценкам, она отказывала через каждые 35 минут. Два компьютера ВИМЕКС были включены в систему НОРАД и начали работать в ее штаб-квартире в Колорадо в сентябре 1979 г., и в течение 9 месяцев американские ядерные силы приводились в готовность по ложной тревоге не менее трех раз. При этом в воздух поднималась стратегическая авиация и начиналась подготовка к запуску ракет. В ноябре 1979 г. НОРАД подняла тревогу из-за, того, что по ошибке в память компьютера была введена модель учебной военной игры. В результате с авиабаз США над Миссури, Орегоном и Британской Колумбией взлетели истребители-перехватчики с целью уничтожить «вторгшиеся советские бомбардировщики». К июню 1980 г. произошло еще несколько подобных случаев: причиной «советской ракетной атаки» послужили бракованные чипы³³. В докладе, опубликованном сенатской комиссией США по делам вооруженных сил в октябре 1980 г., указывалось, что лишь за полтора года по причине различных технических неисправностей «командование противовоздушной обороны Северной Америки (НОРАД) подало в общей сложности 151 ложный сигнал о начале „ядерной атаки” на США»³⁴. В проведенной после этого контрольной проверке ВИМЕКС в ноябре 1980 г. компьютеры в течение 12 часов работали со сбоями.

Сложность математического обеспечения создает потенциальную угрозу непредсказуемого поведения военных систем. Пентагон сталкивается с трудностями, даже когда надо установить оружие со сравнительно простой программой. Важный недостаток зенитного оружия «Сарджент Йорк», от которого было решено отказаться, заключается в том, что подрядчики не могли составить достаточно изощренную программу слежения, чтобы поражать самолеты, выполняющие маневры в попытке уйти от огня.

Пентагон потратил в 1985 г. 11 млрд. долларов на военные компьютерные системы, из них 8,5 млрд. — на математическое обеспечение^34а. Ассоциация электронной промышленности США полагает, что к 1990 г. эта сумма более чем удвоится и на нее будет приходиться приблизительно 20% всех расходов Пентагона на оружие. В погрешностях математического обеспечения кроется не меньшая, чем в отказах электронных компонентов, опасность. Между тем все его слабости и допущенные ошибки выявить при предварительных испытаниях невозможно.

Оружие часто приходится использовать в непредсказуемых или неожиданных ситуациях. В отличие ют коммерческих данных, которые программисты закладывают в компьютер в организованной, аккуратно отпечатанной форме, компьютерные команды для управления оружием должны даваться датчиками, в частности радиолокаторами или электронно-оптическими приборами. Данные с датчиков поступают в виде миллионов «сырых» цифр в секунду. Компьютерная программа должна проанализировать эти данные и решить, означают ли они, скажем, вражеский танк или дружественный «фольксваген». К тому же все это должно делаться в реальном масштабе времени, т. е. практически молниеносно. У экспериментального американского истребителя «X-29» конструкция крыльев аэродинамически настолько неустойчива, что три бортовых компьютера должны 40 раз в секунду корректировать крен и тангаж самолета. Если сбой произойдет в программах трех компьютеров одновременно, самолет просто в воздухе развалится на куски³⁵. Можно себе представить, как отреагируют «не догадывающиеся» об ошибках компьютеров другие автоматизированные системы управления оружием.

Проблема состоит также в том, что ввести в такие системы человека как «сдерживающий» и контролирующий элемент уже невозможно. В конце 70-х годов американская армия поставила на вооружение огромную систему связи под названием «БЕТА» (использование в боевых условиях и захват целей). БЕТА должна была собирать и обрабатывать данные со многих датчиков и выдавать на дисплеи результаты, которые должны были помочь боевым командирам принимать решения. «Эта система делала именно то, что армия требовала от нее, — говорит Л. Маклафлин, ведающий технологией проектирования в компании-подрядчике. — Неприятность была в том, что никто не мог пользоваться ею. Она выдавала слишком много информации»³⁶. Известно, что во время вьетнамской войны с компьютерами работали американские офицеры, «не имевшие ни малейшего представления о том, что заложено в их программы и какие цели для обстрела они выбирают»³⁷. Действительно, компьютеры, призванные контролировать тактические ситуации, обладают столь сложным математическим обеспечением (не говоря уже о секретности), что обычным военнослужащим просто не под силу разобраться в нем. Если перенести этот вывод на стратегический уровень, обнаруживается весь ужас ситуации. Мало-помалу все это превращает человека во второстепенный вспомогательный винтик.

В докладе армии США «Битва земля-воздух—2000» отмечаются две «многообещающие» в этом плане тенденции. Во-первых, говорится там, «надо быть готовыми к тому, что поле боя XXI века будет изобиловать сложными боевыми системами, дальность действия, смертоносные и эксплуатационные качества которых превосходят все, что известно на сегодняшний день». Во-вторых, «несмотря на тот факт, что суммарное население страны продолжает расти, группа призывного возраста сокращается»³⁸.

Как же американские стратеги решают эти проблемы? Нужно создать, говорят военные, целые армии из «оловянных солдатиков» — роботов с дистанционным управлением. «Мы считаем, что роботы на компьютерах могут помочь решить некоторые проблемы нехватки кадров, с которыми ВМС, возможно, столкнутся в будущем», — сказал Том Макнайт, ведающий роботами в Центре надводных кораблей ВМС³⁹.

Военно-морские силы уже создали роботы НТ-3 для тяжелых грузов и РОБАРТ-1, фиксирующий пожары, отравляющие вещества и технику противника, проникающую через линию фронта, и имеющий словарь из 400 слов. РОБАРТ-1, кроме того, сам добирается до заправочной станции для перезарядки батарей. Широко рекламированная экспедиция к месту гибели знаменитого «Титаника», которая была проведена в 1986 г., имела скрытую основную цель — испытание военного подводного робота «Джейсон-младший»⁴⁰.

Стараются не ударить лицом в грязь и другие виды вооруженных сил США. Уже организованы лаборатории, взявшиеся за создание таких «оловянных солдатиков», как мобильные разведывательные роботы и роботы, способные закладывать тяжелые снаряды в гаубицы быстрее самого тренированного артиллериста. На 1987 г. намечены боевые испытания РОБАРТа, разминирующего местность. А пока американская промышленность осваивает роботов «попроще».

«Грумман корпорейшн» работает над «Рейнджером», который «видит» собственное направление и следует по незнакомой пересеченной местности, обходя препятствия. Испытываемый образец оснащен целым набором датчиков, включая телекамеру, лазерный локатор, передающий на ЭВМ объемное изображение местности, и приемник инфракрасного излучения, позволяющий двигаться в темноте. Поскольку для анализа изображений, получаемых с датчиков, требуются миллиарды расчетов, робот способен передвигаться со скоростью около 5 км/час, но после усовершенствования компьютеров скорость возрастет до 65 км/час. При дальнейшем усовершенствовании робот сможет шпионить за позициями противника или вступать в бой как танк-автомат, вооруженный точнейшими орудиями.

ОДЕКС — детище компании «Одетикс» — способен погружать и разгружать артиллерийские снаряды, переносить грузы весом более тонны, обходить рубежи охранения, фиксировать огонь противника и отвечать на него. В аналитическом докладе корпорации «Рэнд» подобные роботы названы «демонами». Указывается, что, по предварительным расчетам, каждый «демон» будет стоить около 250 тыс. долларов (для сравнения — основной танк сухопутных сил США «Абраме М-1» стоит 2,8 млн. долларов каждый).

Но это еще не все. Проект «Стратегическая информатика» направлен на достижение более весомых целей. Так, для сухопутных сил предназначен новый класс средств передвижения, способных перемещаться во враждебном окружении благодаря автономности и использованию искусственного интеллекта. Для военно-морских сил Управление перспективного планирования хочет разработать компьютерного «стратега», который на основе анализа данных, поступающих с радиолокаторов и искусственных спутников Земли, будет помогать командирам организовывать сложный морской бой с участием авианосной боевой группы и входящими в нее десятками надводных кораблей и подводных лодок. Эта система управления боем должна быть способна учитывать непроверенные данные, предсказывать вероятные события, а также разрабатывать стратегию действий и сценарии на основании опыта, ясно выражая предпосылки принятия логических решений.

Впечатляющая картинка, не правда ли? Целые армии «компьютерных оловянных солдатиков», ведомые рукой опытного полководца…

Стоп! А это что еще за мираж? Кто там за полководца у «оловянных солдатиков»? Нет, это не играющий мальчик. Уж не снова ли компьютер собственной персоной?

Да, так и есть. Управление перспективного планирования научно-исследовательских работ министерства обороны США откровенно ратует за массовое внедрение искусственного разума как общего средства принятия военных решений и предлагает распространить этот процесс на контроль над стратегическими ядерными ракетами. Доклад «Стратегическая информатика» утверждает точку зрения, согласно которой экспертные компьютерные системы могут практически полностью заменить людей при принятии решений в критических ситуациях.

Рене Дзагоян, выпускник Парижского педагогического института, некоторое время работавший в Центре прикладных исследований в Уортоне (США), написал ставший бестселлером политико-фантастический роман «Система „Аристотель”». В нем рассказывается, как две враждующие державы во избежание последствий чьих-либо необдуманных действий решили в конце концов положиться на решения собственных вычислительных систем, сообщая друг другу свои шаги.

В интервью парижскому еженедельнику «Пари-матч» Дзагоян так прокомментировал описанную ситуацию: «Это логическое завершение процесса передачи человеком власти вычислительной машине. Начиная с определенного момента единственным выходом будет связать между собой рациональных до конца представителей обеих стран, иначе говоря — два компьютера. Когда друг другу противостоят две силы, перевес может зависеть от быстроты и точности тех людей, которые принимают решения. Именно этот фактор участия человека и обречен со временем на исчезновение. Но, исчезая в одном лагере, он должен для сохранения равновесия уменьшаться и в другом до тех пор, пока каждый из противников не утратит свое право на решение. Почему бы тогда не вообразить себе, например, центральный компьютер, который будет находиться, скажем, в Швейцарии и играть роль арбитра. Таким образом, на компьютеры, которые все в большей мере должны компенсировать в случае конфликта человеческие несовершенства, была бы возложена миссия мира»⁴².

Какой умилительный сценарий гонки компьютерных вооружений, автоматически ведущей… ко всеобщему миру! Характерно, что он абсолютно совпадает со взглядами некоторых американских комментаторов «стратегической компьютерной инициативы: «Когда-нибудь противоборствующие армии из роботов, может быть, даже будут противостоять друг другу по разные стороны линии фронта и, таким образом, новый смысл приобретет давний антивоенный лозунг: „Если объявят войну, никто на нее не пойдет”»⁴³. Однако такая прокомпьютерная позиция не только утопична, но и глубоко аморальна, поскольку ответственность за ядерный конфликт и, по сути, за судьбу человечества снимается с конкретных людей и возлагается на анонимные компьютерные программы. «Как отвергнуть впечатление того, что фантастический технико-политический механизм с каждым днем все сильнее втягивает нас в игру, ни правил, ни цели и прежде всего исхода которой никто, кажется, больше не знает?» — спрашивает Жан-Пьер Пети — один из руководителей Национального центра научных исследований, заместитель директора Вычислительного центра университета Экс-Марсель⁴⁴.

Есть здесь и другая сторона вопроса. Компьютеризованное буржуазное общество поражено новой болезнью. Зарегистрирована она во многих странах Запада, особенное распространение получила в США.

Анамнез: Компьютерная слежка, компьютерная преступность, компьютерные «оловянные солдатики», хэккеры и пр.

Диагноз: Синдром компьютерной диктатуры.

Прогноз: На первой стадии течение болезни внутреннее, скрытое; на второй — опасно для окружающих. Трудно поддается лечению. А опасность ее заключается в том, что в еще большей степени она повышает вероятность случайного возникновения войны.