К книге
Бессовестная машина. Можно ли научить ИИ эмпатии, состраданию и другим человеческим ценностям?Часть 3 Нормативность. 9. Неопределенность
84%
Часть 3 Нормативность. 9. Неопределенность
70

Большинство величайших зол, которые человек причинил человеку, произошли из-за того, что люди чувствовали себя совершенно уверенными в чем‐то, что на самом деле было ложным.

Заклинаю вас всеми страстями христовыми – задумайтесь на минуту о том, что вы можете ошибаться.

Дух свободы – это дух, который не слишком уверен в своей правоте.

26 сентября 1983 года, сразу после полуночи, Станислав Петров дежурил на секретном командном пункте системы предупреждения о ракетном нападении «Око» в бункере под Москвой. Неожиданно экран засветился, и взвыли сирены. Система сообщила о запуске межконтинентальных баллистических ракет LGM‐30 Minuteman с территории Соединенных Штатов.

«На экране замигали гигантские красные буквы: „ЗАПУСК РАКЕТ“, – рассказывал Петров. – Увидев сигнал тревоги, я вскочил со стула. Мои подчиненные были в панике, и мне пришлось выкрикивать приказы, чтобы вернуть им самообладание» [700].

Сирена взвыла снова. Вторая ракета. Третья. Четвертая. Пятая.

«Мое удобное кресло словно превратилось в раскаленную сковороду, ноги дрожали. Я чувствовал, что не могу даже встать».

В одной руке Петров держал телефонную трубку, в другой – переговорное устройство. По телефону на него орал другой офицер, призывая сохранять спокойствие. «Признаю, – вспоминал Петров, – мне было страшно».

Инструкции были предельно простыми. Петров должен был немедленно доложить о ракетном ударе высшему руководству, которому предстояло принимать решение об ответно-встречном ударе. Но, по его словам, «не было никаких правил относительно того, сколько времени нам позволено думать перед тем, как доложить о нападении» [701].

Петров чувствовал: что‐то не сходится. Его учили, что в случае реальной войны удар со стороны США будет массированным. Пять ракет… Это казалось бессмысленным. «Сирены ревели, а я просто сидел и смотрел на огромный экран, где горела красная надпись: „ЗАПУСК РАКЕТ“. Мне нужно было лишь протянуть руку к телефону и связаться с верховным командованием… но я не мог заставить себя пошевелиться» [702].

Система раннего оповещения выдавала «высший» уровень достоверности тревоги. Но это противоречило здравому смыслу. У Соединенных Штатов тысячи ракет, так зачем посылать всего пять? «Никто не начинает глобальную войну пятью ракетами, – рассуждал Петров. Это не укладывалось ни в один из сценариев, к которым его готовили. – Я нутром чувствовал: здесь что‐то не так. И тогда я принял решение. Я не поверил компьютеру. Я поднял трубку, связался с командованием и доложил, что тревога ложная. Но в глубине души я сомневался до самого последнего момента. Я прекрасно понимал, что если ошибаюсь, исправить эту ошибку будет некому» [703].

Много лет спустя в интервью BBC Петрова спросили, как он тогда оценивал вероятность того, что нападение реально. Он ответил: «Пятьдесят на пятьдесят». Но он оказался прав. Спустя несколько мучительных минут ничего не произошло. Наземные радары, которые должны был засечь ракеты, как только те покажутся из-за горизонта, оставались чистыми. Над Советским Союзом было мирное небо. Это оказался системный сбой: спутник принял за вспышки от запуска ракет солнечные блики, отразившиеся от облаков над Северной Дакотой.

Предыдущая главаГлава 70 из 83Следующая глава