Когда же профессора спросили, почему, по его мнению, роботы не будут выполнять правила роботехники, в которых записано, что киберы не могут причинять вреда людям, он ответил так:
«Правила были придуманы человеком, а именно Айзеком Азимовым. Но это вовсе не значит, что машины будут жить по нашим законам. Упустить же их из подчинения довольно легко. Ведь уже сегодня мы разрабатываем модели адаптивных роботов и ныне уже достукались до того, что кибер обыграл в шахматы Гарри Каспарова...»
Вводить запрет на подобные работы бесполезно, продолжал профессор. Всегда найдется какой–нибудь «гений», который втихомолку будет создавать армию всемогущих киберов, стремясь подчинить мир себе. Но для того чтобы одолеть людей, надо стать умнее их – ведь само человечество выжило, победило всяких там саблезубых тигров и пещерных медведей прежде всего силой своего ума, но отнюдь не мускулов.
Рано или поздно создателю кибернетического воинства придется дать ему волю, ввести принципы самопрограммирования, самообучения... А почувствовав, что она стала смышленнее своего хозяина, машина вряд ли захочет ему подчиняться.
Такой сюжет тоже описан в фантастической литературе. Вспомните хотя бы бунт кибера HALa на страницах книги «2001: космическая одиссея», написанной соотечественником профессора Уорвика – Артуром К. Кларком.
Кибернетический штурман HAL–9000 решил, что он умнее всего экипажа космического корабля «Дискавери», и избавился практически ото всех, за исключением пилота Дейва. Человеку все–таки удалось победить машину. Но какой ценой?..