Высказывания Джона Хопфилда об опасности искусственного интеллекта мы слышали давно, но теперь, когда он получил Нобелевскую премию за изобретение нейросетей, это стало предупреждением от их официального создателя.

Кажется, «отец нейросетей» (ему на момент написания книги за 90) выглядит если не напуганным, то как минимум весьма настороженным насчет перспектив AI. И вот что его беспокоит.

Если раньше интеллект был эволюционным преимуществом человека, давшим ему способность выживать в довольно сложной среде обитания, то теперь мы делегируем использование этой главной человеческой силы, не совсем понимая последствий этого шага. Как долгосрочных, в чисто биологическом смысле (не будет ли это означать деградацию людей как биологического вида), так и ближайших, в виде создания механизмов подчинения и угнетения.

«Меня, как физика, очень нервирует то, что неконтролируемо», – говорит он, поясняя, что сейчас уже и сам не до конца понимает, как действует AI.

Впрочем, в науке встречается (пусть и довольно редко) подобная трансформация взглядов. Все начинается с захватывающей задачки, с попытки решения некоторой проблемы, с игры ума, но позже люди осознают социальные последствия полученного результата. Правда, случаи, когда результат получается осознать еще до того, как интересная задачка будет решена, крайне редки.

Хопфилд положил начало решению проблемы AI еще в 1982 г., создав сеть, названную его именем. Описывать весь путь выходца из семьи эмигрантов из Польши (его отец тоже был физиком) мы не станем – об этом сейчас пишут буквально все. Скажем только, что сеть Хопфилда интересна тем, что он построил ее не на основе познаний в нейрофизиологии (путь, по которому шли примерно все исследователи), а на основе знаний из физики твердого тела.

Хопфилд представил движение атомов как код (вверх и вниз, 1 и 0), а его сеть стала идеальным способом хранения эталонной информации, ее распознавания и сравнения. Словом, машина научилась перебирать шаблоны и искать сходства и различия. Причем довольно скоро научилась делать это быстрее человека.

Впрочем, настоящее обучение нейросетей началось только тогда, когда британец Джеффри Хинтон (между прочим, правнук Джорджа Буля, основоположника матанализа и двоичного кода) создал машину Больцмана – вид сети, применяющей метод обратного распространения ошибки как способ рассчитывать изменения и корректировать данные при накоплении информации.

Как и его коллега Хопфилд, Джеффри Хинтон, еще совсем недавно работавший над проблемой AI в команде Google, обеспокоен тем, что принесет человечеству искусственный интеллект.

Он считает, что происходящее вполне сравнимо с промышленной революцией. Вот только если в прошлом создавались вещи, компенсировавшие нехватку мускульной силы и энергии, то теперь развитие идет по иному пути: «Мы не знаем, каково это – иметь вещи, которые умнее нас». Кроме того, человечество не застраховано от того, что тот или иной диктатор захочет создать сверхразумные машины для убийств.

Словом, люди, родившие искусственный интеллект, нынче крайне обеспокоены его распространением и потенциальным влиянием на жизнь, предвидя не только достижения в прогрессе и развитии, но и угрозу человечеству.

Впрочем, премию пацифиста и создателя динамита Альфреда Нобеля пока что вручают не за лучшие способы убийства, а за мирное использование достижений науки. В 2024 г. премия по химии присуждена двум сотрудникам Google DeepMind Демису Хассабису и Джону Джамперу за использование AI для определения структуры белка. Так что как там обстоят дела с угрозой человечеству, пока неясно, в то время как AI уже помогает продвигать медицину и фармакологию.

Ну а премию мира в 2024 г. получило японское движение «Хибакуся», выступающее за уничтожение ядерного оружия – результата предыдущего научного прорыва и игр ума гениальных физиков недавнего прошлого. Так что, может, лет через семьдесят премия мира уйдет борцам за уничтожение милитаризированного AI. Если, конечно, не сбудутся худшие апокалиптические опасения его создателей.