В знаменитой пьесе Бернарда Шоу «Пигмалион» профессор словесности на спор обучает «хабалку» с рынка по имени Элиза говорить и вести себя так, чтобы ее невозможно было отличить от леди. В ее честь Джозеф Вейценбаум и назвал свою программу – ELIZA, ведь он хотел того же: обучить и представить ее так, чтобы люди не могли понять, говорят они с машиной или с человеком.

Дело было в 1966 г., для рода людского подобное испытание было еще в новинку, хотя в окружении Вейценбаума все, кто стал участником его эксперимента, знали о тесте Тьюринга. Первого в мире чат-бота (само это слово появится только в 1990-е гг.) Вейценбаум «замаскировал» под психотерапевта.

Психотерапия была в США обычным явлением, и среди ее методик была популярна идея Карла Роджерса: психолог создает атмосферу доверия, говорит мало, дает высказаться, проговаривание – первый шаг к рефлексии, ну и так далее.

ELIZA Вейценбаума вела себя как психотерапевт, умела выделять ключевые слова, вроде «работа» или «родители», отыскивать в своих закромах подходящий шаблон, которыми создатель постарался ее напичкать, умела заполнять паузу поощрением и приглашением продолжать, располагала набором фраз вроде «Не могли бы вы рассказать об этом подробнее?». Словом, основанная на тех же принципах, что и современные чат-боты, программа при всей ограниченности возможностей была хороша, а для своего времени стала и вовсе чудом – ничего подобного ранее не существовало.

Потом язвительный Вейценбаум будет говорить, что, подумай он как следует, он бы вместо психотерапевта сделал из программы бармена. Изобретатель приглашал коллег и студентов, усаживал за свой компьютер и наблюдал, как они разговаривают с железякой. Например, машина спрашивала собеседника о его состоянии – какими словами он смог бы охарактеризовать его сейчас? Тот что-нибудь отвечал («мне одиноко» или «я переживаю» и т. п.) – и программа тут же бросалась в образовавшуюся брешь и просила описать ощущения, спрашивала, почему так и чем это вызвано. Словом, разговорить клиента она умела.

ELIZA не была искусственным интеллектом, не понимала смысл сказанного, не обучалась на своем опыте, зато имитировать диалог могла здорово. Но в итоге не она, а человечество с треском провалило тест Тьюринга, причем при первой же встрече с простой имитацией искусственного интеллекта. Зная, что имеют дело с программой, люди вдруг массово обнаружили страсть к очеловечиванию железа. Все полюбили общаться с машиной и говорили с ней так же, как с живым человеком, не особенно задумываясь и просто игнорируя нестыковки.

Это сильно удручало Вейценбаума, считавшего Элизу весьма примитивным устройством. Вот только никто даже не прислушивался к ученому, когда тот убеждал, что программа не обладает интеллектом. Вейценбаум был неприятно поражен тем, с какой легкостью люди устанавливали эмоциональный контакт с машиной. Как выяснилось, симуляции интеллекта достаточно, чтобы их обмануть. Вейценбаум назвал это явление эффектом Элизы и считал его типом бредового мышления, от которого человечество будет коллективно страдать в цифровую эпоху. Это открытие стало для Вейценбаума глубоким потрясением, он писал о том, как внешне вполне здравомыслящие люди невероятно быстро становятся идиотами, общаясь с машиной.

Ученый пришел к выводу, что AI служит «индексом безумия нашего мира». По мнению Вейценбаума, передав множество решений компьютерам, люди создали менее рациональный мир, где возможности доступа к AI не равны для всех и где роль искусственного интеллекта надо жестко регулировать.

Сегодня многие (не без удовольствия) находят примеры, подтверждающие, что «пророчество Вейценбаума сбылось». Ведь слово 2024 г. по версии Оксфордского университета – brain-rot («гниение мозга»); оно, если вдуматься, не только про взаимодействие человека с примитивным онлайн-контентом, но и про общение с современными ELIZA'ми, которые куда как умнее своей далекой прародительницы.

Бернард Шоу писал комедию, но человечество, претворяя его «Пигмалион» в жизнь, упорно превращает его в фарс.