В 2018 году исследователи Microsoft опубликовали статью под названием «От Eliza до Xiaolce: проблемы и возможности социальных ботов» (From Eliza to Xiaolce: Challenges and Opportunities with Social Chatbots), в которой авторы отслеживают эволюцию социальных чат-ботов до наших дней. Они пишут:

«Диалоговые системы прошли большой путь с момента своего создания в 1960‐х годах… Для дальнейшего развития и внедрения социальных чат-ботов их дизайн должен ориентироваться на вовлечение пользователей и учитывать как интеллектуальные (IQ), так и эмоциональные (EQ) показатели. Пользователи должны захотеть взаимодействовать с социальным чат-ботом, поэтому в качестве метрики успешности социального чат-бота мы принимаем „количество обменов репликами за сессию“ (conversation-turns per session, CPS)»²⁷.

Не будем забывать, что Джозеф Вейценбаум, автор ELIZA, планировал создать инструмент для терапевтической помощи, но был встревожен, когда осознал степень, до которой люди его очеловечили. Сложно представить, что Вейценбаум не рассматривал количество реплик в диалоге за сеанс как показатель успеха. Однако тот факт, что CPS до сих пор является главной метрикой для социальных чат-ботов, показывает лишь глубокий недостаток воображения.

У социальных чат-ботов, включая Xiaolce, Replika и Character.AI, есть миллионы пользователей, которые ищут общения с ботами для дружбы, романтики или развлечения. Безусловно, эти агенты должны сочетать IQ и EQ, а если у агента будет высоким IQ, но не EQ, то люди смогут задавать ему вопросы, касающиеся фактов, или просить помощи в программировании, но вряд ли сформируют с ним глубокие эмоциональные отношения. Но если бы агент не обладал достаточно высоким IQ, то вообще не смог бы вести интересную беседу. Именно благодаря EQ социальные чат-боты получают выходящие за базовый уровень функциональности способности, которые пользователи ценят больше всего: умение давать ответы, помогающие им чувствовать себя менее одинокими, ведение светской беседы для смягчения социальной тревожности, просто возможность выговориться.

Именно в таких взаимодействиях социальные чат-боты приносят наибольшую пользу, и поэтому их работу следует изучать и улучшать. В главе 7 мы рекомендуем альтернативные метрики, которые поставщики чат-ботов могли бы использовать для оценки успеха, например, они могут измерять пользу сеанса вместо его продолжительности. Этот метод потребует дополнительной работы, но позволяет обойти недостатки метрик, основанных исключительно на вовлеченности. Кроме того, это дает возможность получить представление о том, как люди используют чат-боты, что крайне важно знать разработчикам, чтобы обеспечить ответственное внедрение технологии.

Кроме того, поставщики чат-ботов должны стремиться выявлять случаи нездорового использования технологии, чтобы предотвратить формирование зависимых отношений с моделью. Как говорилось в главе 7, эти инструменты могут повышать у людей настроение и уверенность, а также уменьшать чувство тревоги и одиночества. Но мы еще много не знаем о связи между человеком и искусственным интеллектом, и если эти отношения будут заменять межличностные связи на долгосрочной основе, то есть основания полагать, что это может оказать значительное негативное влияние на эмоциональное развитие. Опять же, чтобы избежать формирование зависимости у пользователей, необходимо оптимизировать другие метрики, помимо вовлеченности, а это означает увеличение объема работ для разработчиков. В конце концов, мы считаем, что усилия стоят того, чтобы принести пользу обществу и поддержать доверие пользователей.