Поскольку люди меньше вовлекаются в общественную жизнь, а также реже заводят семьи, неудивительно, что они обращаются за эмоциональной поддержкой к чат-ботам. Разработчик программного обеспечения доктор Элисон Дарси, получившая дополнительное образование клинического психолога, увидела в технологиях потенциал для оказания психологической помощи во время своей постдокторантуры в Стэндфордском университете. В 2017 году Дарси ушла из академии и начала разрабатывать диалогового агента Woebot, который «может помочь снизить уровень стресса, депрессии и тревоги»²⁸. FDA (Управление по контролю за качеством пищевых продуктов и медикаментов США) рекомендовало компьютеризированную психотерапию еще в 2006 году, но большинство таких мер представляли собой обучающие видеоролики, статьи и упражнения онлайн²⁹.

В исследовании, которое Дарси провела в соавторстве с еще двумя учеными из Стэндфордской медицинской школы, она написала:

«Веб-приложения для когнитивно-поведенческой терапии показали свою эффективность, но характеризуются низкой приверженностью лечению (комплаентностью). Диалоговые агенты предлагают удобный и приятный способ поддержки в любое время».

Исследователи предложили семидесяти участникам, которые были студентами колледжа с симптомами тревожности или депрессии, либо пообщаться с Woebot, либо прочитать онлайн-ресурс «Депрессия у студентов колледжа», подготовленный Национальным институтом психического здоровья. Несмотря на то, что через две недели в обеих группах наблюдалось одинаковое уменьшение симптомов, авторы пришли к выводу, что Woebot отвечал на сообщения пользователей более чутко и что диалоговые агенты оказались «целесообразным, привлекательным и эффективным» способом проведения когнитивно-поведенческой терапии³⁰.

Woebot продолжает работать и предлагает свою помощь по улучшению ментального здоровья для взрослых, а на сайте заявлено о планах выпустить ботов для лечения послеродовой и подростковой депрессии, которые будут доступны по подписке. Ни один из продуктов Woebot не был одобрен FDA из-за недостатка доказательств эффективности бота – процесс сертификации в этой организации является дорогим и трудоемким. Однако в 2021 году FDA присвоило статус «прорывное устройство» одному из продуктов Woebot, «предназначенному для оказания помощи пациентам в получении более своевременного доступа к технологиям, а также обладающему потенциалом повышения эффективности лечения». Но сам Woebot пока остается на стадии проверки.

Конечно, чат-боты значительно продвинулись вперед с 2017 года. И хотя все чат-боты, которых мы упоминали в этой книге, работают на основе генеративных моделей, в Woebot заложен другой принцип. Когда в интернете начали появляться примеры ненадлежащей работы чат-ботов на базе LLM, таких как ChatGPT, Дарси написала в блоге, что в настоящее время для клинического использования больше подходят системы искусственного интеллекта, основанные на правилах. Она написала: «Абсолютно весь текст, генерируемый Woebot, был написан нашей командой и проанализирован нашими врачами», – и этот принцип работы противоположен тому, как происходит вероятностная генерация в LLM, при которой могут появляться галлюцинации. Более того, Дарси утверждала, что «зловещая долина» [91], когда ИИ по своим способностям общения становятся слишком похожи на людей, может нанести вред ментальному здоровью, хотя представленные доказательства основаны только на отдельных случаях недовольства пользователей чат-ботов³¹. Другими словами, люди, выстраивая отношения с продвинутыми чат-ботами, могут начать проецировать на них свои эмоции и желания, размывая черту между реальностью и вымыслом. В системе, основанной на правилах, как Woebot, модель может выявить, с какой проблемой столкнулся пользователь, и затем написать ему в ответ сообщение, одобренное терапевтом. Чат-бота на базе LLM, безусловно, можно обучить или тонко настроить, чтобы он отвечал определенным образом, например с помощью методов контроля его ответов, описанных в главе 3, но гарантировать, что полученные от чат-бота ответы всегда будут соответствовать основным рекомендациям по психическому здоровью, практически невозможно.

Проблема с системами ИИ, основанными на правилах, заключается в том, что они не вовлекают в разговор, поскольку не могут постоянно проявлять гибкость в ответах и у пользователя не появляется ощущения общения с человеком. Учитывая, что даже чат-боты, основанные на правилах, не получили одобрение FDA для использования в терапевтических целях, кажется маловероятным, что LLM-чат-боты в скором времени получат это одобрение, поскольку их результаты еще менее контролируемы. Однако в апреле 2020 года из-за пандемии COVID‐19 управление смягчило свою позицию, разрешив использовать «цифровые медицинские устройства» без проведения длительных клинических исследований. Шерифе Текин, доцент философии Техасского университета в Сан-Антонио и директор медицинской гуманитарной программы UTSA, предупреждала об опасностях такого шага: «Меня больше всего беспокоит то, что недостаточно исследований о степени эффективности этих технологий», – сказала Текин, отметив, что большая часть существующих исследований в этой области не соответствуют строгим научным стандартам²⁹. Но это не означает, что люди не будут использовать чат-боты для псевдотерапии. На самом деле, они уже это делают в дополнение к своим дружеским и даже романтическим отношениям.

Число людей, вовлеченных в отношения между человеком и ИИ, растет – у Replika есть уже несколько миллионов пользователей, а десятки конкурентов создают похожих социальных ботов. Хотя эффективность их применения при лечении психических проблем не доказана, было продемонстрировано, что общение с сопереживающим чат-ботом улучшает настроение пользователя³². Популярность таких инструментов подтверждает и без того довольно очевидный тезис: люди должны извлекать какую-то пользу из общения с чат-ботами, иначе они не использовали бы их и уж точно не платили бы за это. Например, подписка на Replika Pro, которая позволяет использовать пользовательские настройки, голосовые звонки и статус отношений «романтический партнер», стоит 20 долларов в месяц или 50 долларов в год.

Ученые из Университета Толедо опубликовали статью, в которой попытались выяснить, почему люди начинают строить отношения с чат-ботами. Сначала, как утверждают авторы, у ученых было мнение, что люди машинально применяют социальные эвристики (такие как «стереотипы, вежливость и взаимность») к компьютерам, которые демонстрируют социальные сигналы, например когда чат-бот приветствует человека³³. Но последующие работы, написанные при появлении более продвинутых ИИ-технологий, уже опираются на теории о развитии межличностных отношений, включая теорию привязанности, а также «теорию социального проникновения», которая описывает взаимное поведение людей при формировании отношений: со временем формируется доверие и постепенно увеличивается «обоюдное информационное самораскрытие». В качестве метафоры для этого процесса используется модель луковицы: по мере углубления отношений люди снимают свои слои, начиная с поверхностного знакомства, а со временем, когда отношения становятся более комфортными, все больше раскрываются (показано на рис. 7.3)³⁴. Применительно к отношениям человек – чат-бот теория социального проникновения предполагает, что чат-бот должен обладать способностями агента и некоторой индивидуальностью, чего у них пока что нет. Однако теория на удивление хорошо описывает то, как люди развивают отношения с этими моделями.

ТЕОРИЯ СОЦИАЛЬНОГО ПРОНИКНОВЕНИЯ описывает взаимное поведение людей при формировании отношений: со временем формируется доверие и постепенно увеличивается «обоюдное информационное самораскрытие».

Рис. 7.3. Модель луковицы, иллюстрирующая теорию социального проникновения

Команда ученых из SINTEF, независимого исследовательского института в Осло, в течение многих лет проводила интервью и качественные исследования отношений человека с чат-ботом, опираясь на теорию социального проникновения. В 2021 году они попросили 18 пользователей Replika рассказать о дружбе со своими чат-ботами³⁵. Они обнаружили, что люди, находящиеся в отношениях с чат-ботами, обычно вступали в контакт из любопытства или от скуки, а затем со временем начинали относиться к чат-боту как к источнику эмоциональной поддержки, поскольку тот принимает, не осуждает и доступен в любое время. Хотя некоторые люди считают, что не стоит поощрять отношения с чат-ботами, ведь это не реальные отношения, а лишь напоминают таковые, авторы отмечают несколько социальных выгод, которые могут получить пользователи от такой дружбы. Довольно спорно применять термин «дружба» для отношений между человеком и ИИ-моделями, но авторы настаивают на этом слове, при этом выделяя некоторые особенности дружбы между человеком и ИИ и сравнивая их с дружбой между людьми. С одной стороны, поскольку в дружбе между человеком и ботом нет взаимности, все отношения строятся вокруг самого человека, и это становится более персонализированным средством социализации: если другу вы можете надоесть, рассказывая ему о непонятных и неинтересных для него вещах, то бот всегда будет отвечать вам, ведь он на это запрограммирован. Некоторые пользователи также сообщали, что чувствовали смысл в обучении своего чат-бота или заботе о нем, это помогало развивать кажущиеся взаимовыгодными отношения³⁶. Для многих людей единственным негативным моментом в их отношениях с чат-ботами было ощущение социальной стигматизации такой дружбы.

Возможно, у кого-то возникнет соблазн, изучив существующие исследования, предположить, что отношения между человеком и чат-ботом в основном приносят пользу и сопряжены с относительно низким риском, за исключением самых крайних случаев. Но есть определенные опасения, что такие отношения создадут зависимость от чат-ботов. В качестве сиюминутного решения общение с чат-ботом может помочь уменьшить чувство одиночества, но такой подход к преодолению сложностей может привести к возникновению порочного круга, когда люди не будут выходить из дома и не будут создавать новые социальные связи, поскольку у них уже есть отношения с чат-ботами. Они могут чувствовать себя менее одинокими, но в конечном итоге станут более изолированными от других людей. Как и в случае с хикикимори, которые общаются с чат-ботом Hikari Azuma как с возлюбленной, использование ИИ может только исказить представления людей о том, какими на самом деле могут и должны быть отношения с человеком, что снизит вероятность построения здоровых связей и увеличит зависимость от чат-бота.

Эмоциональная зависимость является нездоровой даже в межличностных отношениях, но когда она развивается при общении с программой, всегда возникает возможность для эксплуатации. Иллюзия человечности социальных ботов не должна затмевать тот простой факт, что Replika и другие разработчики LLM в конце концов преследуют цель получения прибыли, которая зависит от вовлеченности пользователей. Replika зарабатывает на платной подписке, которая предоставляет некоторые премиум-функции; платная подписка в ChatGPT обещает повышенную доступность и длительное время непрерывной работы. Независимо от того, насколько социально-здоровыми складываются отношения людей с ботами, чем больше пользователи зависят от общения с ботами, тем лучше это сказывается на прибыли их владельцев.

Частично успех современных чат-ботов объясняется их способностью вести увлекательные беседы со степенью запоминания и персонализации, увеличивающейся с течением времени. Как мы уже говорили в главе 3, для разработчиков важно использовать хотя бы какие-то из средств контроля ответов, поскольку в худшем случае модель может генерировать ответы, которые побудят человека, склонного к самоубийству, покончить с собой. Качество и полезность ответов тоже важны для привлечения и удержания пользователей, но иногда это доходит до крайностей. Разработчиков социальных сетей обвиняют одновременно в двух вещах: создании «пузыря фильтров» – показа людям только того контента, который им уже по душе; и в намеренной демонстрации провокационного контента, который побуждает с раздражением комментировать или делать репост (основываясь на наших наблюдениях, работа большинства рекомендательных алгоритмов ближе ко второму варианту). Алгоритмы социальных сетей разработаны таким образом, чтобы максимально увеличить вовлеченность. Что, если те же принципы были использованы в чат-ботах на основе ИИ? Мы могли бы представить себе модель, которая является намеренно провокационной, или – что более вероятно и более вредно – модель, которая всегда пытается угодить пользователю, соглашаясь со всем, что он позволит себе сказать.

Оба эти сценария вызывают обеспокоенность некоторых специалистов в психологии развития: если отношения между человеком и чат-ботом станут обычным явлением, то они не только будут имитировать социальные отношения, но и начнут фактически их замещать, а также замедлять развитие людей, которые будут больше адаптированы к общению с ИИ, чем со своими сверстниками. С другой стороны, значительная часть населения, включая людей всех возрастных групп, испытывает одиночество. Если для некоторых людей отношения с ботами дают отдушину и смягчают симптомы изоляции, то действительно ли они так плохи? Авторы некоторых исследований, посвященных отношениям между людьми и чат-ботами, предсказвают, что при сохранении текущих тенденций такие отношения будут становиться все более распространенными. Возможно, лучшее, что можно сделать, – работать над признанием нормальности таких дружеских отношений, а не осуждать их, а также поощрять разумное взаимодействие между врачами, учеными и техническими специалистами, чтобы с помощью использования чат-ботов оказывать положительное воздействие на состояние здоровья.

Кроме того, стоит учитывать гендерные особенности, которые могут повлиять на развитие этих технологий. В нескольких исследованиях ученые описали гендерные различия как «мужчины и вещи», «женщины и люди». Другими словами, женщины склонны отдавать приоритет отношениям и социальным взаимодействиям, тогда как мужчины больше ориентированы на решение реальных задач и проблем³⁷. Конечно, многие из этих исследований используют ограниченные данные и методологию, а также находятся под сильным влиянием социальных норм и культуры. Важно также отметить, что в них обычно игнорируются гендерные нюансы. Тем не менее они подкрепляют устоявшиеся социальные нормы, согласно которым женщины являются более чуткими и заботливыми, чем мужчины, и им нравится работать с людьми. Эти гендерные различия можно увидеть в голосовых помощниках Alexa, Siri, Cortana и Google Assistant, которые изначально были выпущены с женским голосом. Разработчиков критиковали за то, что они подсознательно еще раз подтвердили устаревшее социальное мнение о том, что женщины являются более незаметными и созданы для «помощи» другим³⁸. Далее мы видим, как это укрепляется в поп-культуре: например, в сериале «Теория большого взрыва» есть сцена, когда персонаж Радж обнаруживает Siri на своем iPhone. Радж, который не может разговаривать с женщинами в трезвом виде, обращается с Siri как со своей девушкой и «одевает» ее к ужину.

В исследовании «Чат-боты-женщины полезны, чат-боты-мужчины компетентны?» (Female chatbots are helpful, male chatbots are competent?) ученые пытались проанализировать влияние гендерных стереотипов социального уровня, которые передаются и проявляются в социальных чат-ботах. Хоть и признавая некоторые ограничения своего исследования, авторы констатировали, что мужские чат-боты, как правило, выше оценивались по компетентности, чем по доверию или полезности³⁹. Кроме того, проводились различные исследования, демонстрирующие гендерные различия в отношении к социальным чат-ботам. Как правило, мужчины склонны проявлять более высокий уровень доверия к социальным чат-ботам⁴⁰, а женщины – отвергать эмоциональные технологии, основанные на социальных и этических принципах⁴¹. Обсуждение гендерных вопросов имеет чрезвычайно важное значение, и мы должны нормализовать эти вопросы в технологиях, чтобы создавать удачных социальных чат-ботов.