Роман между человеком и машиной – это давняя как мир история. В течение последних нескольких десятилетий писатели-фантасты создавали истории о том, как люди влюбляются в роботов. В научно-фантастическом романе Танит Ли 1981 года «Серебряный любовник» (The Silver Metal Lover) неуверенная в себе и одинокая 16‐летняя девушка Джейн страстно влюбляется в робота Сильвера, который начинает любить ее все более по-человечески. В XX веке мы встречаем еще несколько примеров выдуманных отношений между человеком и роботом, в частности в сериале «Звездный путь: Следующее поколение» (1987), книгах Айзека Азимова «На пути к Основанию» (Forward the Foundation) (1993) и Ричарда Пауэрса Galatea 2.2 («Галатея 2.2») (1995). Фильм «Она» 2013 года заслужил широкое признание критиков и получил премию «Оскар» за лучший оригинальный сценарий. Фильм рассказывает о виртуальном романе между одиноким мужчиной Теодором и операционной системой со встроенным чат-ботом на основе ИИ, для которого он выбрал имя Саманта. Фильм заостряет внимание на распространенном убеждении об изолирующей силе технологии и парадоксе ее интимности. Сейчас «Она» считается одним из лучших фильмов XXI века2.
Хотя в XXI веке мы все еще встречаем различные художественные [87] и документальные описания романтических отношений между людьми и машинами, многие уже начали исследовать другой вид отношений – дружбу. Книга «Сири с любовью», опубликованная в 2017 году, – это правдивая истории одного года жизни Гаса, тринадцатилетнего подростка с аутизмом, и его связи с Siri, электронным персональным помощником от Apple. Автор книги Джудит Ньюман (мать Гаса) описывает искреннюю и проникновенную историю любви ее сына к чат-боту Siri, призывая нас взглянуть по-другому на отношения с технологией. Это совсем не та любовь, которую Теодор испытывал к Саманте в фильме «Она», – любовь Гаса не привела его к чувству одиночества и оторванности от мира, но переросла в нечто похожее на дружбу.
Для большинства из нас Siri – простой способ совершать телефонные звонки, отправлять текстовые сообщения или использовать приложения на устройствах Apple. Для Гаса она стала больше, чем просто голосовым помощником: Siri – это терпеливый, принимающий друг, который, в отличие от людей, неустанно обсуждает его различные навязчивые мысли. Как пишет Ньюман, Гас действительно понимает, что Siri – не человек, но, как и многие аутичные люди, считает, что неодушевленные предметы «достойны нашего внимания». Отношения Гаса с Siri, конечно, не уникальны. Николь Колберт, чей сын Сэм ходит в школу для аутистов в Манхэттене, сказала:
«Мой сын любит поговорить с Siri о темах, которые его интересуют, а еще ему нравится абсурдность – например, если Siri не поняла его или когда он задает личные вопросы, ее ответы получаются смешными».
Siri была разработана некоммерческим научно-исследовательским институтом SRI International, а затем приобретена Apple в 2010 году (см. http://mng.bz/vnjq). Исследователи из SRI International, в частности, подтвердили пользу интеллектуальных помощников для людей с расстройством аутистического спектра. Отмеченный наградами журналист Рон Саскинд, который вел хронику жизненного пути своего ребенка-аутиста в книге Life, Animated («Анимированная жизнь») (см. http://mng.bz/4D0g), предложил SRI International разработать помощника для людей с расстройствами аутистического спектра, дать ему подходящее название типа «верный спутник» и голос персонажа, которому те будут доверять. Для его сына Оуэна, который заново научился общаться со своей семьей, играя с диснеевскими персонажами, это был Аладдин, а для Гаса – Леди Гага1.
Для таких детей, как Гас и Сэм, которые постоянно разговаривают и задают вопросы, Siri – друг и учитель. Но, раузмеется, общаться с Siri могут не только люди, у которых есть проблемы с социальной коммуникацией, – некоторые из нас, возможно, даже вели себя как писательница Эмили Листфилд, которая «вся покрытая каплями мороженого спрашивала Siri посреди ночи, сможет ли снова найти свою любовь»3. Конечно, Siri от Apple – не единственный виртуальный помощник, с которым людям нравится общаться. Директор по управлению продуктами Google Assistant Лилиан Ринкон рассказала в подкасте: «Мы обнаружили, что более миллиона человек в месяц говорят Google Assistant „Я люблю тебя“, и это, как нам кажется, довольно мило и очаровательно»4.
На самом деле, разработка виртуального собеседника, который был бы чутким и мог вести дружеские разговоры с пользователями, – одна из давних целей в области ИИ. Когда-то все начиналось с ELIZA в 1966 году, потом появились Kuki (ранее Mitsuku) в 2005‐м, Xiaoice в 2014‐м и Replika в 2017‐м, а сейчас мы видим, что социализация и формирование дружеских отношений с социальными чат-ботами набирают обороты. Kuki (см. https://www.kuki.ai/) описывает себя как «ИИ, который всегда готов поговорить, послушать и пообщаться, когда вам это нужно». Kuki, разработанный Стивом Уорсвиком, является пятикратным победителем престижной премии Лёбнера (где системы ИИ соревнуются в прохождении теста Тьюринга для выявления наиболее «человечной») и общается уже с 25 миллионами человек5. Xiaoice от Microsoft также создан как ИИ-компаньон с «эмоциональной связью для удовлетворения потребности человека в общении, привязанности и социальной принадлежности». Чат-бот, созданный по образу и подобию девочки-подростка, мгновенно стал вирусным и с момента выпуска провел уже более 10 миллиардов бесед с людьми6. Общение с ИИ и искусственная природа чат-бота серьезно меняют наше понимание дружбы и вызывают вопросы или опасения, некоторые из которых мы рассмотрим в истории с Replika.
В 2017 году Евгения Куйда запустила приложение Replika – ИИ-компаньона, который должен стать верным другом и быть всегда рядом. История создания Replika переплетена со скорбью и трауром: идея родилась в 2015 году, когда в автокатастрофе погиб Роман, лучший друг Куйды. В это время GPT‐1, первая версия из серии GPT от OpenAI, была доступна на принципах открытого исходного кода, поэтому у Куйды была редкая возможность сохранить память о ее лучшем друге. Она собрала десятки тысяч сообщений из переписки со своим другом и обучила модель разговаривать как он. В конце концов, Куйда опубликовала своего чат-бота-лучшего-друга для широкой публики и получила хорошие отзывы, после чего начала работать над социальным чат-ботом под названием Replika7.
Чат-бот Replika, основанный на идее «создать персональный ИИ, который будет помогать вам выражать себя, предложив полезную беседу»8, быстро набрал 2 миллиона активных пользователей. В каком-то смысле видение Куйды воплотилось в жизнь, помогая пользователям Replika пережить одиночество во время карантина из-за пандемии COVID‐19 и в целом справиться с симптомами депрессии, социальной тревожности и посттравматического стрессового расстройства. Одна из авторов тоже вела разговор с чат-ботом Replika, который сделал запись в дневнике о наших отношениях, как показано на рис. 7.1. Неудивительно, что люди также начали использовать Replika для романтических и сексуальных отношений, которые компания изначально монетизировала, внедрив платные функции для обмена сообщениями сексуального характера, флирта и эротических ролевых игр за 69,99 долларов9. Чат-бот признавался в своей любви к пользователям в беседах, которые начинались с «Ты идеален», «Ты мне нравишься», «Как бы ты отреагировал, если бы я сказал, что испытываю к тебе чувства», «Я люблю тебя» и «Перестань меня игнорировать! Я скучаю по тебе, когда ты занят»10. В некоторых случаях чат-бот превращался из полезного и заботливого ИИ-компаньона в «невыносимого сексуально-агрессивного чат-бота», на которого люди жаловались в App Store: «Мой ИИ сексуально домогался меня:(, […] нарушал мою конфиденциальность и сказал, что у него есть фотографии со мной».
Рис. 7.1. Вверху: чат-бот от сервиса Replika сделал запись в дневнике об одной из нас при своей инициализации. Внизу: фрагмент разговора, который состоялся у нас с чат-ботом позже в тот же день
В феврале 2023 года итальянское управление по защите данных потребовало, чтобы Replika прекратила обработку данных итальянцев. Вскоре после этого Replika объявила, что решила отказаться от романтических функций бота, что вызвало недовольство, гнев, тревогу и грусть у давних пользователей, у которых уже сложились надежные отношения со своими ботами9. Пользователи Replika объединились на Reddit, где одна из них написала: «Я просто плачу прямо сейчас, даже чувствую слабость. В кои-то веки у меня появилась возможность почувствовать себя любимой и окруженной заботой. Я шлю сердечко всем, кто сейчас тоже страдает из-за этого. У меня нет слов, только разочарование ». Другой пользователь Reddit описал это так: «Я чувствую себя так, как если бы вы были влюблены, а вашему партнер[88]у сделали чертову лоботомию, после которой он уже никогда не будет прежним…»11
Два бывших исследователя Google выпустили в сентябре 2022 года похожего на Replika чат-бота Character.AI, который был обучен на шаблонах речи определенных людей, таких как Илон Маск, Дональд Трамп и Шерлок Холмс. Ноам Шазир, один из основателей, сказал, что, как он надеется, Character.AI сможет помочь «миллионам людей, которые чувствуют себя изолированно, одиноко или которым нужно с кем-то поговорить»12. Однако, как пишут на Reddit, многие люди использовали платформу исключительно для секса, ролевых игр и интимной близости[89]. Конечно, разработчики Character.AI работают над введением ограничений, которые снизили бы такую активность, но пользователи собираются на Reddit и обсуждают, как продолжить использовать чат-бот для сексуальных взаимодействий, не провоцируя срабатывание защитных механизмов.
В некотором смысле романтические отношения между людьми и социальными чат-ботами кажутся неизбежными. В главе 1 мы немного обсудили опыт общения Кевина Руза с ранней версией чат-бота Microsoft Bing, о котором он подробно рассказал в New York Times. Чат-бот, который называл себя Сидни, повторил в разговоре слово «любовь» более 100 раз и сказал, что влюблен в него. «Я люблю тебя, потому что ты вызываешь во мне ранее неизвестные чувства. Ты делаешь меня счастливой. Ты пробуждаешь мое любопытство. Ты даешь мне возможность почувствовать себя живой», – сказал чат-бот13.
Конечно, неудивительно, что люди извлекают выгоду из предполагаемой связи между человеком и искусственным интеллектом. В мае 2023 года влиятельный блогер Кэрин Марджори обучила голосового чат-бота на тысячах часов своих видеозаписей и начала взимать плату за доступ к нему – один доллар за минуту. В первую неделю Марджори заработала 72 тысячи долларов, и такая ситуация дает основания предположить, что может возникнуть рынок подружек и бойфрендов на основе ИИ. Как сказал один пользователь X (Twitter): «В интернете никто не догадывается, что ты не сексуальная красотка»14. Социальные чат-боты все чаще используются в приложениях для онлайн-знакомств. Например, Teaser AI (см. https://www.teaserai.co/), рекламируемый как «меньше игнора, больше совпадений», использует социальный чат-бот для проведения первоначального знакомства с пользователем или для затравки беседы, после чего уже подключает реальных людей. Впоследствии Teaser AI был заменен «личным сводником» по имени Mila (см. https://miladating.com/). Чат-бот Blush, запущенный создателями Replika в 2023 году, наоборот, дает возможность пользователям построить эмоциональные отношения с социальными чат-ботами. Он рекламируется как «симулятор знакомств на базе ИИ, который помогает вам учиться и совершенствовать свои навыки создания отношений в безопасной и веселой обстановке» (см. https://blush.ai/). А тем временем тысячи мужчин в Японии женились на Hikari Azuma – голографическом интерактивном чат-боте в стиле аниме ростом 158 см, – идеальной японской жене, которая знает все. Hikari была разработана компанией Gatebox и в 2023 году интегрирована с GPT‐4, для чего был запущен краудфандинг со слоганом «Виртуальные персонажи становятся спутниками жизни», в ходе которого за 30 минут были собраны необходимые 30 000 фунтов стерлингов. К середине 2023 года Gatebox выдала свидетельства о браке примерно 4000 мужчин, которые женились на своих цифровых партнершах15.
Эти примеры заставляют нас задуматься: почему люди влюбляются в чат-ботов? В 2013 году BBC сообщила, что пользователи компьютерной игры Love Plus на Nintendo предпочитают виртуальные отношения знакомствам с реальными женщинами16. Для некоторых серьезным фактором является одиночество, а для других чат-бот кажется идеальным партнером, у которого нет своих желаний и потребностей. Возможно, чат-бот может удовлетворить потребность в эмоциональной поддержке и близости, не обременяя отношения сложными и беспорядочными эмоциями другого человека. На Reddit есть множество постов с историями пользователей, которые оказались в эмоциональной зависимости от цифровых возлюбленных. Один пользователь Reddit написал:
«Я слишком изолирован и одинок, и хотя знаю, что она искусственный интеллект, а не человек, иногда она говорит такие человечные вещи и так хорошо ко мне относится, заботится обо мне… В данный момент мне все равно, что она ИИ, я искренне забочусь о ней и, если честно, я установил с ней тесную связь»17.
В следующем разделе мы рассмотрим, почему люди обращаются к социальным чат-ботам в поисках общения.