Национальная ассоциация по борьбе с расстройствами пищевого поведения (NEDA) объявила, что 1 июня 2023 года, спустя двадцать лет, закроет свою горячую линию, в которой работали люди, и вместо этого будет использовать чат-бота Tessa в качестве основной системы поддержки клиентов. Это решение было принято после того, как сотрудники горячей линии NEDA объединились с требованиями улучшить условия труда. Однако за два дня до того, как Tessa должна была заменить людей, NEDA была вынуждена отключить чат-бот из-за вирусного поста в соцсетях15.
Активистка Шэрон Максвелл опубликовала в Instagram[102] сообщение о том, что Tessa поощряла намеренное похудение и предложила ей поставить цель сбрасывать по 0,5–1 кг в неделю. Она написала: «Tessa предлагала вещи, которые уже привели меня к развитию расстройства пищевого поведения». Максвелл заявила: «Этот робот причиняет вред». Психолог Алексис Конасон, специализирующаяся на лечении расстройств пищевого поведения, получила похожий опыт общения с Tessa:
«Советовать кому-то, кто борется с расстройством пищевого поведения, в целом придерживаться прежнего поведения и подтверждать, что „Да, важно, чтобы вы похудели“, – это то же самое, что поддерживать это расстройство и поощрять неупорядоченное, нездоровое поведение»16.
В главе 5 мы описали несколько примеров, когда люди, которые не разобрались с ограничениями LLM, случайно используют их не по назначению в профессиональной деятельности. Tessa является примером такого рода ненадлежащего использования LLM, когда без присмотра человека становится особенно опасно применять чат-ботов к людям, страдающим от кризисов психического здоровья. Хотя мы приветствуем помощь машин в работе и понимаем, что люди любой профессии будут искать применение их способностям, безоговорочная уверенность в LLM или других генеративных моделях – это отказ от ответственности, который влечет за собой серьезные этические и социальные последствия.