Чат-боты жаждут данных: их общительный характер может застать людей врасплох и побудить раскрыть конфиденциальную или личную информацию. Эти диалоги не только просматриваются, но и потенциально могут использоваться для обучения и доработки чат-бота. И теперь не только корпорации обладают вашими персональными данными, но есть и вероятность, что другие пользователи тоже могут ее увидеть во время беседы с диалоговым агентом. Как мы уже обсуждали в предыдущих главах, LLM печально известны своей способностью выдавать конфиденциальную информацию, если им задавать правильные вопросы.

Вскоре после того, как Microsoft в феврале 2023 года выпустила новую функцию Bing AI, люди запаниковали, узнав, что их разговоры доступны сотрудникам компании, которые отслеживали ненадлежащее использование платформы¹⁰. Аналогичной политики придерживались и другие компании, предоставляя обученным специалистам доступ к разговорам пользователей, чтобы отслеживать ненадлежащее использование, а также улучшать систему. В разделе часто задаваемых вопросов ChatGPT сообщается: «Пожалуйста, не сообщайте никакой конфиденциальной информации в своих беседах» – поскольку они не могут удалить конкретные промпты из истории пользователей¹¹. В апреле 2023 года, вместе с отказом от обработки пользовательского контента, OpenAI представила возможность отключить в интерфейсе ChatGPT историю чатов, в дополнение к своей стандартной политике отказа от использования пользовательского контента, согласно которой разговоры хранятся в течение 30 дней и просматриваются только тогда, когда это «необходимо для отслеживания злоупотребления», что соответствует их политике использования данных API¹². Между тем Google рекомендует: «Пожалуйста, не включайте в переписку с Bard информацию, которая может быть использована для идентификации вас или других лиц», – учитывая, что разговоры будут храниться в течение трех лет¹³. Bard от Google также позволяет удалять историю взаимодействий¹⁴.

Компании, безусловно, знают о недостатках LLM, но важно подчеркнуть, что они сохраняют разговоры, а также любую персональную информацию о пользователях, включая IP-адрес, информацию об устройстве, данные о пользовании и многое другое. В своей политике конфиденциальности OpenAI заходит довольно далеко и заявляет, что они могут передавать личную информацию третьим лицам без дополнительного уведомления пользователя, кроме случаев, предусмотренных законом¹⁵. Тем не менее крупные технологические компании, выступая в защиту своих чат-ботов, утверждают, что вы можете пользоваться ими безопасно. Некоторые из этих компаний шифруют или удаляют любую информацию, позволяющую установить личность перед тем, как данные будут загружены обратно в модель для обучения, однако этот подход, как мы уже говорили, никогда не будет полностью безопасным. В разделе 3.3.4 мы более подробно обсудим политику конфиденциальности пользователей, которую устанавливают крупные технологические компании.

Непреднамеренное разглашение важной или конфиденциальной информации – это самая серьезная проблема в области защиты коммерческой тайны для большинства компаний. В апреле 2023 года многие программисты вводили в ChatGPT строки своего авторского кода и просили выявить ошибки или оптимизировать код. В другом случае сотрудник Samsung вставил заметки о встрече в диалоговую платформу и попросил обобщить их. В интернете появились заголовки: «Инженеры-программисты Samsung были понижены в должности за отправку авторского кода в ChatGPT»¹⁶. Руководство Samsung ограничило размер промпта, который можно отправлять в ChatGPT из корпоративной сети. Аналогичным образом, спустя несколько месяцев после выпуска ChatGPT, Amazon, JPMorgan, Verizon, Accenture и прочие приняли меры и запретили членам команды вводить конфиденциальную информацию в диалоговые агенты¹⁷.

В любой новой технологии, как показывает опыт, рано или поздно может произойти утечка данных. Менее чем через четыре месяца после запуска, 20 марта 2023 года, в ChatGPT произошла первая серьезная утечка данных. Из-за ошибки в открытом коде некоторые пользователи смогли увидеть заголовки из истории чата другого активного пользователя. Кроме того, некоторые пользователи могли видеть имя и фамилию других активных пользователей, тип кредитной карты и последние четыре цифры, электронную почту и платежный адрес¹⁸. Как и в случае с любой прорывной технологией, диалоговые агенты сопряжены с потенциальными рисками, включая тот, что из-за ошибок в системе безопасности или из-за использования пользовательского контента в целях дальнейшего совершенствования чат-бота, переданная в эти системы важная и конфиденциальная информация потенциально может быть показана другим пользователям или злоумышленникам.