Давайте предположим, что юрист берет черновик контракта, вводит текст в виде промпта в диалоговый агент, например в ChatGPT, и просит его предложить изменения. Диалоговый агент создает новую улучшенную версию контракта, и юрист отправляет ее клиенту. Что здесь произошло? Адвокат сэкономил немного времени, воспользовавшись инструментом для составления более выгодного контракта для своего клиента. Но что еще важного произошло? Юрист мог непреднамеренно выдать секретную или конфиденциальную информацию, которую теперь инженеры этой системы могут просматривать и использовать как обучающие данные для диалогового агента, к тому же она может «просочиться» в беседы с другими пользователями. Ну и дела! Если юрист действительно ввел данные клиента без предварительного получения согласия, он также мог нарушить адвокатскую тайну. Неприятно вдвойне!

Еще один риск нарушения конфиденциальности при использовании сложных чат-ботов несут в себе данные, которые пользователи вводят в виде промптов. Когда мы общаемся с этими системами и хотим выполнить задачу или получить ответ, мы непреднамеренно можем передать им секретную или персональную информацию. Эта информация может быть использована для дальнейшей доработки или обучения системы и даже включаться в ответы на запросы других пользователей.