Корпоративные политики в отношении искусственного интеллекта и технологий машинного обучения имеют два аспекта. Первый касается того, как сами компании пытаются минимизировать риски нарушения безопасности и конфиденциальности в системах, которые они создают. Второй аспект касается того, как они реагируют на проблемы, связанные с внедрением подобных инструментов в рабочие процессы.
Беспокоясь о конфиденциальности, крупные технологические компании все чаще внедряют методы повышения конфиденциальности для анонимизации, деидентификации, псевдонимизации и обфускации данных. Однако, как мы уже обсуждали, эксперты по защите конфиденциальности уже давно утверждают, что эти методы вряд ли могут полностью предотвратить реидентификацию [39] и не избавляют от рисков нарушения конфиденциальности и безопасности38. В своем подходе к обеспечению безопасности OpenAI заявляет, что они «работают над удалением персональной информации из обучающего набора данных там, где это возможно, тонко настраивают модель для отклонения запросов о предоставлении личной информации частных лиц и реагируют на просьбы людей удалить их персональные данные из системы»39. Тем временем Google заявила, что у Bard есть «защитные механизмы», которые не позволяют ей включать какие-либо данные, идентифицирующие личность, в свои ответы40. У Google есть также дополнительная политика конфиденциальности для генеративного ИИ, которая гласит: «Вы не должны вводить какую-либо персональную или секретную информацию, включая имена, номера телефонов, адреса, email или даты рождения»41.
С другой стороны, несколько компаний ограничили или полностью запретили использование ChatGPT и аналогичных инструментов на рабочем месте, ссылаясь на соображения о конфиденциальности и безопасности. Как и в случае с Samsung, корпоративный юрист Amazon призвал компанию не делиться с ChatGPT какой-либо конфиденциальной информацией, включая код. Эта инструкция появилась после того, как компания уже столкнулась с ситуацией, когда ChatGPT сгенерировал ответы, копирующие внутренние данные Amazon. Компания пошла еще дальше и установила внутренние барьеры для ChatGPT: когда сотрудник посещал ChatGPT, всплывало сообщение о том, что «служба безопасности Amazon может не одобрить это использование»42. JPMorgan тоже ограничила использование чат-бота из опасений по поводу разглашения секретной или конфиденциальной информации и возможных проблем с регулирующими органами43. Все это говорит о необходимости как осторожного поведения со стороны пользователей, так и создания более развернутых норм защиты конфиденциальности.