В прошлом феврале я побеседовала с исследовательницей Оливией Сноу из Калифорнийского университета в Лос-Анджелесе, которая также является профессиональной доминатрикс и специалистом по секс-работе, технологиям и правовому регулированию в этой отрасли. Работая доминатрикс, она использует вымышленное имя. Недавно Сноу и ее коллеги начали использовать приложение Lensa, которое с помощью ИИ превращает фотографии лиц в анимированные аватары в стиле аниме или фэнтези. «Для нас это безопасный способ показать свое лицо в профиле», – сказала она. Однако, загрузив в приложение больше своих фотографий, она заметила, что алгоритм программы гиперсексуализирует «мультяшные» портреты.
Заинтересовавшись этим, она добавила в Lensa и другие снимки, включая селфи с конференций и детские фотографии, чтобы посмотреть, что с ними сделает алгоритм. Сноу с ужасом обнаружила, что сексуализации подверглись и они – были созданы даже частично обнаженные фотографии. «Очень скоро приложения вроде Lensa начнут использоваться против женщин. В последние несколько недель я наблюдаю всплеск случаев, когда женщинам показывают дипфейк-порно с их участием», – сказала Сноу.
Она отметила, что международные регуляторы непозволительно медлят с введением ответственности за надругательства такого типа. «Мы вообще не регулируем такие технологии, как ИИ, пока не становится слишком поздно».
Сноу права: ситуация почти не сдвигается с мертвой точки. Такие жертвы, как Хелен и Ноэль, которые имеют смелость – и чувствуют себя достаточно защищенными, – чтобы говорить о том, что с ними произошло, борются за судебное преследование преступников и требуют, чтобы правительства их стран признали, что дипфейки заполоняют мир, и ввели уголовную ответственность за создание и распространение порнографического контента, генерируемого без согласия сторон с помощью ИИ-систем.
Эта борьба показывает, что надругательства с применением ИИ не менее деструктивны, чем распространение реальных снимков, и отчасти именно поэтому пострадавшие женщины говорят о случившемся публично. В последние годы, когда все больше пострадавших рассказывает о своем столкновении с дипфейками, а программы для создания изображений на базе ИИ становятся лучше и лучше, активисты, выступающие за цифровые права и права женщин, начинают все настойчивее лоббировать запрет такого типа надругательств на законодательном уровне.
Хелен, например, запустила онлайн-петицию с требованием к правительству изменить законы и защитить тех, кто, как и она, стали жертвами технологий. «После этого испытания я столкнулась со страхом, стыдом, паранойей и опустошенностью. Но я не позволю им заставить меня замолчать», – написала она.
В своей петиции, которую подписали более шести тысяч человек, она призывает запретить дипфейки, «создав один понятный закон для запрета скачивания, создания и фабрикации вредоносных изображений»{37}.
Благодаря борьбе Хелен и других людей, включая Генри Айдера из Sensity AI и десятки активистов, Великобритания недавно запретила недобровольное распространение интимных дипфейк-изображений по Закону о безопасности в интернете, который разрабатывался с 2019 года. Несмотря на широкую критику, в момент написания этой книги идут последние этапы его обсуждения – он медленно, но верно продвигался по британским законотворческим инстанциям.
Профессор права из Даремского университета Клэр Макглинн, которая на протяжении последнего десятилетия изучает законодательство в соответствующей сфере, говорит, что несмотря на шаги, предпринятые Великобританией для решения этого вопроса, в настоящее время в мире существуют лишь отдельные законы национального и регионального уровня, направленные против злоупотребления изображениями, а законов, запрещающих создание и распространение дипфейков, и того меньше. Кроме того, судя по сведениям, полученным Макглинн от потерпевших, даже когда законы существуют, их соблюдение контролируется не всегда, в связи с чем женщинам, составляющим основную часть жертв подобных надругательств, чрезвычайно сложно защититься от нападок, которые, как в случае Ноэль, порой длятся по несколько лет.
По словам Макглинн, законодательство не меняется не потому, что риск злоупотребления фальсифицированными фото и видео вызывает сомнения, а потому, что законотворцы не считают этот вопрос особенно важным. Регулировать ИИ, как и социальные сети и другие интернет-технологии, очень сложно. Эта технология эволюционирует чрезвычайно быстро и не признает никаких границ: ИИ-программы, созданные в одной стране, могут применяться в приложениях в другой стране, а затем взламываться и использоваться для создания недобровольных дипфейков в третьей.
В последний год многие страны озаботились проблемой регулирования технологий искусственного интеллекта, но пока обсуждаются главным образом вопросы, касающиеся опасности продвинутых ИИ-систем, включая возможность их использования для разработки биологического оружия, проблемы распространения создаваемой ИИ дезинформации в политических сферах, а также риски негативного влияния ИИ на демократию. Кроме того, рассматриваются случаи нарушения авторских прав, поскольку для обучения ИИ-систем требуется использование охраняемых авторским правом текстов, изображений, голосов и стилей представителей творческих профессий. На первом саммите, состоявшемся в прошлом ноябре в британском особняке Блетчли-парк, государственные лидеры обсуждали необходимость законодательного обеспечения безопасности ИИ: разработку алгоритмических систем, которые не проявляют дискриминацию, не нарушают этику и не подходят для совершения преступлений, а также – в далеком будущем – создание сверхчеловеческих технологий, не причиняющих вред человечеству.
Как отмечает Макглинн, занимаясь такими сложными вопросами, мировые политические лидеры – в большинстве своем мужчины{38} – просто не отдают приоритет проблеме распространения дипфейков. По ее мнению, дело, возможно, в том, что жертвами этой технологии становятся преимущественно женщины. Иными словами, жертвы просто недостаточно значимы.
Красноречивым свидетельством колониализма данных, то есть эксплуатации уязвимых сообществ могущественными технологическими компаниями, служит распределение влияния алгоритмических систем. В силу статистического характера технологий их преимуществами обычно пользуется большинство – выделяемое хоть по расовому, хоть по географическому, хоть по половому признаку. Например, плохо разработанные системы найма на базе ИИ отдают предпочтение кандидатам мужского пола, поскольку в прошлом представители этой группы успешно проходили собеседования в конкретной компании{39}. С другой стороны, токсичному влиянию ИИ-систем особенно подвержены маргинализированные группы, которые и без того притесняются в современном обществе. В частности, системы распознавания лиц на базе ИИ гораздо чаще ошибаются в случаях с женщинами и людьми с небелой кожей, чем с мужчинами и представителями европеоидной расы.
Начав следить за распространением дипфейк-порнографии, я обнаружила, что технология применяется не только на Западе: подобные алгоритмы использовались против женщин в Египте, Китае, Йемене и Индии, а также в других государствах. В перечисленных странах эту технологию уже направляют против журналисток и активисток, причем шаткое положение, которое они занимают в этих культурах, позволяет причинять им гораздо больший вред, чем, скажем, женщинам в западных странах.
В 2020 году мы с коллегами из Financial Times начали рассказывать о том, как именно ИИ используется в качестве оружия против женщин и других меньшинств в интернете, и узнали о молодом китайском программисте Scsky, живущем в Германии. Он собрал команду из семерых программистов, которые на добровольных началах за пять месяцев создали приложение Can You Forgive Me («Можешь меня простить?»). В приложении пользователю предлагалось загрузить портретную фотографию своей девушки, после чего ИИ-технология определяла, фигурировала ли эта девушка в любительском или профессиональном порно и становилась ли жертвой порномести.
Позже Scsky заявлял, что приложение могут использовать и женщины – чтобы находить и удалять обнаженку, размещенную в интернете без их согласия. Однако в ходе интервью с ним моя коллега Юань Ян выяснила, что его идея сводилась к поиску «сексуально раскрепощенных» китаянок, чтобы программисты и инженеры – в большинстве своем мужчины, которых считают наивными и неопытными в романтических отношениях, – могли пресекать то, в чем видели злоупотребление их доверием.
Это приложение возмутило китайских феминисток, посчитавших его инструментом преследования женщин, которые не боятся высказывать свое мнение – в частности, отвергая мужчин. Такое поведение изучалось в более масштабном исследовании, опубликованном в 2022 году в период судебных разбирательств между Джонни Деппом и Эмбер Херд и показавшем, что женщин, которые открыто выражают свое мнение и ведут себя уверенно, порой считают «неприятными»{40}.
Потенциальная опасность, которой подвергаются женщины за пределами западных стран, не дает спокойно спать правозащитнице Ракель Васкес Льоренте. Она давно раздумывает о том, как защищать права человека и свободу самовыражения в мире производимого ИИ синтетического контента, включая дипфейки. Ее беспокоит, что инструменты ИИ могут войти в арсенал авторитарных режимов, которые начнут использовать дипфейк-видео и изображения для дискредитации людей на персональном уровне.
Правозащитное сообщество, в которое входит Льоренте, прекрасно понимает, что правительства развивающихся и авторитарных государств гораздо более склонны злоупотреблять новыми технологиями, такими как ИИ, и потому активисты в этих странах в перспективе примут на себя основной удар{41}.
Льоренте работает в некоммерческой организации WITNESS, которая помогает людям использовать видеотехнологии для защиты прав человека по всему миру. Начиная с 2019 года эта организация проводит в разных уголках мира – в Найроби, Претории, Куала-Лумпуре, Сан-Паулу – семинары, где встречаются журналисты, активисты и правозащитники из соответствующих регионов{42}. Их цель в том, чтобы обсудить угрозы и возможности, которые дипфейки и другие технологии порождающего ИИ могут привнести в правозащитную деятельность, выявить насущные проблемы и разработать рекомендации для дальнейшей регулятивной работы в этой сфере.
На этих семинарах стало очевидно, что делегаты из Африки, Юго-Восточной Азии и Латинской Америки особенно боятся использования синтетического контента для подрыва доверия к их работе. Они опасаются применения дипфейков и других ИИ-технологий для целевых гендерных атак и фальсификации сведений о людях, которые борются с режимом.
«Их уже используют, чтобы дискредитировать работу активисток и защитниц прав женщин, – сказала мне Льоренте. – Если вставить ваше лицо в порноролик и распространить его, то в лучшем случае ваша работа будет дискредитирована, в худшем – вас вовсе убьют. Я нахожу правозащитников из Йемена и с Ближнего Востока, против которых ведутся кампании с использованием дипфейков, и пытаюсь понять, как их защитить. В местах, где за такое могут убить, активисты подвергаются опасности».
Цифровые технологии развиваются, и со временем вред от порождающего ИИ может переместиться из реального мира в виртуальный. Ноэль изучает этот вопрос как правовед в Университете Западной Австралии. Искусственный интеллект также лежит в основе так называемой метавселенной – трехмерной онлайн-вселенной, популяризируемой компанией Facebook, которая была переименована в Meta. В метавселенной можно в форме аватара путешествовать по реалистичным мирам, населенным другими аватарами настоящих пользователей и объектами, с которыми можно взаимодействовать. Любой может заходить на такие платформы, как Roblox, Fortnite и Decentraland – и даже на Horizon Worlds, принадлежащую Meta, – и играть там в игры.
Доступ к Horizon Worlds осуществляется с помощью шлема виртуальной реальности Oculus Quest 2, разработанного в Meta. Эта платформа использует порождающий ИИ, чтобы создавать аватары, которые мгновенно переводят речь с языка на язык, обеспечивают работу чат-ботов в этой экосистеме и даже предоставляют возможности для создания детализированных виртуальных сред с помощью голосовых команд.
В 2021 году британская тележурналистка Йинка Бокинни проводила секретное расследование для документального фильма канала Channel 4 и входила в метавселенную с помощью шлема Oculus Quest 2 через два приложения, доступные в магазине Oculus{43}. В этих виртуальных пространствах она столкнулась с необузданной сексуальной агрессией, домогательствами, расизмом и даже с насилием над несовершеннолетними. Едва оказавшись в одной из сред, доступных на платформе Oculus, которая принадлежит Facebook, она стала свидетельницей разговоров о сексе с детьми, услышала ксенофобские высказывания, пережила расовые нападки и виртуальное нападение.
В статье для Guardian она писала: «В какой-то момент меня окружили семеро пользователей, которые попытались заставить меня снять защитную оболочку, чтобы получить доступ к моему телу… Это было виртуальным аналогом изнасилования»{44}.
Бокинни отметила, что у нее возникло странное чувство, будто над ней надругались, хотя все происходило в виртуальном мире. «Я понимаю, что это не реально, но в этом шлеме и правда кажется, что ты находишься прямо там, – написала она. – Шлем заставляет тебя поверить, что происходящее с тобой реально. Ты забываешь, что в действительности все не так. И это пугает».