Термин «дипфейк» появился относительно недавно – в 2017 году пользователь интернет-форума Reddit предложил такое название для только что разработанной ИИ-техники создания поддельных гиперреалистичных изображений и видео, своего рода фотошопа нового времени{21}. Он заявил, что с помощью этой программы любой может идеально склеивать тела порноактеров с лицами знаменитостей. В результате получается полностью сфабрикованная порнография с участием женщин, которые даже не знают о ее создании и распространении и не могут на это повлиять.

Создателем технологии дипфейка был анонимный программист, проявлявший интерес к искусственному интеллекту и работавший над проектом, который сам он называл «исследовательским». В интервью журналисту Vice News он сказал, что не видит этических проблем, связанных с использованием этой технологии. Если бы не он, ее придумал бы кто-нибудь другой. Юридических проблем тоже не возникало. В то время создание дипфейков, как и их распространение, в большинстве стран не считалось незаконным, поэтому использование технологии никем не регулировалось.

Дипфейки создаются с помощью глубокого обучения – одного из подмножеств технологий искусственного интеллекта, которые выполняют такие задачи, как порождение изображений, усваивая закономерности из миллионов учебных примеров. Модели учатся создавать лица иерархически: они начинают с разметки отдельных пикселей, из которых состоит картинка, а затем постепенно распознают структуры более высокого порядка, такие как форма конкретного лица или фигуры.

В число алгоритмов для создания дипфейков входят порождающие состязательные сети (GAN). Они работают в парах: одна сеть порождает свои версии новых изображений, а другая пытается определить, подлинное перед ней изображение или нет, отличить от настоящих изображений лиц, которые нужно воссоздать. Алгоритмы перекидываются картинками, и фальшивки постоянно совершенствуются и становятся все более убедительными, пока «алгоритм-детектив» не признает фальшивку подлинной. Эта технология может вставлять лица и целые тела на реалистичные снимки и видео – как жутковатые дипфейк-видео с Томом Крузом, которые распространились в TikTok в 2020 году.

GAN могут создавать высококачественные изображения и видеоролики быстрее и дешевле, чем профессиональные студии визуальных эффектов, что делает их привлекательной альтернативой в индустрии развлечений. Такие киностудии, как Industrial Light and Magic, принадлежащая Disney, и компании по созданию спецэффектов вроде Framestone уже экспериментируют с дипфейк-алгоритмами для создания гиперреалистичной компьютерной графики и синтезированных образов знаменитостей – живых и мертвых – для рекламы и фильмов.

Впрочем, GAN – не единственный инструмент для генерации дипфейков, поскольку ИИ-технологии шагнули вперед. В последние два года развитие порождающего ИИ привело к появлению трансформера – архитектуры нейросетей, способной создавать совершенно новые изображения, тексты и видео, ориентируясь только на критерии, напечатанные на простом английском языке. На основе этой технологии построены такие инструменты ИИ-арта, как Midjourney, Dall-E и ChatGPT, которые сегодня у всех на слуху. Они позволяют смутной идее, выраженной в нескольких словах, стихийно обрести проработанную визуальную форму с помощью простых приложений и сайтов.

Инструменты для создания изображений на базе ИИ также превращаются в оружие женоненавистничества. По данным компании Sensity AI, одной из немногих исследовательских организаций, отслеживающих дипфейки, в 2019 году около 95% дипфейк-видео, размещенных в интернете, составляла недобровольная порнография, причем почти во всех роликах в роли жертв были женщины{22}. Автор этого исследования Генри Айдер сказал мне, что за несколько лет, прошедших с момента публикации его статьи, дипфейки распространились так широко, что теперь написать подобный отчет практически невозможно. Он отметил, однако, что более свежие исследования показывают, что жертвами дипфейков по-прежнему становятся главным образом женщины, которых технология гиперсексуализирует.

Сегодня, спустя несколько лет после появления термина «дипфейк», жертвам технологии все еще некуда обращаться за помощью. Почти нигде не действуют никакие законы против создания интимных изображений с помощью ИИ и их распространения. Несколько стран – Великобритания, Сингапур, Республика Корея, Австралия – и отдельные американские штаты, включая Калифорнию, Нью-Йорк и Виргинию, недавно запретили недобровольное распространение интимных изображений, в том числе дипфейков, но создание изображений с помощью ИИ по сей день не регулируется законодательством большинства стран. Жертвам остается лишь требовать от платформ удаления контента, подавая претензии по поводу нарушения авторских прав. В пользовательских соглашениях социальные сети и даже некоторые порносайты обещают удалять дипфейки и контент, размещенный без согласия сторон, но в реальности делают это редко{23},{24}. Они либо не выявляют такие материалы превентивно, либо, если и знают о существовании подобного контента, не относят его удаление к числу приоритетных задач. Новое законодательство Евросоюза, вступившее в силу в 2023 году, обязывает социальные сети инструктировать пользователей о том, как запрашивать удаление запрещенных материалов, и исполнять такие запросы, однако закон не работает, если материал, о котором идет речь, – например, дипфейк – формально не запрещен.

Нельзя сказать, что ИИ стал первой цифровой технологией, которую применяют для притеснения и унижения маргинализированных групп в интернете. Как и многие более простые технологии работы с изображениями, которые существовали до него, от скрытых веб-камер до фотошопа и социальных сетей, дипфейки стали оружием целых армий трусов и извращенцев, вторгающихся в самые интимные из мест – в наши тела.

Манипулирование изображениями с помощью ИИ представляет особую проблему из-за того, что необходимые инструменты дешевы, их легко найти в интернете и овладеть ими способны даже непрофессионалы. Гиперреалистичные – в сравнении с технологиями прошлого поколения – результаты быстро расползаются по недостаточно контролируемым социальным сетям, которые в этом случае работают как мегафоны. Кроме того, их можно использовать против жертв, которые не только не давали своего согласия на создание подобных материалов, но и вовсе о них не знают. Эта технология выводит массовые притеснения и унижения на новый уровень.

Быстрый поиск в гугле показал мне десятки сайтов с дипфейк-порнографией, на которых утверждалось, что размещенные на платформах видео полностью сфабрикованы. В сотнях видеороликов двойники реальных женщин участвовали в реалистичных постановках половых актов.

В этих видео были звезды Голливуда, Болливуда и кей-попа, а также обычные люди вроде Хелен. На том же сайте, где Хелен нашла «себя», она с ужасом обнаружила целый раздел с порнографией с участием непубличных личностей – настоящий рынок изображений женских тел, порожденных технологиями.

Дипфейки не относятся к числу непредвиденных последствий появления ИИ. Это инструменты, намеренно используемые не по назначению, для причинения вреда. Однако их негативное влияние усугубляется простотой использования технологии и институциональным бездушием – отсутствием государственного регулирования и нежеланием крупных онлайн-платформ отвечать за распространение подобного контента. Истории Хелен Морт и других женщин, с которыми я побеседовала, лишь подтверждают коллективное безразличие к их боли.