Сегодня фрагменты изначального кода дипфейка отпочковались в другие алгоритмы, возникающие по всему миру. В 2019 году приложение DeepNude дразнило пользователей, предлагая им за плату в 50 долларов загружать фотографии полуодетых женщин, а затем, используя ИИ-модели, «раздевать» их, заменяя их тела алгоритмически создаваемыми двойниками. Приложение генерировало только грудь и вульву и потому не справлялось с задачей, когда получало фотографии мужчин.

Хотя в 2020 году DeepNude на время закрыли, его создатель, анонимный программист под ником Alberto, позже вписал в программу более продвинутые функции, в результате чего ее код мутировал, подобно вирусу, и пользователи получили возможность загружать в приложение фотографии любого типа – снимки полностью одетых женщин, а также женщин, стоящих в профиль или скрытых тенью, – и генерировать обнаженные изображения и даже видео, нажимая на одну-единственную кнопку{26}.

Сегодня появились сотни сервисов с обнаженкой на заказ, и пользоваться ими не сложнее, чем применять фильтры в инстаграме. Есть данные, что один из таких сайтов за десять месяцев 2020 года посетило 50 миллионов человек{27}. Через несколько месяцев его владелец заявил, что используемые дипфейк-алгоритмы совершенствуются и вскоре позволят пользователям «манипулировать атрибутами объекта, включая размер груди и наличие волос на лобке». Он пообещал, что дипфейки превратятся из пассивного развлечения в конкурентный спорт: выберите женщину – совершенно любую, – разденьте ее, преобразуйте и выставьте на всеобщее обозрение. Затем повторите все сначала.

Дипфейк-порнография породила собственную бизнес-модель. Сайты часто делятся кодом для создания обнаженки с «партнерскими» или поддельными сайтами, которые платят за этот фотостриптиз. В результате появляется активная экосистема сайтов и приложений сексуальной эксплуатации, которые невозможно отключить. Платформы по созданию дипфейков находятся с помощью простого онлайн-поиска, а особых навыков для их использования не требуется. Достаточно просто загрузить фотографию, как на любом другом сайте. Большинство подобных сервисов делают дипфейки за деньги.

Одним из партнерских приложений – DreamTime – управляет разработчик, известный как Айван Браво. Он называет DreamTime «приложением, которое позволяет без труда создавать фальшивую обнаженку из фото или видео с помощью искусственного интеллекта». В интервью журналу WIRED Браво заявил, что у него более трех тысяч платных пользователей, которые приносят ему более чем достаточно денег, «чтобы обеспечивать семью в приличном доме здесь, в Мексике»{28}. Он признал, что считает такой способ заработка неэтичным, но отказываться от него не собирается.

В 2020 году создавать «дипнюдсы» стало не сложнее, чем обмениваться сообщениями. В мессенджере Telegram появился бот, который предлагал пользователям простые услуги по генерации дипфейков. Ему можно было отправить фотографию одетой жертвы, и через несколько минут он присылал в ответ реалистичное изображение обнаженного тела с лицом человека со снимка. По данным исследовательской организации Sensity AI, которая изучила этот бот, его премиум-версия стоила около 8 долларов и позволяла пользователю создать 112 изображений. К июлю 2020 года только через это приложение прошло более 100 тысяч фотографий ничего не подозревающих девушек и женщин{29}.

В анонимном опросе, который сотрудники Sensity AI обнаружили на канале, 63% пользователей сказали, что использовали фотографии «девушек, которых [они] знают в реальной жизни»{30}. У меня от этой статистики мурашки пошли по коже. Я испытала мерзкое чувство, о котором говорила Хелен: ощущение, что тебя разглядывают.

* * *

Весной 2022 года я начала замечать, что в новостях все чаще говорят о влиянии инструментов ИИ на самосознание и самовосприятие людей. Меня зацепила история американской программистки Шер Скарлетт, которая обнаружила свои откровенные и интимные фотографии на сайте по распознаванию лиц PimEyes. Эти снимки были сделаны под принуждением почти двадцать лет назад, когда ей было девятнадцать{31}. Она вытеснила из памяти воспоминания об этом травмирующем инциденте, поэтому, неожиданно обнаружив изображения, она фактически пережила эту травму как в первый раз.

Я заинтересовалась сайтом PimEyes. Он предлагает вам загрузить свою фотографию, чтобы затем с помощью ИИ-систем изучить очертания вашего лица и найти все изображения с вами в интернете. Я загрузила свой снимок, чтобы узнать, что раскопает алгоритм. Это сработало: в основном нашлись мои публичные фотографии, которые я уже видела раньше, а еще несколько снимков моего лица крупным планом с мероприятий, где я даже не знала, что меня фотографируют. Возможно, эти изображения были взяты из видео.

Несколько крупных планов были помечены как «откровенные», и так я узнала, что они оказались на порносайтах. Я не могла перейти на эти сайты, не заплатив PimEyes, и решила этого не делать. Но в итоге во мне поселился непреходящий страх того, что может без моего ведома существовать в сети, – страх перед моими раскиданными по интернету цифровыми двойниками, над которыми я совершенно не властна.

Когда я беседовала с Шер, она сказала, что и подумать не могла, что кто-то может сделать фотографию ее лица и раскопать всю информацию о ней. Она назвала это «чем-то из “Звездного пути”». Но эта технология совершила скачок вперед и превратила ее из анонимного лица в толпе в человека, секреты которого можно насильно раскрыть.

Сотням тысяч женщин вроде Шер Скарлетт и Хелен Морт, иногда совсем еще юным, некуда обратиться, когда они натыкаются в интернете на свои интимные фото и видео, распространяемые без их согласия, – настоящие и поддельные, сделанные с их согласия и под принуждением. До недавнего времени на сайтах Google, YouTube и Facebook не было кнопок, на которые можно было нажать, чтобы навсегда удалить такой контент. И даже сейчас попытки удалить из интернета распространяемые без согласия изображения и видео – не говоря уже о дипфейках – обречены на провал, поскольку соответствующих законов не существует, а интернет имеет децентрализованную природу. Стоит кому-нибудь скачать эти изображения на личный компьютер – и они оказываются сохраненными навсегда и начинают, подобно цифровым призракам, блуждать по всемирной паутине, периодически всплывая в самый неподходящий момент.

В большинстве стран мира создание и распространение дипфейков интимного и сексуального характера не считается незаконным, поэтому очевидного способа восстановить справедливость, нет. Этой проблемой занимаются ученые-юристы, благотворительные организации, активисты и борцы за права женщин, включая движения My Image My Choice и Not Your Porn, внимание которых направлено на все типы недобровольного распространения изображений, включая порноместь. Перечисленные организации обеспечивают работу горячих линий психологической поддержки и оказывают пострадавшим информационные и даже бесплатные юридические услуги. Но найти адвокатов, готовых браться за подобные дела, непросто, поскольку такие споры редко выигрываются в суде. Желая привлечь злоумышленников к ответственности, жертвы часто обращаются к Кэрри Голдберг, адвокату из нью-йоркского района Бруклин, которая, по собственным словам, специализируется на «клиентках, атакуемых извращенцами, мудаками, психами и троллями»{32}.

Голдберг принадлежит к тому типу женщин, забыть которых непросто: она предпочитает строгие костюмы, туфли на шпильках и малиновую помаду. Огромные очки в темной оправе придают ей сходство с прилежной студенткой, смягчая образ убийцы, которым она гордится. Она беззастенчиво женственна, беспощадна и остра на язык.

Клиентки обращаются к ней, столкнувшись с насилием – от стриминга изнасилований малолетних до порномести в интернете, киберсталкинга и шантажа на сексуальной почве. Обычно ее работа сводится к защите женщин, пострадавших от мужчин, которые нанесли им вред при помощи различных технологий. Когда она начинала свою практику в 2014 году, большинство подобных инцидентов даже не считались преступлениями. Отчасти именно поэтому она и пришла в эту сферу: она хотела стать тем адвокатом, которого не нашла, когда сама в нем нуждалась. Когда-то ее бывший парень грозил разместить в интернете ее интимные фотографии и писал ее друзьям и близким в фейсбуке, что она наркоманка с целым букетом венерических заболеваний.

Как правило, клиентки Голдберг, значительную часть которых составляют школьницы, после совершенных против них насильственных актов оказываются социально изолированы от друзей и родственников. Узнавая себя в каждой из них, она часто пренебрегает условными границами между адвокатом и клиентом и становится для пострадавших старшей сестрой, личным психотерапевтом и феей-крестной: ходит с ними на маникюр и дарит им кроссовки на день рождения.

В статье о Голдберг в журнале New Yorker профессор права из Майами рассказала, как однажды получила от нее по почте подарок – символ поддержки в период онлайн-травли, которой профессор подверглась после того, как выступила за введение законов против порномести. В посылке была помада Mac огненного оттенка Lady Danger. В приложенной открытке Голдберг написала: «Я наношу ее всякий раз, когда хочу почувствовать себя воином»{33}.

В ходе нашей беседы я спросила, как издевательства в интернете должны рассматриваться с точки зрения закона. Голдберг тотчас раскритиковала мою постановку вопроса, отказавшись принимать ложное противопоставление интернета и реальной жизни. «На мой взгляд, все преступления совершаются в реальной жизни, поскольку их жертвы – люди, а не компьютеры, – сказала она. – Онлайн-составляющая – просто оружие, а не само преступление. Всякий раз, когда кто-то говорит мне, что столкнулся с киберсталкингом или харассментом, я отвечаю: нет, это просто харассмент и просто сталкинг».

Голдберг вела целый ряд дел о преступлениях с использованием технологий, поэтому я спросила, наблюдает ли она увеличение числа дел, связанных с дипфейками. «Одним из моих первых дел в 2014 году стал случай женщины, чьи фотографии оказались на сайте с порноместью. На снимке она была с друзьями на пляже, одетая в бикини, но кто-то отфотошопил изображение, “снял” с нее бикини, добавил огромную грудь и волосатую […]. В некотором роде фотошоп был предком дипфейков, – сказала она. – Технология дипфейков, несомненно, более продвинутая, но методы борьбы с ней все те же. Для моих клиенток шаги таковы: убрать это к черту из интернета, вычислить виновного, положить этому конец и забыть. И по возможности арестовать этого мудака. По большей части моя работа сводится именно к этому».

Хотя в приоритете для нее – бороться за своих клиенток, преследуя тех, кто их домогается и совершает надругательства над ними, а иногда и платформы, распространяющие контент, ей среди прочего приходится лоббировать признание этих действий наказуемыми правонарушениями. Она объясняет, что сегодня ее главное оружие для удаления интимного контента – авторское право. В тех случаях, когда клиентки сталкиваются со сталкингом, она добивается выдачи запретительных приказов и принятия других защитных мер и обычно обращается в уголовный суд, если приказы нарушаются.

Но главной проблемой она называет тот факт, что законы не обязывают крупнейшие интернет-платформы, включая Google, YouTube, Facebook и Instagram, – не говоря уже о специализированных порносайтах – ограничивать распространение недобровольной и синтезированной ИИ порнографии и обеспечивать безопасность пользователей.

Голдберг одержима привлечением интернет-платформ к ответственности за надругательства в сети. В частности, она выступает за отмену статьи 230 американского Закона о соблюдении приличий в средствах коммуникации, которая освобождает онлайн-платформы от ответственности за контент, размещаемый на них третьими лицами. «Это одна из главных проблем, разрастающихся в интернете. Дело в том, что самые влиятельные в истории вселенной компании, которые располагают не только огромными деньгами, но и информацией о нас, не несут при этом никакой ответственности, тогда как в других отраслях ситуация обстоит иначе, – сказала Голдберг. – Они монетизируют личные данные людей, но люди перед ними бессильны. Это совершенно неприемлемо».

Она подчеркнула, что закон был принят в 1996 году, до появления интернета в его современном виде, и это «просто бред». Лоббисты, которые борются за то, чтобы онлайн-платформы и дальше не несли ответственности за публикуемый на них контент, утверждают, что изменение закона уничтожит всю интернет-отрасль. Даже такие правозащитные организации, как Фонд электронных рубежей, отмечают, что перенос ответственности на интернет-компании приведет к распространению превентивной цензуры в интернете, замедлит социальные сети, которые существуют в реальном времени, и сделает интернет стерильным, закрытым и менее «свободным», чем сегодня{34}.

При упоминании об этом Голдберг фыркнула. «Все остальные отрасли несут ответственность за причиняемый ими вред, и это не привело к закрытию автомобильной или авиационной промышленности, – сказала она. – В технологической отрасли все гонятся за прибылью, не закладывая в бюджет расходы на правовые обязательства».

Хотя она считает, что надругательства над ее клиентками в интернете ничем не отличаются от надругательств в реальном мире, она признает, что превращение ИИ в оружие наносит многим беспрецедентный ущерб. Эта технология более продвинута, более масштабна и более устойчива, а потому более опасна для уязвимых людей.

«Никогда прежде не существовало настолько удобных способов навредить кому-то на расстоянии, а доступность интернета, его всемирный охват и умножающий эффект приводят к тому, что ущерб, наносимый частной жизни, репутации и карьере людей, становится гораздо более существенным и долговременным», – отметила Голдберг.