Сейчас предпринимаются различные усилия для выявления синтетических медиа. В начале 2023 года OpenAI выпустила промежуточную версию классификатора, который способен различать текст, написанный машиной и человеком, чтобы снизить, помимо прочего, опасения по поводу проведения автоматизированных кампаний по дезинформации. Они признали, что их «классификатор не является надежным»; он выявляет текст, написанный ИИ, только в 26 % случаев (истинные срабатывания) и ошибочно помечает текст, написанный человеком, как ИИ-сгенерированный в 9 % случаев (ложное срабатывание). По состоянию на 20 июля 2023 года классификатор был закрыт из-за его низкой точности⁷.

Исследователи в этой области тестировали различные методы обнаружения изображений, видео и речи, созданных или обработанных машиной, как то цифровой, физический и семантический анализ. В рамках программы DARPA MediFor (Media Forensics) [43]исследователи разработали индикаторы манипуляций с изображением, выявляя артефакты в пиксельном представлении, несоответствия в физическом окружении в сочетании с семантическим анализом медиа⁸. Есть ли какие-либо ошибки на уровне пикселей? Например, размытые края или повторяющиеся пиксели? Что касается физической среды, то смотрят, не нарушены ли где-то законы физики: соответствуют ли тени, отражения и освещение законам природы? Наконец, обращают внимание на семантическую целостность, которая помогает определить, не является ли контекстуальная информация, относящаяся к изображению, противоречивой или непоследовательной. Например, было ли изображение вырвано из контекста или видоизменено? Есть ли какие-то несоответствия по дате или времени?⁹ Вслед за этой программой была выпущена DARPA SemaFor (Semantic Forensics), нацеленная не только выявлять обработанные медиа, но и определять, были ли они сгенерированы или обработаны в злонамеренных целях, и даже устанавливать причастность отдельного лица или организации к их созданию¹⁰.

Также проводились многочисленные исследования по обнаружению замены лиц с помощью анализа неоднородности фоточувствительности (photo response nonuniformity, PRNU) [44]^{, 11} и артефактов качества изображения¹², неконсистентности характеристик лица, а также физиологических сигналов [45]^{, 13}. Эти методы подают много надежд, но часто ограничены по своей сути и могут выполнять только обнаружение манипуляций с лицом в специально отобранных наборах данных. Одно исследование показало, что сгенерированные лица можно распознать по неправильной форме зрачков, однако предположение, что зрачок всегда должен иметь правильную форму, неверно¹⁴. В других методах обнаружения дипфейков используются: анализ физиологических признаков на видео, при котором оценивается, в норме ли дыхание и частота сердечных сокращений человека¹⁵; биометрический анализ особенностей конкретного человека, включая движения и стиль речи, которые можно сравнить, чтобы отличить подделку¹⁶. Биометрический анализ также применялся для обнаружения дипфейков звука, и этот метод доказал свою эффективность¹⁷.

Учитывая соблазны злонамеренного использования, гарантированного средства для обнаружения дипфейков не существует. Большинство методов обнаружения, как правило, обладают низкой способностью к обобщению: если они сталкиваются с новым типом манипуляции, которого не было в обучающих данных, то их эффективность значительно снижается¹⁶. Несмотря на то, что значительный прогресс в обнаружении дипфейков уже достигнут и удачные решения по работе с определенными артефактами в продуктах синтетических медиа существуют, мы надеемся, что у исследователей появится интерес устранить ограничения существующих наборов данных, используемых для тестирования этих моделей, а также разработать методы для обобщения различных типов обработки и генераций в дипфейках. Но вполне вероятно, что в какой-то момент станет чрезвычайно трудно или даже невозможно с уверенностью автоматически обнаруживать дипфейки исключительно исходя из признаков, содержащихся в самом изображении.

Хотя технические решения, безусловно, крайне важны для противодействия ИИ-сгенерированному или подвергнутому манипуляциям контенту, но они не решают проблему в полном объеме. В эффективном решении этой проблемы важную роль играют усилия по повышению медиаграмотности, направленные на просвещение и информирование общественности. Для визуальных дипфейков, таких как изображения и видео, мы можем использовать артефакты самой сгенерированной картинки, чтобы отличить ее от реальных изображений. Невозможно выделить один-единственный признак, на который нужно обращать внимание, однако, учитывая, что при обработке изображения часто происходят преобразования лица, мы можем внимательно изучить щеки, лоб, глаза, брови, губы и волоски на лице. Мы можем задать такие вопросы: совпадает ли возраст кожи с возрастом других черт лица? Является ли тон кожи неровным? Должны ли быть здесь тени? Выглядят ли изменения волосков на лице естественно? Не слишком ли много или мало бликов в очках? Не слишком ли часто человек моргает? Выглядят ли движения губ естественными? Раньше на сгенерированных с помощью ИИ изображениях можно было увидеть слишком много пальцев на руках, поскольку на многих фотографиях человека – а именно на них обучались модели – руки видны реже, чем лица. На видео выражение лица или движения могут не совсем соответствовать голосу. В визуальных дипфейках мы, как правило, ищем искажения. Кроме того, в работе по повышению медиаграмотности необходимо уделять внимание пониманию источника и контекста распространяемой информации. Если человек будет знать, откуда произошел контент, какова его достоверность, какой контекст, это поможет понять, сколько внимания стоит уделять этому контенту.

Наконец, как обсуждалось в главе 3, соответствующее законодательство, регулирующее использование технологии и способы ее передачи, будет иметь основополагающее значение для ответственного использования и передачи синтетических медиа. Только в США было введено несколько законопроектов о синтетических медиа, особенно в отношении порнографии и манипулирования демократическим процессом¹⁸. Одновременно с этим компании, владеющие социальными сетями, включая Facebook [46], X (Twitter), Reddit, YouTube и TikTok, разработали политику модерации контента, запрещающую любые дипфейки со злым умыслом на своих платформах.