В отчете Samsung NEXT «Мир синтетических медиа» утверждается, что «эти технологии изменят привычные способы производства, потребления и распространения контента». Заявлено, что синтетические медиа – это третья стадия эволюции медиа. Во времена первых, старых медиа, основанных на широком вещании, лишь немногие могли распространять информацию через телевидение, радио и печать. Вторые, новые медиа, возникли при появлении интернета и обеспечили демократизацию распространения информации для всех через социальные сети. Третьи, синтетические медиа, появились благодаря технологиям ИИ и глубокого обучения, и они предоставляют возможность всем творить и создавать медиа. В отчете Samsung подчеркивается важный момент – синтетические медиа позволят демократизировать создание контента⁵. Теперь любой желающий при небольших затратах сможет создать высококачественный контент. Это дает больше возможностей творцам, не связанным с крупными компаниями, поскольку они могут применять технологии синтетических медиа для создания изображений/видео и воплощать свои идеи в жизнь, не привлекая большие бюджеты для съемок. Как мы обсудим в следующем разделе, мы считаем, что синтетические медиа приведут к новой волне творчества и искусства.

Еще одним потенциальным преимуществом синтетических медиа является их способность анонимизировать фотографии и видео и тем самым повышать конфиденциальность. Мы можем также использовать технологии синтетических медиа для анонимизации своих лиц на изображениях и видео с камер в общественных местах, магазинах и в аккаунтах социальных сетей. Анонимизация лиц может быть использована для защиты конфиденциальности с сохранением полезности данных.

С другой стороны, ИИ-сгенерированный контент может стать причиной обеспокоенности. Ту же самую технологию можно использовать для создания вредоносного контента (текст, видео, изображение или речь). Злоумышленники могут намеренно распространять вводящие в заблуждение и вредоносные материалы, которые будут нарушать систему понятий, вызывать разногласия и подрывать наше доверие к научным, социальным, политическим и экономическим институтам. Феномен «увидеть – значит поверить» может способствовать более быстрому распространению измененных или поддельных изображений и видео. В связи с этим в докладе под названием «Дипфейки: надвигающийся вызов конфиденциальности, демократии и социальной безопасности» исследователи выявили заметную опасность, которую они назвали «дивидендами лжеца». Идея заключается в том, что чем больше широкая общественность осознает, насколько убедительными могут быть синтетические медиа, тем более скептично она относится к подлинности традиционных реальных документальных свидетельств⁶. В главе 5 мы подробно обсудим дезинформацию и ее последствия для отдельных людей и общества.

Синтетические медиа также печально известны тем, что используются для создания порнографических видеороликов о знаменитостях, мести путем размещения порнографии, киберсексуальных домогательств, а также для мошенничества и шпионажа. Дипфейки также могут использоваться, чтобы выдавать себя за уполномоченное лицо для совершения финансовых операций, а также для нарушения кибербезопасности, например, создания поддельных финансовых отчетов или демонстрации, что руководитель совершил преступление. Наконец, для рекламы бренда могут искусственно генерироваться изображения знаменитостей, что приводит к потере доходов от интеллектуальной собственности (ИС). Позже в этой главе мы продолжим обсуждение вопросов интеллектуальной собственности и авторского права в данном контексте.