В последние годы стремительное развитие технологий искусственного интеллекта, в частности дипфейк-технологий, привело к возникновению новых вызовов в области уголовного права. Дипфейк, представляющий собой синтетические медиа (модифицированные аудио- и видеозаписи, позволяющие искажать визуальные и звуковые образы), в которых лица могут быть заменены или изменены с использованием алгоритмов машинного обучения, вызывают серьезные опасения в контексте правоприменения и защиты прав граждан. Как и любая инновация, дипфейк-технологии могут служить как инструментом криминального использования — дезинформации, так и средством, используемым на этапе следственных действий для расследования преступлений. Соответственно, перед наукой права возникает множество актуальных и уникальных проблем, требующих научного анализа.
В настоящее время как отечественное, так и зарубежное законодательство не содержат четкого нормативного регулирования применения дипфейк-технологий в сфере уголовного судопроизводства, что создает правовую неопределенность по аналогии с криптовалютными технологиями, когда в России несколько лет существовал правовой вакуум и за незаконный оборот криптовалюты (ее легализацию или хищение) не предусматривалось никакой уголовной ответственности. В этой связи весьма актуальна разработка комплексных правовых подходов, учитывающих как специфику и особенности данной технологии, так и правовые последствия ее запретов или чрезмерно жесткого регулирования.
В частности, к основным вопросам, возникающим в сфере правоприменения, можно отнести:
1) обоснованность и рациональность использования дипфейк-технологий в качестве доказательств в уголовном судопроизводстве;
2) допустимость и относимость таких доказательств в суде и корректность их оценки;
3) границы защиты персональных данных и соблюдение прав личности.
Согласно международным стандартам, к которым в том числе относится Миланский план действий (принятый VII Конгрессом ООН по предупреждению преступности и обращению с правонарушениями и одобренный резолюцией Генеральной Ассамблеи ООН 40/32 от 29.11.1985), система уголовного правосудия должна совершенствоваться в целях укрепления способности реагировать на изменения общественных условий и новые формы преступности, а соответственно, и доказательства, представляемые в суде, должны быть надежными и подлинными.
Однако с учетом высокой степени качества и правдоподобия изображений и аудио-, видеозаписей, созданных с применением дипфейк-технологий, их идентификация становится значительной проблемой правоохранительной системы, не всегда подготовленной к применению новейших методик анализа доказательств и привлечения экспертов в области цифровых технологий. Следовательно, еще одной задачей науки уголовного права становится вопрос о необходимости разработки новых стандартов оценки цифровых доказательств по уголовным делам.
Также стоит отметить и важный этический аспект, возникающий при использовании дипфейк-технологий в уголовном судопроизводстве. Безусловно, эти технологии могут не только искажать факты, но и серьезно вредить репутации лиц, изображенных на таких записях. Отечественное законодательство в равной степени защищает права личности и свободу самовыражения, в связи с чем неконтролируемое использование технологий в любых целях, если оно потенциально может нарушить права человека, требует осторожного юридического и этического использования. Таким образом, в контексте судебных разбирательств необходимо занять позицию, обеспечивающую баланс между правами обвиняемых и правами потерпевших, особенно в делах, связанных с насильственными преступлениями, клеветой и кибербуллингом.
Поскольку применение дипфейк-технологий в сфере уголовного судопроизводства представляет собой сложный вопрос, требующий комплексного подхода, для их эффективного применения следует обратиться к положительному зарубежному опыту в целях разработки соответствующего законодательства и правоприменительной практики, а также повышения уровня правовой осведомленности сотрудников правоохранительных органов и судей, относительно особенностей работы с цифровыми доказательствами. Важным аспектом также является создание механизмов защиты прав граждан и обеспечения справедливости в судебных разбирательствах.
Для начала доктрине права следует определиться с вопросом необходимости позитивного регулирования дипфейк-технологий в российском праве.
Наука и технологии представляют собой ценный источник знаний и методов борьбы с преступностью, а система уголовного правосудия — обширную область сложных проблем. При изучении применимости любой новой технологии основное внимание всегда уделялось определению требований для системы уголовно-правовых органов, насколько она сможет облегчить жизнь и заменить устаревшие методы поддержания общественного порядка. Кроме того, новая технология должна затрагивать и быть понятной и более широким слоям населения, от которых эти элементы были изолированы ранее. Таким образом, рассматривая инновацию с точки зрения ее пользы для уголовного правосудия, решение должно иметь комплексный и междисциплинарный подход.
Темпы технологических изменений вряд ли замедлятся, и их значимость для практики защиты прав человека также не уменьшится. За последнее время в зарубежном праве опубликовано большое число работ, в которых основное внимание уделяется влиянию технологий на права человека[358]. Понимание культурного влияния технологий на социальные и общественные взаимоотношения имеет первостепенное значение, поскольку некоторые технологии по своей природе имеют разрушительные последствия, которые невозможно контролировать и уж тем более изолировать.
Международно-правовая практика декларирует, что будущее будет тесно связано с развитием технологий, цифровым контентом, к которым будут привлечены специалисты по обработке данных и будут разработаны новые методы обнаружения и проверки информации в сети «Интернет». Уже сейчас разработаны международные принципы, отраженные в Протоколе Беркли о цифровых расследованиях с открытым исходным кодом[359], который определяет стандарты онлайн-исследований предполагаемых нарушений международного уголовного права, прав человека и гуманитарного права. В нем, в частности, содержатся рекомендации по методологиям и процедурам сбора, анализа и сохранения информации профессиональным, юридическим и этичным образом. Протокол устанавливает меры, которые следователи могут и должны принимать для защиты цифровой, физической и психосоциальной безопасности и фиксировать информацию из открытых источников для возбуждения уголовных дел о тяжких международных преступлениях. Однако дипфейк-технологии ставят под угрозу способность следователей доверять видеозаписям с открытым исходным кодом, поскольку и там отсутствуют квалифицированные юристы, специально обученные методам визуальной проверки. Кроме того, констатируется растущая сложность и снижение стоимости технологий обучения искусственного интеллекта, что означает, что изображения становятся более реалистичными и доступными для широкого круга лиц.
Специалисты в области цифровой криминалистики в последнее время сталкиваются с проблемой обнаружения цифровых изменений. И если раньше методы криминалистической экспертизы были автоматизированы и практически не зависели от человеческого глаза при выявлении вмешательств, то появление генеративных технологий искусственного интеллекта может изменить этот баланс.
Учитывая возможную полезность дипфейк-технологий для различных правительственных целей, включая необходимость защиты от враждебного использования, можно с уверенностью сказать, что государство в полной мере эти технологии запрещать не станет, так как у него есть мотив, средства и возможности для их быстрого продвижения. Однако и их распространение невозможно ограничить только публичными рамками, либо разрешить их использование лишь конкретной группе субъектов (например, в сфере образования, науки и искусства), так как технология уже быстро распространяется и демократизируется (как это было с мобильными телефонами).
Природа современной коммуникационной среды усиливает способность дипфейк-материалов наносить репутационный ущерб. Сочетание когнитивных искажений и усовершенствование алгоритмов повышает вероятность распространения непристойных подделок, а простота копирования и хранения данных в сети «Интернет», включая хранение в удаленных юрисдикциях, значительно затрудняет устранение подделок после их публикации.
Способы, которые позволили бы бороться с дипфейк-технологиями, связаны со стимулированием появления на рынке услуг еще более новых технологий для обнаружения дипфейк-материалов, что позволило бы решить эту проблему на государственном уровне. Однако в условиях их отсутствия следует обратиться к юридическим решениям.
Сочетание гражданской и уголовной ответственности могло бы существенно предотвратить и устранить вред, который наносится дипфейк-технологиями общественной или личной безопасности. При этом прямой запрет на создание или распространение таких материалов в принципе невозможно издать и проконтролировать. Тем более что полный запрет нежелателен, так как разнообразное применение цифровых данных практикуется в развлекательных и образовательных целях и в целом не создает глобальных проблем.
Разработку отдельного закона, который бы запрещал деструктивное использование дипфейк-технологий, можно было бы рассмотреть в контексте формирования общегосударственной уголовной политики в этом направлении, однако в данный момент времени предпосылок к такому радикальному решению нет. Кроме того, в этом случае возникла бы необходимость индивидуального анализа намерений и умысла каждого человека, создавшего и распространившего дипфейк-материал, а соответственно, и сложности процесса такого доказывания и разграничения. Это привело бы к запрету любых пародий на потенциальных или действующих должностных лиц и положило бы начало политизированному преследованию. Поэтому, конечно, лучше отказаться от прямого запрета, чем подвергнуться риску злоупотреблений. Более того, Конституцией Российской Федерации регламентируется основополагающий принцип свободы выражения мнения (ст. 29), и запрет касается только пропаганды или агитации, возбуждающих социальную, расовую, национальную или религиозную ненависть и вражду, а также разглашения государственной тайны.
Ложь, безусловно, вредит как обществу, так и индивидуальному объекту, соответственно, установление гражданской или уголовной ответственности является более перспективным, чем полный запрет дипфейк-технологий. Открытым остается вопрос о том, должны ли создатели и распространители таких материалов нести ответственность за причиняемый ими вред и в каком объеме.
Прежде чем анализировать критерии ответственности необходимо отметить два основных вопроса:
1) идентификация автора (создателя) материала, поскольку гражданско-правовая и уголовно-правовая ответственность не помогут возместить ущерб и восстановить нарушенные правоотношения, если установить авторов дипфейка невозможно по причине недостаточности данных. В таких случаях пострадавшее от подделки лицо не может иметь правовых и практических средств защиты против создателя, пользуясь только возможностью обратиться к владельцам платформ, допустивших распространение;
2) вторым не менее важным вопросом является нахождение создателя подделки или ее распространителя на территории другой юрисдикции. В таком случае использование средств правовой защиты снижается до минимальных значений, затягивается на годы и не гарантируется результат.
На наш взгляд, наиболее действенным средством, с помощью которого правовая система может препятствовать созданию и распространению вредоносных дипфейк-материалов является уголовная ответственность. Теоретически это позволило бы преодолеть некоторые из наиболее существенных элементов гражданской ответственности (избежать длительного искового производства). Хотя и в данном случае нахождение создателя и распространителя таких материалов вне пределов досягаемости отечественных правоохранительных органов снижает возможность привлечения виновного лица к ответственности.
Потенциал уголовного права в какой-то степени зависит от определения приоритетов правоохранительных органов и соответствующего распределения государственных ресурсов. Как мы уже отмечали, отечественная уголовная политика в настоящее время не сильно ориентирована на пресечение злоупотреблений дипфейк-технологиями, несмотря на то, что количество преступлений, совершаемых с их использованием, стабильно увеличивается и широко освещается в СМИ. При этом предметом расследования зачастую становятся только самые резонансные правонарушения. Прямой вины правоохранительных органов здесь нет, поскольку перспективы привлечения к уголовной ответственности зависят в первую очередь от сферы применения самих уголовных законов и степени их ориентированности.
Ряд уголовно-правовых запретов, касающихся использования информационно-коммуникационных технологий и защиты охраняемой законом информации, потенциально применимы к рассматриваемым правонарушениям. Например, публикация недостоверной информации об использовании Вооруженных сил Российской Федерации, — такие действия подпадают под ст. 207.3 УК РФ. Также может наступать ответственность по ст. 159.6 УК РФ за мошенничество в сфере компьютерной информации, если виновным лицом совершено хищение чужого имущества или приобретение права на чужое имущество путем ввода, удаления, блокирования, модификации компьютерной информации либо иного вмешательства в функционирование средств хранения, обработки или передачи компьютерной информации или информационно-телекоммуникационных сетей.
В Российской Федерации не образуют состава преступления действия лица, заведомо выдающего себя за другого человека, в отличие, например, от уголовного закона некоторых штатов в США. В частности, Уголовный кодекс штата Калифорния предусматривает наказание в виде штрафа до 1000 долл. или лишения свободы на срок до одного года в случае, если любое лицо, которое сознательно и без согласия достоверно выдает себя за другое физическое лицо посредством веб-сайта в сети «Интернет» или с помощью других электронных средств с целью причинения вреда, запугивания, угроз или обмана другого лица (§ 528.5)[360]. Аналогичные положения предусмотрены Уголовными кодексами штатов Техас, Нью-Йорк, Миссисипи и др.
Однако вред, причиняемый использованием дипфейк-технологий, может касаться не только конкретного человека, но и распространяться на все общество, например использование видеоматериала, рассчитанного на то, чтобы подтолкнуть целевую аудиторию к насилию к определенной группе людей или в отношении органов власти, к беспорядкам.
Уголовное законодательство может и должно помочь в ограничении ущерба от таких манипуляций с цифровой информацией. Дезинформация уже давно преследует общественность, особенно остро этот вопрос встает во время выборов, когда явные фальсификации вызывают повышенную тревогу у государства, поскольку избиратели могут сделать необдуманный выбор.
В июне 2024 г. Верховный суд РФ признал использование дипфейков в ходе избирательных кампаний нарушением правил агитации, фактически впервые закрепив этот термин в судебной практике, а именно: указал, что это «вводящие в заблуждение и выдаваемые за достоверные недостоверные изображения, аудио- и аудиовизуальная информация, в том числе созданные с помощью компьютерных технологий»[361].
Кроме того, применение дипфейк-технологий уже играет свою роль в существующем вооруженном конфликте — специальной военной операции России. Информационные атаки различного генезиса давно являются частью ведения войны западных стран по отношению к России.
Отходя от глобальных общемировых проблем использования дипфейк-технологий, стоит особо отметить частную возможность их использования для создания алиби виновному лицу в целях подтверждения его нахождения в другом месте и в другое время. Опровержение такого «дипфейк-доказательства» полностью ложится на сторону предварительного расследования или государственного обвинения в суде. Так, например, при отсутствии адекватного технологического и нормативного противодействия цифровым подделкам и наказания за их использование, появятся услуги, предлагающие создать надежное цифровое алиби. В результате процесс доказывания в уголовном судопроизводстве может превратиться в бесконечную цепь экспертных опровержений, а лицо, которое не сможет себе позволить приобрести такое алиби, будет подвергаться большему риску быть осужденным. Прибыльные с технической точки зрения услуги станут распространяться во вред уголовному процессу и теоретическим фундаментальным учениям о доказательствах, если не пресечь такие злоупотребления уже сейчас.
Феномен дипфейк-технологий объясняется тем, что изображения (аудио- и видеоматериалы) оказывают гораздо большее воздействие на человека, так как информационная среда, ориентированная на социальные сети, взаимодействует с когнитивными предубеждениями, еще больше усугубляя эффект.
Социальные последствия внедрения дипфейк-технологий, фальсификаций и дезинформации на самом деле глубже, чем кажется на сегодняшний день, в этой связи предлагаем рассмотреть варианты борьбы с такими злоупотреблениями с различных точек зрения (правовой и социальной).
Вредоносное создание и распространение поддельных материалов, на наш взгляд, должно влечь юридическую ответственность. Когда мы говорим о дипфейках, мы имеем в виду контент, который может кого-то обмануть и, возможно, существенно повлиять на его жизнь. Это может быть связано с изменением политических взглядов или использованием в суде в качестве ложных доказательств. Или, в случае с порнографическими дипфейками, это влияет на тех, на кого они нацелены, в то время как люди, создающие их, хотят верить, что они настоящие, ради личного удовольствия.
Природа создания конкретного дипфейк-материала в настоящее время не имеет столь важного значения, как и то, было ли использовано какое-либо программное обеспечение или только искусственный интеллект. Собственно, и признак «введения в заблуждение» не является категоричным, так как всегда могут возникнуть пограничные ситуации, выходящие за конкретные терминологические границы.
Существует также опасность, что если мы будем использовать термин «дипфейк» слишком небрежно и вольно, то он станет повсеместным; культурной силой, которая затмит реальное влияние технологии. Это означает, что люди, которые хотят нас обмануть, могут использовать этот термин (и смутное представление общества о нем), чтобы поставить под сомнение доказательства, с которыми они не согласны. И это самая основная опасность для уголовного судопроизводства.
Нормативное закрепление понятия «дипфейк», конечно же, не защитит от указанных злоупотреблений, но в современном мире, где любой аудиовизуальный контент может быть подделан, что приведет к недоверию к СМИ, судам и другим государственным институтам, четкое определение, по крайней мере, поможет общественному обсуждению этих вопросов.
Таким образом, первым этапом пресечения злонамеренного создания и распространения поддельных материалов является признание существования проблемы. Если не принимать контрмеры, уголовное судопроизводство гарантированно столкнется с серьезными проблемами из-за потери доверия. Например, суду представлено доказательство, содержащее голос обвиняемого, и для человеческого уха это неоспоримо. Более того, суд не сможет быть уверен в подлинности голоса даже после криминалистической экспертизы.
Создание высококачественных видеоизображений, фотографий и других доказательств может привести к нарушению фундаментального принципа нашей судебной системы — презумпции невиновности, согласно которому подсудимый не виновен, до тех пор, пока вина его не будет доказана. А наличие таких возможностей фальсификации приводит к предположениям о виновности, пока не будет доказана невиновность.
Такие же недобросовестные средства могут быть использованы не только в отношении подсудимого, но и в отношении других участников судопроизводства: потерпевших, свидетелей, государственного обвинителя и в том числе и суда, например, для обоснования отвода судьи, подтверждения его заинтересованности в исходе дела, фактах общения со сторонами и т. п. — бесконечное множество вариантов.
Уже сейчас искусственный интеллект копирует голос, имея лишь несколько аудиозаписей жертвы, а преступники выдают себя за сотрудников правоохранительных органов и руководителей своих подчиненных сотрудников, и трудно представить, что криминальный потенциал таких инструментов будет снижаться. Наоборот, их коммерциализация будет только возрастать. На поддельных видеозаписях и фотографиях могут быть изображены государственные служащие, берущие взятки, произносящие оскорбления или критикующие власть, делать провокационные заявления, которые вызовут беспорядки в соседних странах или спровоцируют волну насилия, нарушив дипломатические отношения, либо сделают заявления, приводящие к панике. В теории все это приведет к глобальному недоверию и подозрительности.
Несмотря на то, что согласно уголовно-процессуальному закону доказательствами являются не только аудио-, видео-, фотоматериалы, но также и показания свидетелей и потерпевших, документальные и вещественные доказательства, как для профессиональных судей, так и не для профессиональных (присяжных заседателей) большее доверие всегда вызывало то, что они могут увидеть и услышать собственными глазами и ушами (это и есть основные когнитивные свойства человека). И если таким, на первый взгляд неопровержимым доказательствам не будет веры, это приведет к полному кризису процесса доказывания.
Определенный период времени, до тех пор, пока технологии не автоматизируют способы криминалистического анализа доказательств, позволяющих проверять целостность цифрового контента на предмет использования дипфейк-технологий, будут появляться судебные решения, основанные на противоречивых доказательствах. А это в свою очередь негативно скажется на судебной практике.
С социальной точки зрения дипфейк-технологии представляют не меньшую опасность, чем с правовой, что можно объяснить не только низкой цифровой грамотностью общества, но и менталитетом населения, основанном на доверии к людям. Согласно исследованиям, 47 % граждан знают или что-то слышали о дипфейках, при этом каждый пятый не смог дать этому слову правильное определение, однако все респонденты согласились с тем, что их распространение является опасным и требует законодательного регулирования[362].
Очевидно, что основной массив пострадавших от негативного использования дипфейк-технологий приходится на пожилых людей, а также на тех, кто наиболее подвержен психологическому влиянию, в этой связи как с правовой, так и с социологической точки зрения неконтролируемое вредоносное распространение дипфейк-технологий является крайне отрицательным. Соответственно, чем дольше сохраняется правовой вакуум в регулировании дипфейк-технологий, тем дольше будет подвергаться влиянию обмана система уголовного правосудия и общество в целом. Таким образом, расширение рамок уголовной ответственности за использование дипфейков в криминальных целях обусловлено их активно разрастающейся общественной опасностью.