Преимущества использования ИИ в здравоохранении очевидны. Применение специальных программ по обработке больших данных, внедрение инновационных технологий самообучающегося ИИ позволит перейти на новый качественный уровень оказания медицинской помощи и будет способствовать переосмыслению всей системы здравоохранения, переходу на высокотехнологичную и более безопасную персонализированную медицину. Однако следует констатировать, что внедрение систем ИИ неизбежно создает дополнительные, нестандартные проблемы, порождает целый ряд новых вопросов правового и этического характера.

Наиболее актуальными проблемами для Российской Федерации (см.: разд. 3, § 1) являются:

– обеспечение безопасности внедрения систем ИИ;

– делегирование ответственности при их использовании;

– этические проблемы.

Применение ИИ в медицинской деятельности может повлечь причинение вреда жизни или здоровью граждан, общественному здоровью в следующих ситуациях:

– при наличии ошибок на стадии разработки и создания систем ИИ;

– внесении в базы неточных или неполных данных, последующая обработка которых в силу их некорректности может привести к ошибочным решениям;

– неправомерном доступе в систему ИИ с целью совершения противоправного деяния против личности, общественного здоровья, общественной безопасности, а также в любых иных ситуациях неправомерного доступа, влекущих модификацию ИИ или его повреждение;

– самообучении ИИ, сопровождающемся изменением алгоритма обработки закладываемой информации, и последующем принятии самостоятельных решений.

В этих условиях крайне актуально развитие нормативно-технического регулирования в сфере ИИ.

В Стратегии-2017 была дана оценка современного состояния законодательной базы на предмет регулирования отношений с ИИ. Так, в Стратегии говорится, что для стимулирования развития и использования технологий ИИ необходимы адаптация нормативного регулирования в части, касающейся взаимодействия человека с ИИ, и выработка соответствующих этических норм. Однако избыточное регулирование может существенно замедлить темп развития и внедрения технологических решений.

Важным для России в доктринальном плане стал документ, разработанный в 2017 г. Исследовательским центром проблем регулирования робототехники и искусственного интеллекта, – проект Модельной конвенции о робототехнике и искусственном интеллекте. Он написан с возможной перспективой международного использования и гармонизации в сфере информационного права. Из особенно заслуживающих внимания положений Модельной конвенции можно выделить следующие: авторы проекта ответственно подходят к регулированию вопросов обеспечения безопасности человека при использовании ИИ и перечисляют необходимые «принципы безопасности». К ним отнесены принцип контролируемости роботов человеком, принцип равных рисков (риски при использовании роботов должны быть не больше обычных рисков), механизм черного ящика (фиксация и хранение данных о действиях робота), красная кнопка (дает возможность отключить робота в любой момент). Также, согласно Конвенции, ответственность за выполнение правил функционирования роботов возлагается на создателей роботов, а также на любое иное лицо, которое может своими действиями повлиять на выполнение правил. Кроме того, Конвенция предлагает создать отдельные межгосударственные и негосударственные организации и объединения (или такие отделы в уже существующих организациях), предназначенные для эффективного, гармоничного и безопасного развития сферы робототехники и искусственного интеллекта.

В настоящее время разрабатывается Цифровой кодекс России для определения разумного баланса между стремительным развитием информационных технологий, цифровой трансформацией экономики и государственного управления и сохранением прав и свобод человека и гражданина. Звучат также предложения дополнить ГК РФ понятиями «робот-агент», «владелец робота-агента», определить правоспособность робота-агента [Архипов, Наумов, 2017].

В связи с происходящими процессами неизбежно трансформируются их правовое регулирование и доктринальный подход к оценке связанных с этим новых явлений в праве. Некоторые исследователи предлагают рассматривать три концепции понимания сущности цифрового права, его развития и определения места в правовой системе.

Первую модель можно назвать классической. В соответствии с ней оформляющийся массив норм цифрового права рассматривают как комплексный институт без четкого отнесения к какой-либо выделенной отрасли права.

Согласно второй модели некоторые ученые воспринимают цифровое право как циклический нормативный массив. Идея существования циклических нормативных массивов высказывается Т. Я. Хабриевой [Хабриева, Черногор, 2018; Хабриева, 2019]. В рамках концепции определенные нормы права, возникающие как реакция на вполне естественные изменения сфер жизнедеятельности человека, развиваются особняком, при этом оказывая существенное влияние на устоявшиеся правовые отрасли. В перспективе они способны трансформировать всю традиционную систему права.

Следующая модель – это концепция так называемых аддитивных технологий в праве [Грудцына, 2021]. Она предполагает, что с помощью таких технологий будут объединяться ранее не взаимодействовавшие элементы права, в результате чего возникнут конвергентные отрасли права [Записная, 2022].

Начать обсуждение проблем правового регулирования разработки и использования ИИ в медицине авторы настоящего издания считают правильным с конституционного права. Некоторые исследователи пытаются понять функционирование технологий ИИ с точки зрения их конституционно-правового регулирования. Так, М. А. Липчанская и Т. В. Заметина считают [Липчанская, Заме тина, 2020, с. 82–84], что конституционное осмысление отношений с ИИ можно увидеть в следующих положениях Конституции:

1. Согласно статье 2 Конституции РФ человек, его права и свободы являются высшей ценностью. В России участником общественных отношений, в том числе правоотношений, на данный момент является человек, а не ИИ. Права и свободы человека определяют смысл, содержание и применение законов.

2. Конституция РФ гарантирует свободу и личную неприкосновенность каждому человеку (часть 1 статьи 22). При этом ИИ выполняет служебную функцию.

3. Статья 4 Конституции РФ закрепляет принцип суверенитета государства. В связи с этим международное сотрудничество России в сфере ИИ не снижает уровень самостоятельности и независимости РФ в принятии решений, связанных с использованием технологий ИИ.

4. Необходимо разобраться в том, к полномочиям какого уровня федерации можно отнести регулирование ИИ, так как в настоящее время эта сфера начинает приобретать особое значение в общественной жизни. К предметам исключительного ведения РФ относятся информационные технологии. Оптимальный баланс в разграничении предметов ведения и полномочий в данной области может быть достигнут только в случае федерального приоритета в решении принципиальных вопросов регулирования ИИ.

5. Обеспечение безопасности относится к предметам исключительного ведения Российской Федерации (пункт «м» статьи 71 Конституции РФ дополнен положениями о том, что к предметам исключительного ведения Российской Федерации относится обеспечение безопасности личности, общества и государства при применении информационных технологий, обороте цифровых данных).

Исследователи приходят к выводу: потенциально законодательство в сфере ИИ должно носить комплексный характер, быть направленным на то, чтобы обеспечить взаимодействие различных отраслей права в вопросе оформления правового статуса ИИ [Липчанская, Заметина, 2020, с. 82–84]. Таким образом, ИИ, как прочно вошедшее в жизнь человека явление, в настоящее время начинает приобретать юридическое оформление. Вместе с развитием технологий ИИ регулированию начинают придавать особое значение. Процессы трансформации общественной жизни с появлением новых технологий сопровождаются также процессами их правового осмысления. ИИ, его разработка и внедрение в различные отрасли неизбежно влекут появление новых вызовов для юристов, новых правовых коллизий и неразрешенных проблем. Так, наиболее значимыми и дискуссионными вопросами применения систем ИИ в здравоохранении являются вопросы юридической ответственности за вред жизни и здоровью граждан, причиненный при их использовании. При этом наиболее сложными остаются вопросы относительно субъектного состава, в частности вопросы привлечения к ответственности.

Первый проблемный вопрос в регулировании ИИ – это все повторяющиеся попытки придания ему правосубъектности, то есть возможности вступать в правоотношения от своего лица, иметь права и нести юридические обязанности. Таким образом, серьезной задачей для ученых будет определить возможность ИИ выступать в роли субъекта, а не объекта. Интересен первый случай признания за роботом с технологией ИИ свойств субъектов права в Саудовской Аравии, где человекоподобному роботу официально дали гражданство[21].

Подобно тому, как у юридического лица есть признаки правосубъектности, ИИ имеет регистрацию как объект интеллектуальной собственности, обладает хозяйственной компетенцией (это его функционал) и материальной базой (в роли которой выступает материальный носитель ИИ, например робот), его можно привлечь к ответственности (выключить). С первого взгляда можно подумать, что ИИ действительно можно отнести к субъектам правоотношений. Однако, если детальнее изучить вопрос и комплексно подойти к оценке ИИ как правового явления в системе российского права, можно заметить следующее. ИИ был создан как умный ассистент для человека в социально полезных целях. При этом, хотя и обладает отдельными признаками субъекта, он не может похвастаться полнотой мышления и скоростью принятия решений, характерных для человека. В полном смысле возложение ответственности за действия ИИ на него самого представляется неправильным.

В настоящее время отмечаются случаи совершения ИИ ошибок в медицинской деятельности, поэтому вопрос распределения ответственности между человеком и автоматом особенно актуален. Так, в научной литературе приводится пример, когда в медицинское учреждение поступил ребенок с высокой температурой и слабостью. Диагноз «грипп» был поставлен на основе вывода системы ИИ. В соответствии с диагнозом было назначено лечение. Однако через несколько часов ребенок скончался, а вскрытие показало ошибочность поставленного диагноза [Hallevy, 2013]. ИИ непредсказуем в силу того, что его потенциальное поведение запрограммировано в цифровом коде, для которого не чужды сбои и внешнее воздействие (взлом). Поэтому ответственность за него пока по классическому методу возлагают на человека – создателя и владельца.

Большинство ученых склоняется к тому, что в ближайшее время ИИ будет восприниматься исключительно как объект права с позиции статьи 128 ГК РФ. Весьма вероятно, что его можно описать как источник повышенной опасности. Под источником повышенной опасности понимается любая деятельность, осуществление которой создает повышенную вероятность причинения вреда из-за невозможности полного контроля за ней со стороны человека, а также деятельность по использованию, транспортировке, хранению предметов, веществ и других объектов производственного, хозяйственного или иного назначения, обладающих такими же свойствами (пункт 18 Постановления Пленума Верховного суда России от 26.01.2010 № 1 «О применении судами гражданского законодательства, регулирующего отношения по обязательствам вследствие причинения вреда жизни или здоровью гражданина»). При этом отнесение объекта к источникам повышенной опасности находится в дискреции суда. Соответственно, за этим будут следовать предусмотренные законом правовые последствия. Таким образом, возможно, российское законодательство на данный момент уже предусматривает необходимое регулирование, которое предполагает, что ответственность за работу ИИ по общему правилу несет лицо, владеющее им. В противном случае оно должно доказать, что на момент причинения вреда источник повышенной опасности выбыл из его владения, а вина будет лежать на фактическом причинителе вреда.

Пользуясь уже сформированными гражданско-правовыми механизмами, можно возложить ответственность за вред, причиненный ИИ, на его создателя. Причиной могут служить существенные недостатки в товаре (системе ИИ). В силу статьи 1095 ГК РФ вред, причиненный жизни, здоровью или имуществу гражданина либо имуществу юридического лица вследствие конструктивных, рецептурных или иных недостатков технологии ИИ, а также вследствие недостоверной или недостаточной информации о нем, подлежит возмещению продавцом или изготовителем, независимо от их вины и от того, состоял потерпевший с ними в договорных отношениях или нет. Выбор ответственного лица остается за потерпевшим (п. 1 ст. 1096 ГК РФ, п. 35 Постановления Пленума Верховного суда РФ от 28.06.2012 № 17 «О рассмотрении судами гражданских дел по спорам о защите прав потребителей»).

Предлагаются следующие принципиальные подходы: производители ИИ несут ответственность только в случае целенаправленного его создания в целях совершения правонарушения. Само по себе создание ИИ, способного совершать негативные действия, не влечет за собой юридической ответственности его создателя (когда этими технологиями пользуются в оборонной сфере) [Лаптев, 2019, с. 95].

Что касается уголовной ответственности, в правоприменительной практике и в правовой доктрине практически консолидировалось мнение о применимости к общественно опасным деяниям с использованием ИИ норм 28 главы Уголовного кодекса РФ, предусматривающих уголовную ответственность за преступления в сфере компьютерной информации. Квалификация деяния по нормам, предусматривающим ответственность за совершение преступлений в сфере компьютерной информации, не исключает наступление ответственности за преступления против жизни и здоровья человека. Так, в случае неправомерного доступа с целью причинения вреда жизни или здоровью человека будет иметь место совокупность преступлений: преступление в сфере компьютерной безопасности и преступление против личности. При этом звучат идеи, что в недалеком будущем ИИ может быть наделен признаками субъекта правоотношений. Следовательно, он самостоятельно (но в обязательной взаимосвязи со своим материальным носителем) сможет нести юридическую ответственность за совершенные действия.

Если размышлять над оптимальными видами ответственности для «робота», то неизбежен вопрос о том, какое наказание будет эффективным. Вся правовая система исторически ориентирована на человека как на субъекта, актора, причину и результат всех правовых процессов. Поэтому юридическая ответственность для него должна нести цель исправления, профилактики, а также неблагоприятные последствия, которые возможно ощутить на себе.

Согласно такой логике, что может быть эффективным для робота? Исправления можно добиться путем корректировки настроек, но это скорее нормальная практика повышения качества ИИ. Высказывается идея о том, что самое суровое наказание для робота – отключение. Но так как у ИИ нет эмоций, совести, чувств, то за отключением, изменением настроек, дополнительными работами или даже лишением свободы не будет стоять никакого смысла.

В медицинской сфере можно обнаружить другие подходы. Возложение ответственности будет зависеть от того, какой объем контроля за ИИ имеет врач и кто принимает окончательное решение в процессе лечения пациента. С одной стороны, можно вспомнить про автономные системы, которые самостоятельно принимают решение по курсу лечения, и тогда не вполне разумно привлекать к ответственности за ошибку врача. С другой стороны, большинство внедренных в медицину систем ИИ выполняют функции ассистента врача, основная масса решений приходится именно на медицинского работника. Если определяющим в тактике лечения будет мнение врача, не возникает вопроса по поводу распределения ответственности – она будет на враче.

В американской доктрине сформулирована концепция, согласно которой необходима разработка специальной теории уголовной ответственности за действия ИИ и роботов. Такая концепция охватывала бы производителя, программиста, пользователя и других вовлеченных лиц [Hallevy, 2013].

В Российской Федерации исследователи склонны согласиться с мнением, что в настоящее время в рамках отечественного уголовного законодательства наделение ИИ набором прав и обязанностей и, как следствие, признание его субъектом права невозможно. В соответствии со статьей 19 УК РФ уголовной ответственности подлежит только физическое лицо – человек [Хисамова, Бегишев, 2019].

Комиссия по гражданско-правовому регулированию в сфере робототехники Европейского парламента выдвинула Еврокомиссии предложение законодательно установить правосубъектность «электронных лиц» для роботов с искусственным интеллектом. В опубликованном 31 мая 2016 г. проекте доклада, разработанного при содействии Комитета Европейского парламента по правовым вопросам, указывается на необходимость определения особого правового статуса роботов, чтобы по крайней мере самые высокотехнологичные автономные роботы смогли получить статус электронного лица с конкретными правами и обязанностями. Применять этот статус следует в тех случаях, когда роботы принимают самостоятельные решения или каким-либо иным образом взаимодействуют самостоятельно с третьими лицами [Draft Report with Recommendations…, 2017].

В случае принятия решения о наделении ИИ признаками правосубъектности правильным будет разработать новый понятийный аппарат в законодательстве, регулирующем ИИ. Для этой цели в России ученые уже трудятся над созданием так называемого Цифрового кодекса. Заслуживают внимание предложения В. В. Архипова и В. Б. Наумова дополнить ГК РФ понятием «робот» – устройство, способное действовать, определять свои действия и оценивать их последствия на основе информации, поступающей из внешней среды, без полного контроля со стороны человека [Архипов, Наумов, 2017].

Можно допустить, что уже в ближайшей перспективе развитие цифровых технологий потребует от законодателя кардинального пересмотра устоявшихся веками правовых институтов с целью их адаптации к стремительно меняющейся реальности. При этом следует отметить, что, если когда-нибудь ИИ будет признан субъектом права с наделением его правами, обязанностями и способностью нести уголовную ответственность, это ни в коей мере не должно означать наличия иммунитета у разработчика, владельца или пользователя: данные лица также будут нести уголовную ответственность в случае установления всех признаков состава преступления.

В настоящее время актуальными остаются вопросы оформления и учета исключительных прав на результаты интеллектуальной деятельности, полученные с использованием ИИ без творческого участия человека; о субъекте ответственности в том случае, когда система ИИ создала контент, нарушающий интеллектуальные права третьих лиц.

Очевидна необходимость внесения изменений в Гражданский кодекс Российской Федерации в части определения понятия «результаты интеллектуальной деятельности», признания результатов, полученных ИИ, охраноспособными. При этом нецелесообразно указывать ИИ в качестве автора, правообладателя таких результатов. Основной функцией исключительного права является стимулирование субъектов к созданию новых результатов интеллектуальной деятельности, вложению средств в их коммерциализацию. Исключительные права не будут оказывать подобного воздействия на ИИ. Важно определить подходы к определению личных имущественных и неимущественных прав. Авторами либо соавторами результата интеллектуальной деятельности могут быть признаны следующие физические лица: разработчик алгоритма ИИ; субъект, который предоставил алгоритму данные, необходимые для его обучения и решения поставленных задач; лицо, которое контролирует конкретную систему ИИ, когда она создает результат интеллектуальной деятельности. Исключительные права целесообразно предоставить лицу, которое организовало создание результата интеллектуальной деятельности, например правомерному пользователю алгоритма ИИ, поставившему конкретную задачу, выполнение которой привело к созданию результата интеллектуальной деятельности.

Важным вопросом является определение субъекта ответственности при нарушении в ходе применения ИИ интеллектуальных прав третьих лиц. Им также может быть признан пользователь системы ИИ.

Необходимо пересматривать границы авторских и смежных прав. Одним из перспективных направлений является интеллектуальный анализ текстов с целью получения информации из документов на основе применения методов машинного обучения и обработки естественного языка. Интеллектуальный анализ данных позволяет выявить скрытые закономерности и взаимосвязи в больших массивах необработанных данных. С его помощью могут решаться задачи классификации, моделирования, прогнозирования, обнаружения неожиданных закономерностей, получения новых знаний. Есть случаи медицинских открытий, когда ставилась задача применить существующие лекарства по новому назначению, а в результате обнаруживались ранее неизвестные связи между белками, генами, заболеваниями и т. д. [Hellwig, 2013]. Возможно, в целях развития цифровой среды в РФ стоит рассмотреть вопрос об изъятии из исключительного права подобных случаев воспроизведения и извлечения законно доступных объектов с целью интеллектуального анализа текста и данных.

Стоит отметить еще один немаловажный аспект внедрения ИИ в систему здравоохранения, который заключается в необходимости дополнительного обучения работе с системами ИИ медицинских работников. П. М. Морхат, ссылаясь на пояснительную записку секретариата Комиссии ООН по праву международной торговли об использовании электронных средств связи в международных соглашениях, согласно которой лицо (как физическое, так и юридическое), от имени которого компьютер был запрограммирован, должно нести ответственность за любое сообщение, сгенерированное машиной, высказывает справедливое опасение, указывая, что для производителей следить за всеми пользователями и при необходимости вмешиваться может оказаться неосуществимым или чрезмерно затратным, в связи с чем важно, чтобы пользователи технологий ИИ сами были заинтересованы в соблюдении мер предосторожности и в обучении. Министерством труда и социальной защиты был издан приказ от 4 августа 2017 г. № 610н «Об утверждении профессионального стандарта „Врач-кибернетик“»[22]. Согласно приказу в трудовые действия врача-кибернетика входит:

– создание и представление доступной, современной, динамически изменяющейся системы связанных знаний на основе методов инженерии, разработка онтологии предметных областей знаний в биологии и медицине;

– разработка основы для информационной поддержки управления знаниями в биологии и медицине; методик оценки знаний на основе компетентностного подхода и онтологической структуры предметных областей медицины; средств и методик конструирования проектно-исследовательских моделей знаний;

– разработка интеллектуальных систем поддержки принятия врачебных решений.

В настоящее время внедренные в медицину технологии ИИ могут выполнять только отдельные функции врача, но не могут полностью заменить его в рабочем процессе. Как указывают некоторые исследователи, в будущем предполагается, что медицинские работники смогут сосредоточить свое внимание исключительно на выполнении задач, требующих уникальных человеческих навыков (эмпатия, способность к интеграции), а всю остальную работу можно будет поручить автоматизированным системам с использованием ИИ, чтобы снизить нагрузку на медицинский персонал без потери качества оказания медицинской услуги [Kalakota R., Davenport, 2019, р. 97].

Трудовой кодекс РФ не содержит норм, прямо связанных с регулированием труда с использованием ИИ, однако уже имеющиеся нормы предусматривают некоторые трудовые гарантии. Например, статья 74 ТК РФ «Изменение определенных сторонами условий трудового договора по причинам, связанным с изменением организационных или технологических условий труда» предусматривает гарантии в случае внедрения в трудовой процесс носителей ИИ. Так, даже если условия трудового договора будут изменены по инициативе работодателя, трудовая функция работника должна быть сохранена.

После Всемирного экономического форума в 2016 г. вышел доклад «Будущее профессий», а в продолжение к нему в 2019 г. – «Профессии будущего». В докладе приводится аналитическая информация о том, в каких областях экономики ожидается широкое внедрение ИИ до 2025 г.: аналитика больших данных (big data) (85 %); мобильные и веб-приложения (75 %); интернет вещей (75 %); машинное обучение (73 %); облачные технологии (72 %); к числу перспективных технологий респонденты отнесли дополненную и виртуальную реальность (58 %), блокчейн (45 %), 3D-печать (41 %) и беспилотный транспорт (40 %). Соответственно, должен значительно возрасти спрос на специалистов по ИИ.

Согласно докладу, с одной стороны, в бизнесе ожидается сокращение рабочих мест на 0,98 млн человек, а с другой – повышение спроса на новые повышающие производительность профессии (на 1,74 млн человек). Если опираться на данные показатели, можно надеяться на то, что повсеместное внедрение ИИ не только не лишит рабочих мест, но и создаст новые[23]. Глобальная кампания в России в 2021–2022 гг. по отбору кандидатов на бесплатное обучение цифровым профессиям (на портале «Госуслуги») вполне соответствовала поставленной задаче.

В условиях кадрового дефицита в здравоохранении РФ проблема вытеснения ИИ из сферы оказания медицинских услуг врача или медицинской сестры не является актуальной.

Таким образом, в последние годы учеными обозначены основные актуальные проблемы регулирования ИИ, намечены возможные решения.

Вектор развития правового регулирования в сфере ИИ в РФ определен Указом Президента РФ от 01.12.2016 № 642 «О Стратегии научно-технологического развития Российской Федерации», распоряжениями Правительства РФ от 23.03.2018 № 482-р и от 28.07.2017 № 1632-р, Указом Президента РФ от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации», Федеральным законом от 24.04.2020 № 123-ФЗ «О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации – городе федерального значения Москве и внесении изменений в статьи 6 и 10 Федерального закона „О персональных данных“».

Важным документом стала Концепция развития регулирования отношений в сфере технологий ИИ и робототехники до 2024 г., утвержденная в 2020 г. В Концепции обозначены следующие основные проблемные направления регулирования в современных условиях [Распоряжение…, 2020]:

– соблюдение баланса между требованиями по защите персональных данных и необходимостью использования персональных данных для обучения систем ИИ;

– определение предмета и границ регулирования сферы использования систем ИИ и робототехники;

– идентификация системы ИИ при взаимодействии с человеком, включая информирование о взаимодействии с такой системой;

– правовое «делегирование» решений системам ИИ и робототехнике;

– ответственность за причинение вреда с использованием систем ИИ и робототехники;

– правовой режим результатов интеллектуальной деятельности, созданных с использованием систем ИИ;

– использование для принятия решений системами ИИ вероятностных оценок и невозможность в ряде случаев полного объяснения принятого ими решения (проблема алгоритмической прозрачности систем ИИ).

Ключевыми барьерами существующего регулирования, препятствующими широкому использованию технологий ИИ, являются:

– проблема распределения ответственности за вред здоровью пациента, наступивший в результате применения технологий ИИ в процессе оказания медицинской помощи, вследствие отсутствия законодательно установленного перечня случаев, при которых допускается полное или частичное принятие решений с применением систем ИИ;

– неопределенность в вопросах отнесения систем ИИ (включая приложения, чат-боты и др.) к МИ, подлежащим государственной регистрации;

– отсутствие специального порядка регистрации систем ИИ и медицинских роботов, учитывающего их специфику, а также долгие сроки прохождения соответствующих процедур, которые не позволяют быстро выводить на рынок новые решения, оперативно вносить изменения в системы и пользовательскую документацию в связи с необходимостью регулярных обновлений программного обеспечения;

– низкая доступность медицинских данных в целом и качественных размеченных данных в особенности для использования разработчиками систем ИИ в связи с отсутствием достаточных правовых оснований для предоставления права использования обезличенных медицинских данных третьим лицам, регламентов передачи медицинских данных от медицинских организаций компаниям – разработчикам систем ИИ.

В условиях фактически правового вакуума участники сферы ИИ активно прибегают к саморегулированию, формируя так называемое мягкое право (кодекс поведения и стандарты), что не снимает необходимости государственного регулирования названной сферы отношений для минимизации рисков, вызываемых часто бесконтрольным развитием ИИ [Шахназаров, 2020, с. 79].

Очевидно, что с учетом экономической и социальной значимости применения технологий ИИ и робототехники регуляторные меры не должны ограничивать их разработку и эксплуатацию, за исключением случаев, связанных с высоким риском причинения вреда жизни и здоровью граждан. Приоритетной целью регулирования отношений в сфере ИИ и робототехники на данном этапе их развития является стимулирование разработки, внедрения и использования таких технологий, создания ИИ и робототехники в доверенном и безопасном исполнении. Особенно актуальным становится развитие саморегулирования участниками рынка технологий ИИ.

В настоящее время в Российской Федерации выделены 13 общеотраслевых задач регулирования применения технологий ИИ [Распоряжение…, 2020]. В качестве наиболее значимых из них можно отметить следующие семь:

– разработка и уточнение терминов в сфере ИИ;

– создание специальных механизмов тестирования и внедрения систем ИИ (экспериментальные правовые режимы («регуляторные песочницы») и др.);

– доработка механизмов гражданско-правовой, уголовной и административной ответственности в случае причинения вреда системами ИИ, в том числе с точки зрения определения лиц, которые будут нести ответственность за их действия, формирования механизмов безвиновной гражданско-правовой ответственности, а также возможности использования способов, позволяющих возместить причиненный вред (страхование ответственности и др.);

– совершенствование режима оборота данных (обеспечение условий для безопасного и ответственного доступа разработчиков систем ИИ к данным, возможности обмена различными типами данных, включая данные, собираемые государственными органами и медицинскими организациями);

– уточнение требований к обеспечению безопасности при внедрении и применении систем ИИ;

– создание нормативных условий для применения систем ИИ при принятии юридически значимых решений;

– совершенствование порядка охраны прав на результаты интеллектуальной деятельности (потенциальная «неохраноспособность» результатов деятельности, полученных с использованием систем ИИ без творческого вклада человека, может дестимулировать разработку и внедрение таких систем).

К практическим барьерам на пути внедрения ИИ в здравоохранение можно отнести зачастую низкое качество входных медицинских данных (неструктурированные, неполные, невалидированные и т. д.). Кроме того, персональные данные нельзя передавать, а при обезличивании теряется связь с другими медицинскими учреждениями. Не решены вопросы с оплатой технологий ИИ в системе обязательного медицинского страхования, а также дефицита компетенций у работников медицинских организаций.

Актуальным для Российской Федерации является совершенствование наднационального правового регулирования применения инновационных цифровых технологий, в том числе ИИ в рамках Евразийского экономического союза. В настоящее время активно изучается положительный опыт стран – участниц ЕАЭС, разрабатываются проекты нормативных актов, например Конвенции совершенствования наднационального правового регулирования в ЕАЭС в сфере здравоохранения в условиях развития инновационных цифровых технологий [Акулин и др., 2022].

Важным аспектом внедрения систем ИИ в отечественное здравоохранение, наряду с развитием нормативно-технического регулирования, является необходимость соблюдения этических норм. Стремительное распространение ИИ, в том числе в сфере медицины, стало катализатором активной дискуссии в области развития этики в условиях масштабной цифровизации, формирования новой цифровой реальности. В современных условиях необходимо осмысление роли и места этики в глобальном научно-техническом прогрессе, прикладного значения этических концепций. Крайне важно осваивать новые технологии ИИ в соответствии с морально-нравственными и этическими ожиданиями общества, что обеспечит доверие к ним в самом широком понимании.

Согласно Модельной конвенции о робототехнике и искусственном интеллекте, «разумные роботы не должны причинять вред человеку и человечеству, а также допускать, чтобы их бездействием был причинен вред, если только причинение вреда не является вынужденным и оправданным, способствующим предотвращению еще большего вреда. При этом понятие вреда определяется исходя из той информации, которая имеется в распоряжении разумного робота» [Блажеев, 2020]. Анализ данного положения показывает, что робот будет выбирать вариант решения проблемы в сложной непредвиденной ситуации, исходя из имеющихся у него шаблонов, которые, в свою очередь, заложили создавшие его люди. Поэтому выработка этических правил является крайне актуальным направлением. Этические принципы и их соблюдение (этичное поведение) базируются на таких общепринятых ценностях, как честность, справедливость, добросовестность. В настоящее время основными направлениями развития этики ИИ считаются [Абрамова и др., 2021]:

– социокультурные, гуманитарные и цивилизационные аспекты, определение смыслов и целей человека в условиях стремительного развития машин (риски потери автономности человека, когнитивной деградации, поиск и моделирование социальных моделей для гармоничного развития человека, сохранения планеты с учетом имеющихся возможностей и угроз);

– выработка и обоснование этических критериев, которым должна соответствовать система ИИ, при этом ключевое значение приобретает этика человека (разработчика или другого актора, участвующего в жизненном цикле системы ИИ), включение этих критериев в стандарты, системы сертификации и другие механизмы регулирования;

– технические задачи ответственной разработки и проектирования систем ИИ (например, методики их тестирования на предмет соответствия (несоответствия) этическим ожиданиям);

– создание этических подходов, методик в области развития гибридного интеллекта (в последние годы развиваются концепции социально-гуманитарного ИИ, создания гибридной реальности и др.).

Все указанные направления требуют всестороннего комплексного рассмотрения междисциплинарными командами.

Актуальность разработки этических правил взаимодействия человека с ИИ отмечается в Национальной стратегии развития искусственного интеллекта на период до 2030 года [Указ…, 2019].

Важной вехой в определении этических принципов развития ИИ стала разработка Кодекса этики в сфере искусственного интеллекта (прил. 3). Кодекс опубликован в октябре 2021 г.[24] Это единая система рекомендательных принципов и правил, предназначенных для создания среды доверенного развития технологий ИИ в России, которые распространяются только на гражданские разработки. Документ создан ведущими отечественными технологическим компаниями, входящими в Альянс в сфере искусственного интеллекта, с учетом мировых тенденций. Он адресован государству, представителям науки, бизнесу, а также всем, кто создает, внедряет или использует технологии ИИ, является инструментом взаимодействия всех заинтересованных сторон в формате саморегулирования. В разработке Кодекса участвовали все перечисленные ключевые участники. Присоединение осуществляется онлайн, на добровольной основе, общедоступно.

Содержание Кодекса базируется на шести принципах, положенных в основу детальных рекомендаций:

1. Главный приоритет развития технологий ИИ – защита интересов людей, отдельных групп, каждого человека.

2. Необходимо осознание ответственности при создании и использовании ИИ.

3. Ответственность за последствия применения ИИ всегда лежит на человеке.

4. Технологии ИИ внедряются там, где это принесет пользу людям.

5. Интересы развития технологий ИИ выше интересов конкуренции.

6. Важны максимальная прозрачность и правдивость в информировании об уровне развития технологий ИИ, их возможностях и рисках.

В документе создана общая база понимания этической ответственности акторов ИИ перед пользователями и обществом, включающая системные, долгосрочные и другие значимые результаты широкого внедрения алгоритмов ИИ. В процессе дальнейшего совершенствования Кодекса важно по мере развития научно-технического прогресса находить баланс между общими (универсальными) и отраслевыми (секторальными) специализированными этическими нормами и положениями. Медицина является одной из приоритетных областей развития этических принципов применения ИИ.

Несмотря на то что этические принципы универсальны, носят общечеловеческий характер, нужно отметить особенности, связанные с различными культурными, религиозными и другими факторами в отдельных странах. Актуальной проблемой является гармонизация этических аспектов развития ИИ на международном уровне. Таким образом, технологии ИИ на основе базовых этических норм на всех этапах жизненного цикла должны предусматривать:

– приоритет благополучия и безопасности человека, защиты его основополагающих прав и свобод (цель обеспечения благополучия и безопасности человека должна преобладать над иными целями разработки);

– запрет на причинение вреда человеку по инициативе систем ИИ (необходимо ограничивать разработку, оборот и применение систем ИИ, способных по своей инициативе целенаправленно причинять вред человеку);

– подконтрольность человеку (в той мере, в которой это возможно с учетом требуемой степени автономности систем ИИ и иных обстоятельств);

– проектируемое соответствие закону, в том числе требованиям безопасности (применение систем ИИ не должно заведомо для разработчика приводить к нарушению правовых норм);

– недопущение противоправной манипуляции поведением человека.