Машинное обучение, основная технология ИИ на сегодняшний день, характеризуется рядом особенностей. Во-первых, для поиска вычислительной системой непредвзятого решения требуется ввести репрезентативный, релевантный и корректно размеченный набор данных. Во-вторых, алгоритмы работы нейронных сетей крайне сложны для интерпретации и, следовательно, результаты их работы могут быть подвергнуты сомнению и отменены человеком. Отсутствие понимания того, как ИИ достигает результатов, является одной из причин низкого уровня доверия к современным технологиям ИИ [Указ…, 2019], что является препятствием для развития ИИ.

Технологические решения, разработанные с использованием методов машинного обучения, являются примером ИИ, способного решать только узкоспециализированные задачи (это слабый ИИ). Создание универсального (сильного) ИИ, способного, подобно человеку, решать различные задачи, мыслить, взаимодействовать и адаптироваться к изменяющимся условиям, является сложной научно-технической проблемой на пересечении различных сфер научного знания – естественно-научной, технической и социально-гуманитарной.

В то же время ИИ развивается стремительно, качественный рывок в процессе его эволюционирования может произойти в обозримом будущем. Например, в настоящее время разработку лекарственных препаратов контролирует человек или ИИ под руководством человека. Но в ближайшие десятилетия по мере совершенствования технологий системы ИИ смогут самостоятельно синтезировать новые препараты, анализируя большие данные из различных источников, тестировать их без участия животных или людей на компьютерных моделях организма, отдельных систем и органов, опухолей, с использованием генетических и других параметров.

Создание сильного ИИ может привести не только к позитивным изменениям в ключевых сферах жизнедеятельности, но и к негативным последствиям, вызванным социальными и технологическими факторами, которые сопутствуют развитию технологий ИИ.

Несмотря на то что в медицине системы ИИ вряд ли когда-либо достигнут полной автономии, постепенное вытеснение заключения врача-специалиста мнением системы ИИ, безусловно, вызывает ряд опасений и вопросов. В некоторых случаях автоматизация рутинных, обыденных функций, таких как запись информации, может перераспределить человеческие ресурсы поставщика медицинских услуг для более важных и ответственных задач. Однако переход к применению технологий ИИ в более сложных областях медицинской помощи сопряжен с рядом проблем. Одной из них является вероятное появление разногласий между двумя компетентными экспертами – компьютером с ИИ и врачом-специалистом.

В таких ситуациях нет средств для объединения решений или дискуссий, поскольку нельзя получить доступ к алгоритму ИИ или заставить его передумать. Также нет четких правил для определения того, кто прав. Если пациенту остается доверять либо технологии, либо врачу, решение может зависеть от факторов, не имеющих основы в «экспертизе» машины или врача. Выбор одного из двух приводит к нежелательному результату. Если врач игнорирует машину, ИИ мало что дает. Если врач принимает решение машины, это может подорвать авторитет специалиста и ослабить ответственность. Проблема взаимодействия человека и компьютера решается путем проверки систем ИИ, обеспечения надлежащего обучения пользователей. Однако врачам может быть этически сложно полагаться на суждения ИИ, поскольку в этом случае приходится принимать решения, основанные на алгоритмах «черного ящика», то есть, например, системы глубокого обучения, которая делает выводы и принимает решения, непонятные даже ее разработчикам [Pasquale, 2015].

На фоне совершенствования алгоритмов глубокого обучения появляются все новые научные исследования о путях решения проблем функционирования систем ИИ, которые могут влиять и, возможно, уже сегодня влияют на качество и безопасность медицинской деятельности. Так, в ноябре 2022 г. учеными Калифорнийского университета проанализированы механизмы «катастрофического забывания», амнезии искусственных нейронных сетей, которые выражаются в полном «забывании», фактически стирании («перезаписи» новыми данными) ранее полученных знаний при изучении новых задач [Golden et al., 2022]. В проведенном исследовании спайковую нейронную сеть можно было обучить сложной задаче поиска пищи, но она демонстрировала «катастрофическое забывание» при последовательном обучении различным задачам, могла неожиданно полностью забыть то, чему уже научилась ранее. Чередование обучения новым задачам с периодами реактивации в автономном режиме, то есть имитация биологического сна, позволило решить эту проблему. После прохождения фаз «сна» спайковая сеть смогла выполнить как новую, так и старую задачи.

Повышение роли систем ИИ может существенно повлиять на отношения медицинских работников и пациентов, медицинских работников между собой, медицинских организаций и органов управления с производителями систем ИИ и в целом на функционирование системы здравоохранения. Таким образом, актуальными вопросами являются определение уровня автономии систем ИИ и контроль за его поддержанием.

Повышение степени автономности систем ИИ, снижение контроля человека за процессом их применения, не полностью прозрачный процесс принятия решений создают общественный запрос на регуляторные ограничения применения ИИ.

В настоящее время в мире отсутствуют единые подходы к регулированию технологий ИИ, что во многом связано с наличием ряда проблем, не имеющих однозначного решения. Например, нерешенным остается вопрос оформления и учета исключительных прав на результаты интеллектуальной деятельности, полученные с использованием ИИ. В 2020 г. в Китае суд обязал организацию, скопировавшую и разместившую с указанием на отсутствие автора текст статьи, написанной ИИ, удалить текст и выплатить компенсацию владельцу ИИ как правообладателю. В судебном решении указано, что сгенерированный ИИ контент отвечает критериям литературного произведения, обладает признаками осознанного подбора информации, анализа, логики и оригинальности [Polydor et al., 2020]. В то же время Европейское патентное ведомство при рассмотрении патентной заявки указало, что ИИ не может быть автором изобретения.

Очевидно, что для развития технологий ИИ и робототехники необходимо стремиться к достижению баланса интересов человека, общества, государства, бизнеса, а также потребителей. Однако представления об этом балансе существенно разнятся.

Эксперты, привлеченные ВОЗ, провели большую работу по анализу практического использования ИИ, имеющейся нормативной базы, глобальных проблемных аспектов, связанных с нарастающими объемами разработки и внедрения ИИ в систему здравоохранения, в том числе с учетом многообразия условий здравоохранения и уровня жизни в разных странах. Результатом стало издание в 2021 г. руководства ВОЗ «Этика и управление ИИ в сфере здравоохранения» [Ethics and governance of artificial intelligence for health: WHO guidance, 2021]. В руководстве отмечается огромный потенциал ИИ, при этом поднимается целый ряд острых текущих вопросов в связи с его развитием, а также обсуждаются возможные проблемы, которые могут появиться в перспективе.

Первоочередной задачей является проведение в каждом случае оценки необходимости внедрения той или иной технологии ИИ.

Во-первых, сама технология ИИ может не соответствовать стандартам научной обоснованности и точности, которые в настоящее время применяются к медицинским технологиям. Например, цифровые технологии, разработанные на ранних стадиях пандемии COVID-19, не обязательно соответствовали какому-либо объективному стандарту эффективности, оправдывавшему их использование. Технологии ИИ были внедрены в рамках ответных мер на пандемию без достаточных доказательств, таких как результаты рандомизированных клинических исследований или гарантий. Чрезвычайная ситуация не оправдывает применение непроверенных технологий. Усилия по обеспечению того, чтобы ресурсы выделялись там, где они были наиболее остро необходимы, должны были повысить бдительность как компаний, так и государственных органов в сфере здравоохранения, чтобы гарантировать, что технологии были точными и эффективными.

Во-вторых, преимущества ИИ могут быть переоценены, когда делаются ошибочные или чрезмерно оптимистичные предположения об инфраструктуре и институциональном контексте, в котором будут использоваться технологии, и где внутренние требования к использованию технологии ИИ не могут быть выполнены. В некоторых странах с низким уровнем дохода финансовые ресурсы и инфраструктура информационно-коммуникационных технологий отстают от инфраструктуры развитых стран. Качество и доступность данных могут быть недостаточными для использования ИИ, особенно в развивающихся странах. Существует опасность того, что для обучения ИИ будут собираться неполные, некачественные данные (из-за языковых барьеров, нехватки медицинских работников на местах и т. д.), что может привести к созданию моделей, которые предсказывают ошибочные выводы вместо реальных клинических результатов. При этом регулирующие органы в развивающихся странах могут не обладать потенциалом или опытом для оценки технологий искусственного интеллекта, чтобы гарантировать, что систематические ошибки не влияют на диагностику и лечение.

В-третьих, могут быть этические ограничения для практического использования технологии ИИ, даже если она предоставляет точную, полезную информацию. Технология, которая может предсказать, у каких людей может развиться диабет 2-го типа или ВИЧ-инфекция, может принести пользу человеку или группе людей, находящимся в группе риска, но также может привести к ненужной стигматизации отдельных лиц или групп, выбор моделей поведения которых ставится под сомнение или даже криминализируется. Это приводит к чрезмерной «охране здоровья» в остальном здоровых людей, создает ненужный стресс и подвергает их агрессивному маркетингу со стороны фармацевтических компаний и других коммерческих медицинских служб. Кроме того, некоторые технологии ИИ, если их не применять должным образом, могут усугубить диспропорции в здравоохранении, в том числе связанные с этнической принадлежностью, социально-экономическим статусом или полом.

В-четвертых, как и для всех новых технологий здравоохранения, преимущества технологий ИИ могут быть не оправданы дополнительными расходами (помимо инфраструктуры информационно-коммуникационных технологий), связанными с необходимыми закупками, обучением и инвестициями. Например, роботизированная хирургия может дать лучшие результаты, но необходимо также учитывать альтернативные издержки, связанные с инвестициями.

В-пятых, может не уделяться достаточного внимания тому, адаптирована ли технология ИИ к контексту развивающейся страны или к коммуникации между странами. Отсутствие инвестиций, например, в перевод может означать, что определенные приложения работают некорректно или просто не могут быть использованы населением. Большинство технологий ИИ разрабатываются группами населения с высоким уровнем дохода, и для них часто свойственно недостаточное понимание характеристик целевых групп населения в развивающихся странах.

Использование ИИ в условиях нехватки ресурсов должно быть расширено с осторожностью, чтобы избежать таких ситуаций, в которых большое число людей получает точные диагнозы состояния здоровья, но не имеет доступа к надлежащему лечению. Медицинские работники обязаны проводить лечение после тестирования и подтверждения заболевания, и относительно низкая стоимость, при которой может быть применена диагностика ИИ, должна сопровождаться тщательным планированием, чтобы гарантировать, что люди не останутся без лечения.

Несмотря на ценность рекомендаций по необходимости оценки, изложенных в руководстве ВОЗ «Этика и управление ИИ в сфере здравоохранения», необходимо отметить, что они носят рамочный характер и формулируют вопросы, на которые организаторам здравоохранения различных уровней целесообразно ответить прежде, чем внедрять конкретную технологию ИИ. Вместе с тем актуальным является вопрос разработки системных подходов к экономической оценке применения ИИ в здравоохранении, особенно в долгосрочном периоде, когда, в том числе из-за развития ИИ, произойдет переход от закрытой системы здравоохранения, состоящей из взаимоотношений пациентов и врачей, к открытой, когда многие пространственные и временны́е барьеры преодолены. Непрерывный рост глобальных затрат на здравоохранение усиливает важность решения вопроса.

Существующие экономические оценки в этой области в достаточной мере условны, что определено рядом причин [Лукичев, Чекмарев, 2022]:

1. Фактическая оценка затрат использования ИИ в экономике здравоохранения происходит по затратам поставщика, в то время как правильнее оценивать их с точки зрения общества как совокупность затрат, понесенных пациентами, правительством, поставщиками медицинских услуг, а также расходов, понесенных в результате вмешательства. Однако проведение такой оценки на практике затруднено. Еще более непростой проблемой является точная оценка выгод, получаемых от использования ИИ в медицине.

2. Сложность вычленения затрат на ИИ среди всех затрат здравоохранения. ИИ использует программное обеспечение вместе с другими медицинскими устройствами (томографами, микроскопами и др.), поэтому основные первоначальные затраты будут связаны с медицинским оборудованием. В таких случаях стоимость программного МИ с технологиями ИИ может быть учтена только косвенным образом, тогда, когда она соотносится с человеческими экспертами в интерпретации изображений, поскольку для обеих модальностей используется одно и то же оборудование. Еще сложнее выделить выгоды, получаемые от использования ИИ в медицине (где заканчивается эффект от оборудования, в котором используется ИИ, и начинается эффект от собственно ИИ). Сопоставление с человеческими экспертами – шаг в верном направлении, но эксперты бывают разного уровня. Следовательно, экономическая оценка применения ИИ в данном случае будет приблизительной.

3. Наиболее полный метод экономической оценки применения ИИ в здравоохранении в зависимости от результатов – метод анализа затрат и выгод – редко применялся в контексте здравоохранения, поскольку присвоение денежных значений клиническим результатам затруднено. Более широкое использование ИИ в медицине потребует в дальнейшем стандартизованного подхода к экономической оценке.

Особую актуальность оценка необходимости внедрения конкретной технологии ИИ приобретает в случае, если речь идет о программном обеспечении, являющемся МИ с применением технологий ИИ. Такие системы ИИ, являясь компонентом оказания медицинской помощи, влияя на клинические решения, могут существенно влиять на уровень качества и безопасности медицинской деятельности и эффективность системы здравоохранения в целом.

В настоящее время отсутствуют общепризнанные подходы к сравнительному анализу для оценки данных, полученных в результате использования программных МИ с технологиями ИИ. Доказательства должны охватывать весь жизненный цикл таких МИ. Эксперты ВОЗ в 2021 г. обобщили имеющийся опыт обучения, проверки и оценки МИ с технологиями ИИ, проанализировали проблемы их широкого внедрения в системы здравоохранения и пути совместного решения данных проблем медицинскими организациями, разработчиками и органами управления здравоохранением [Generating evidence for artificial intelligence-based…, 2021].

В опубликованном руководстве отмечается отсутствие нормативно-правовой базы для широкого внедрения таких устройств в системы здравоохранения, предлагаются подходы к сбору доказательств, разработке, проверке, составлению отчетности.

Главной проблемой на сегодняшний день является практическое отсутствие клинических рандомизированных контролируемых испытаний программных МИ с технологиями ИИ и низкий уровень предоставления доказательств в случае их проведения [Liu et al., 2019]. В связи с этим перед разработкой и (или) внедрением существующей системы ИИ необходимо учитывать особенности страны, уровень развития, состояние инфраструктуры, организацию системы здравоохранения, возможности и риски, связанные с внедрением ИИ для решения конкретной задачи, перспективы интеграции в существующую систему, масштабирование. Для принятия решений необходимо провести анализ предложений разработчиков, оценить технологии ИИ, начав с вопросов, касающихся удобства и эффективности МИ:

1. Пригодно ли МИ для использования целевыми конечными пользователями, соответствует ли оно их рабочему процессу?

2. Каковы требования конечного пользователя?

3. Существуют ли препятствия для возможности научиться использовать МИ по назначению?

4. Имеется ли система вводного обучения?

5. Предусмотрено ли периодическое обучение пользователей по мере использования, появления различных версий МИ?

6. Каков процент ошибок при использовании системы ИИ?

7. Повлияло ли внедрение технологии в систему здравоохранения на процессы и (или) показатели, результаты (например, производительность врача-специалиста)?

8. Является ли МИ рентабельным?

Если система ИИ одобрена регулятором какой-либо страны (экономического союза), это означает, что она прошла процедуру клинической оценки (клинического испытания), включающую, как правило, аналитическую и клиническую валидацию, а также установление клинической связи. В настоящее время в мире отсутствуют единые подходы к клинической оценке, нарабатываются практические методы ее проведения. Определение основной цели внедрения системы ИИ (результата, представляющего наибольший интерес) помогает решить, какой тип клинической оценки требуется. Например, является ли первостепенным то, что ИИ превосходит человека в решении конкретной задачи (ожидается повышение эффективности ее выполнения), или ожидается более ориентированный на пациента результат (на выживание пациента).

Предполагаемое использование (назначением) системы ИИ должно быть тщательно продумано, важно максимально конкретно сформулировать, когда, где и как ее следует применять. Это позволит оценивать полученные доказательства эффективности и безопасности в правильном контексте.

В эксплуатационной документации изготовителя необходимо подробное описание системы, ответить на следующие вопросы:

– Что именно делает система ИИ?

– Каков принцип работы программного обеспечения?

– Каков уровень участия системы в принятии врачебных решений (замена, дополнение, оценка)?

– Каковы предполагаемые медицинские показания?

– Какова предполагаемая модель пациента?

– С какой частью тела (органом, системой, тканью и т. д.) будет осуществляться взаимодействие?

– Каков профиль предполагаемого пользователя (пользователей)?

– Какова предполагаемая рабочая среда?

– Каковы могут быть возможные неблагоприятные последствия использования системы? Пути минимизации рисков и последствий.

– Какие возможны уровни и типы модификаций системы ИИ в процессе использования?

Путь сбора доказательств начинается на этапе обучения алгоритма на основе набора данных. Неполное представление данных, их низкое качество остается в настоящее время одним из препятствий для оценки воздействия системы ИИ на здравоохранение. Предвзятость и другие дефекты систем ИИ могут возникнуть из-за того, что устройство было обучено на наборах данных, которые отличаются от данных целевых групп пациентов, для которых предполагается использовать данную систему ИИ. Управление наборами данных должно включать «невидимые», то есть защищенные от разработчиков, исследователей, тестовые наборы входных данных вне выборки.

Важным этапом является внешняя проверка системы ИИ. В настоящее время публикуется все больше исследований, документирующих внешнюю проверку систем ИИ. Так, в Швеции в 2020 г. проведена оценка эффективности трех доступных на рынке систем поддержки принятия врачебных решений на основе ИИ при оценке результатов скрининговой маммографии. Оценивалось соответствие заключений систем ИИ заключениям врачей-рентгенологов и окончательному результату на экспертном уровне. Набор данных для внешней валидации включал 8805 женщин. Исследование показало, что только один алгоритм ИИ оказался более точным, чем врачи-специалисты уровня «первого чтения». Диагностическая эффективность этого алгоритма позволяла ему самостоятельно оценивать снимки. Однако наибольшее количество положительных результатов было обнаружено при сочетании лучшего из алгоритмов с врачами «первого чтения» [Salim et al., 2020].

В другом исследовании сравнивалась эффективность пяти систем ИИ на «невидимом» наборе данных рентгенограмм грудной клетки, собранных в нескольких центрах скрининга туберкулеза в Бангладеш в условиях широкого распространения заболевания. Исследование было географически независимым от тестируемых систем (созданных в Китае, Индии и Южной Корее) [Qin et al., 2020]. Всего в исследовании приняло участие 23 566 человек. Рентгенограммы органов грудной клетки проанализировали три местных врача-рентгенолога. Некоторые из них были повторно оценены врачами-рентгенологами США. Все пять алгоритмов ИИ значительно превзошли врачей. Был сделан вывод о том, что алгоритмы предлагают эффективные инструменты скрининга и сортировки для активного выявления случаев заболевания в регионах с высоким бременем туберкулеза.

Одной из областей, в которой проведено определенное количество таких испытаний, является эндоскопия желудочно-кишечного тракта. МИ с технологиями ИИ, помогающие в режиме реального времени выявлять колоректальные полипы, прошли несколько испытаний, когда проводилась внешняя проверка или сравнивались результаты МИ с заключениями врачей-эндоскопистов на одной выборке. В результате некоторые МИ получили одобрение регуляторов в США, Японии и других странах[14].

Для оценки доказательств при внедрении системы ИИ полезны три основных источника:

– опубликованные рецензируемые данные;

– данные клинического опыта (наиболее полезны для выявления менее частых, но серьезных нежелательных явлений);

– данные клинических испытаний.

Оценка эффективности, мониторинг безопасности программных МИ с технологиями ИИ важны и после внедрения системы в практическую медицину. В недавнем исследовании, проведенном в Таиланде, оценивались практическая значимость и особенности использования системы ИИ глубокого обучения для выявления диабетической ретинопатии в медицинских организациях, расположенных в сельской местности. Наблюдение и опросы медицинских работников проводились в 11 клиниках страны до и после внедрения системы. До внедрения системы ИИ отмечены:

– высокая вариативность процесса проверки зрения в клиниках, участвовавших в исследовании (с учетом организации рабочего процесса и других аспектов);

– различные условия оказания медицинской помощи (в зависимости от состояния помещений, освещения и т. д.).

Пользователи (медицинские сестры) отмечали как преимущества, так и недостатки добавления системы ИИ в свой рабочий процесс. Оценка после внедрения показала воздействие использования системы ИИ на процесс получения информированного согласия пациента. На точность работы системы ИИ повлияло качество изображений (в 21 % случаев изображения были плохого качества, чтобы их можно было оценить с помощью алгоритма ИИ). Низкая скорость подключения к Интернету препятствовала рабочему процессу, снижала качество обслуживания пациентов [Gulshan et al., 2016].

Полученные результаты подтвердили ценность, наряду с перспективными исследованиями, оценки применения систем ИИ в реальных условиях. В качестве примера использования указанных подходов рассмотрим процесс принятия решения о внедрении системы ИИ при обработке изображений, полученных при визуальном осмотре шейки матки с помощью кольпоскопа (позволяет рассмотреть ткани под многократным увеличением) с использованием раствора уксусной кислоты для выявления предраковых поражений при проведении гинекологического скрининга в развивающихся странах.

Выявление предраковых поражений при проведении расширенной кольпоскопии (с проведением обработки шейки матки раствором уксусной кислоты) в рамках скрининга является одним из перспективных направлений применения ИИ в системах здравоохранения, особенно в странах с низким и средним уровнем дохода. Рак шейки матки занимает четвертое место в мире среди наиболее распространенных видов рака у женщин, является в этой группе одной из ведущих причин смерти. Во многих случаях рак шейки матки обнаруживается слишком поздно из-за отсутствия своевременного наблюдения, особенно в странах с ограниченными ресурсами систем здравоохранения. Данные исследований показали, что при обнаружении рака шейки матки на ранней стадии процент выживаемости в последующие пять лет составляет 92 % [Димитриади и др., 2017].

В 2020 г. ВОЗ разработана стратегия по ускорению ликвидации заболевания в XXI в. К 2030 г. должны быть достигнуты следующие цели: 90 % девочек полностью привиты вакциной против вируса папилломы человека к 15 годам, 70 % женщин проходят скрининг с помощью высокоэффективного теста к 35 годам и повторно к 45 годам. 90 % женщин с выявленным заболеванием получают лечение. Модель 90-70-90 позволит в странах с низким и средним уровнем дохода снизить заболеваемость на 42 % к 2045 г. [Global strategy to accelerate…, 2020].

При этом эффективность классической кольпоскопии остается неудовлетворительной. Во время осмотра врачи должны принимать определенные решения, например, проводить биопсию или нет. В ходе проведения скрининга клинические решения принимаются в режиме реального времени, на них влияют полученные при первоначальной оценке с использованием визуального осмотра с раствором уксусной кислоты данные. Белое окрашивание различной степени выраженности свидетельствует о наличии предраковых поражений (дисплазии), карциномы, других поражений и о необходимости проведения биопсии (взятия образца ткани для исследования). Врачу необходимо сопоставить все характеристики, полученные при кольпоскопии, с нормой или возможными вариантами отклонений для формирования заключения. При этом оценку состояния покрова шейки матки могут существенно затруднять наличие выраженного воспаления, деформации шейки матки, а кольпоскопия в таких случаях будет расцениваться как неудовлетворительная. Диагностическая ценность зависит от подготовки, опыта и суждений медицинского работника. Из-за нехватки опытных специалистов на местах рабочая нагрузка возрастает, диагностическая точность невысока.

Решением может стать фотографирование шейки матки после обработки уксусной кислотой (цифровая фотокольпоскопия) с обработкой в приложении мобильного телефона, содержащем алгоритм ИИ, оценивающего наличие и степень окрашивания. Компьютерное зрение, примененное в ходе кольпоскопии, может выступать в качестве поддержки принятия врачебных решений и улучшать визуальную интерпретацию.

Проводятся международные исследования способов автоматизации существующих методов оценки шейки матки с целью повышения точности выявления предраковых поражений высокого риска. Так, в Китае создана модель ИИ, которая находит поражение на снимке, разделяя его на области при помощи нейронной сети U-Net. После чего моделью CapsNet выделяется и анализируется соответствующий участок снимка на основе анализа положения, размера, направления, деформации, отражательной способности, цвета, текстуры. Изображению присваивается набор данных – происходит кодировка. Затем полученный код сравнивают с кодом изображения нормальной шейки матки и выдается предварительное заключение для врача [Zhang, Zhao, 2019].

Ученые из США (Университет Южной Флориды) предложили свой алгоритм распознавания ИИ раковых клеток по изображениям кольпоскопии, также основанный на сегментации полученного изображения, но с большим количеством частей. Выделяются раковые клетки на основе среднего ядерного объема. Сначала изображение переводится в черно-белый формат, затем выбираются и анализируются ядра по алгоритму вычисления порога бинаризации для полутонового изображения Оцу (метод Оцу – это алгоритм вычисления порога бинаризации для полутонового изображения, используемый в области компьютерного распознавания образов и обработки изображений). Постепенно удаляются зоны, не переходящие порог minBlobSize, контрастируются патологические ядра, переходящие этот порог, затем измеряется их объем и делается заключение о наличии патологии [Phoulady et al., 2014].

В настоящее время на рынке представлены различные мобильные устройства и цифровые кольпоскопы для решения этой задачи. Так, система визуальной оценки EVA, разработанная компанией Mobile ODT (официальный сайт в сети Интернет: https://www.mobileodt.com/eva-system/), состоит из трех частей:

– портативного МИ, фактически мобильного телефона с сейсмостойким и огнеупорным комплексом, который работает как компьютер, с источником света и увеличительным стеклом;

– встроенного алгоритма ИИ на основе машинного обучения (данные (фотографии) систематически загружаются в систему уже на протяжении семи лет, что позволяет говорить о полноте набора данных для обучения);

– системы хранения, которая автоматически синхронизирует данные устройства с электронными базами медицинских данных.

С учетом актуальности проблемы выявления рака шейки матки, а также ограниченности ресурсов и недостаточно развитой инфраструктуры вопрос применения технологии в странах с низким и средним уровнем дохода актуален.

Компонентами оценки могут стать результаты на этапе разработки и обучения модели ИИ, определение того, насколько выполняется целевой показатель – выявление предраковых поражений шейки матки. Затем необходима проверка эффективности в реальных условиях. Нужно сравнить эффективность выявления целевого поражения человеком и системой ИИ, а также эффективность с точки зрения затрат и выгод. Важно оценить, насколько введенные данные представляют полный спектр заболеваний шейки матки, а также пограничных изменений. Описаны ли разработчиками принципы разделения наборов данных (является ли распространенность целевого для выявления заболевания в наборе данных внутреннего проверочного теста репрезентативной)? Следует также ответить на вопрос: система ИИ помогает, информирует медицинских работников или управляет процессом? Нужно оценить, насколько система ИИ станет эффективна в конкретных социально-экономических и географических условиях.

Кто является предполагаемыми пользователями устройства с учетом требований и возможностей в системе здравоохранения конкретной страны? Какой должен быть уровень их квалификации? Будет МИ применяться на этапе первичного скрининга или у женщин, попавших в группу высокого риска? В каких условиях будет проводиться скрининг (в городе или сельской местности, в стационаре или небольшой амбулатории)? Четко ли описаны принцип работы МИ, весь процесс взаимодействия пользователя с МИ (способ получения и ввода данных, работа с выходными данными)? Подробно ли описаны критерии включения и исключения на уровне входных данных (предыдущая абляция шейки матки, ВИЧ-положительные пациентки)? Каким образом поступать в случае несогласия медицинского работника с заключением алгоритма ИИ? Как будут фиксировать ошибки системы ИИ? Каков план действий при их обнаружении? Как предполагается поступать с результатами исследования (маршрутизация пациентов, возможность пройти дальнейшее обследование и лечение)?

Только полный ответ на эти вопросы может дать организаторам здравоохранения основания для решения о внедрении системы ИИ в практику, особенно в странах, где отсутствует должная регуляция и контроль на государственном уровне.

В настоящее время в условиях применения четких норм и правил использования ИИ в здравоохранении, в первую очередь МИ с технологиями ИИ, исследователи пытаются разработать минимальные стандартизированные вопросы, на которые должны ответить разработчики систем ИИ, и способы структурировать данную информацию в удобной форме для пользователей и лиц, принимающих решение о внедрении. Так, междисциплинарной командой, включающей разработчиков, клиницистов и экспертов по регулированию, разработан «шаблон отчетности, этикетка», предназначенный для этих целей и содержащий основные факты о МИ. Основные разделы включают: название системы ИИ, языковой стандарт, версию, технические параметры, механизм расчета риска, производительность, эффективность, условия использования, предупреждения и другую информацию из научной литературы, что позволяет повысить уровень отчетности и прозрачности [Sendak et al., 2020].

Существенным является вопрос о соблюдении прав человека при использовании ИИ. Системы ИИ, повышая качество медицинской помощи, безусловно, способствуют реализации права человека на здоровье, в то же время могут нарушать другие права и свободы, такие как недискриминация и неприкосновенность частной жизни. Например, существует риск, внедряя ИИ, дегуманизировать уход за пожилыми людьми, подорвать их автономию и независимость. Кроме того, использование ИИ может поставить под угрозу безопасность пациентов. Ошибки систем ИИ, в том числе неверные рекомендации (например, какой лекарственный препарат применять), могут нанести вред как конкретному пациенту, так и целой группе пациентов, причем за короткое время.

Широкую известность получил следующий случай. Система ИИ Watson Health используется в сотнях больниц по всему миру для лечения 13 видов рака у десятков тысяч пациентов. С внедрением данной аналитической платформы ожидался мощнейший технологический прорыв в лечении онкологических больных. Однако летом 2018 г. бывшим заместителем руководителя проекта Эндрю Норденом были представлены две презентации, содержащие свидетельства ошибок в работе системы «Watson для онкологии». Как следовало из представленных документов, искусственный интеллект предлагал неточные и неправильные методы лечения, которые могли привести к тяжелым осложнениям вплоть до летального исхода[15].

Приложение NHS, которое было разработано в Великобритании для уведомления людей о необходимости самоизоляции в случае заражения, было запрограммировано неправильно[16]. В результате пользователь приложения должен был находиться рядом с высокозаразным пациентом в пять раз дольше, чем это считалось рискованным, прежде чем ему было дано указание самоизолироваться. Хотя приложение скачали до 19 млн человек, крайне малому числу людей был дан сигнал изолироваться, тем самым они подвергали риску заражения себя и других.

Не зарекомендовала себя и система прогнозирования подростковой беременности в Аргентине, основанная на технологиях ИИ. В 2017 г. провинция Сальта (Аргентина) подписала соглашение с Microsof об использовании ИИ для предотвращения подростковой беременности в целях общественного здравоохранения и как инструмент для предотвращения отчисления из школы. Microsof использовала данные для обучения ИИ, собранные в уязвимых ситуациях местным правительством от населения.

Местные власти описали систему[17] как интеллектуальные алгоритмы, которые определяют характеристики людей, влияющие на появление беременности в подростковом возрасте, и предупреждают правительство для проведения профилактических мероприятий. Данные, обработанные серверами Microsof, были распределены по всему миру. Утверждалось, что на основе собранных данных алгоритм ИИ предскажет, забеременеет ли подросток с точностью 86 % [Peña, Varon, 2019]. Однако после того, как о партнерстве стало известно, местные эксперты [Sobre la predicción automática de embarazos adolescents, 2018] оспорили его по следующим причинам:

1. Тестирование алгоритмов прогнозирования подростковой беременности имело значительные методологические недостатки. Обучающие данные, использованные для построения прогностического алгоритма, и данные, использованные для оценки точности алгоритма ИИ, оказались практически идентичными, что привело к ошибочному выводу о прогностической точности системы.

2. Тип собранных данных не подходил для установления риска беременности в будущем. Используемые обучающие данные были получены из опроса подростков, проживающих в провинции Сальта, который включал личную информацию (возраст, этническую принадлежность, страну происхождения), информацию об окружении (количество людей в домашнем хозяйстве, есть ли у них горячая вода в ванной) и тот факт, была ли девушка на момент обследования беременна. Эти данные не подходили для определения того, забеременеет ли она в будущем (например, в течение последующих шести лет), для чего потребовались бы данные, собранные за пять или шесть лет до наступления беременности. Собранные данные можно было использовать в лучшем случае для определения того, была ли девочка-подросток беременна в настоящий момент. Алгоритм прогнозирования также был неподходящим, поскольку он давал чувствительные для подростков прогнозы без их (или их родителей) согласия, тем самым подрывая их частную жизнь и автономию. Поскольку алгоритм нацелен на особо уязвимых лиц, маловероятно, что у них будет возможность оспорить использование такого вмешательства, и это может усилить дискриминацию[18].

Несмотря на критику и недостатки, указанная система ИИ продолжает использоваться в Бразилии и Колумбии, а также в некоторых провинциях Аргентины [Peña, Varon, 2019]. Недостатки в алгоритме было бы легче выявить, если бы была бóльшая прозрачность в отношении наборов данных, используемых для обучения и оценки алгоритма, технических спецификаций и гипотез, лежащих в основе разработки модели [Ortiz Freuler, Iglesias, 2018].

Использование компьютерных технологий сопряжено с неотъемлемым риском безопасности из-за недостаточного внимания к минимизации риска при их проектировании, а также из-за недостатков в компьютерном коде и связанных с ними ошибках и сбоях. Информация о травмах и смертях занижена, отсутствуют официальные данные и мало масштабных исследований. В одном из исследований, проведенных в Великобритании, например, было подсчитано, что до 2000 смертей в год могут быть вызваны компьютерными ошибками и недостатками[19].

Поскольку системы здравоохранения становятся все более зависимыми от ИИ, можно ожидать, что эти технологии станут мишенью для хакерских атак и взлома с целью выключения определенных систем, похищения данных, манипулирования данными, используемыми для обучения алгоритма, при изменении его производительности и рекомендаций. Исследование, проведенное в 2013 г., показало, что четырех анонимных точек данных достаточно для уникальной идентификации человека с точностью 95 % [de Montjoye et al., 2013].

Высокую угрозу представляет возможность неправомерного доступа к медицинским системам, непосредственно участвующим в оказании медицинской помощи. Так, В. С. Овчинский описывает первый известный случай умышленного убийства с применением робототехники. В 2016 г. таким образом был убит пациент, находившийся в палате интенсивной терапии госпиталя ордена иезуитов в Сан-Мигеле. Преступники, используя вредоносную программу, смогли вмешаться в работу медицинской системы, управляющей автоматической раздачей лекарств, в результате чего в организм жертвы вместо назначенного лекарственного препарата было введено ядовитое вещество [Овчинский, 2018].

Условия кибербезопасности постоянно совершенствуются, что требует значительных ресурсов и затрат, а также реализации оптимальных технических решений, например технологии Lightweight Portable Security (LPS). На USB-fash-накопитель записывается дистрибутив операционной системы, средства доверенной загрузки, web-браузер, средства электронной подписи и шифрования, а также прикладное программное обеспечение, позволяющее пользователю решать профессиональные задачи. Данные в ходе работы записываются на накопитель, по мере необходимости синхронизируются с использованием «облачных серверов» и других технологий. Такой же доступ с возможностью подключаться к «личному кабинету» может быть обеспечен для пациента [Столбов, 2020]. При этом нужно отметить, что ни одна защита не эффективна на 100 %, и за новыми средствами защиты появляются усовершенствованные системы их преодоления.

Важным аспектом в контексте защиты прав человека является защита данных при их передаче и анализе системами ИИ. Сбор, использование, анализ и обмен данными о состоянии здоровья постоянно вызывают широкую обеспокоенность по поводу неприкосновенности частной жизни, поскольку отсутствие конфиденциальности может либо нанести вред человеку (например, будущая дискриминация по признаку состояния здоровья), либо затронуть достоинство человека, если данные о состоянии здоровья попадут в общий доступ [McNair, Price, 2019].

Существует риск того, что совместное использование или передача данных делают их уязвимыми не только для киберкражи, но и для случайного раскрытия. Рекомендации, сгенерированные алгоритмом из медицинских данных человека, вызывают опасения с точки зрения конфиденциальности, поскольку человек ожидает, что такие «новые» медицинские данные являются частными. Передача их третьими лицами может быть незаконной. Опасения по поводу конфиденциальности усиливаются у стигматизированных и уязвимых групп населения, для которых раскрытие данных может привести к дискриминации или карательным мерам [Xafis et al., 2019].

Большая проблема заключается в том, что данные о состоянии здоровья, собираемые поставщиками технологий ИИ, могут превышать то, что требуется, и что такие избыточные данные, так называемые «излишки поведенческих данных» [Zuboff, 2019], используются повторно для целей, вызывающих серьезные этические, юридические и правозащитные вопросы.

Такое перепрофилирование, изменение функций собираемых данных является проблемой, которая предшествовала использованию ИИ в здравоохранении, но усилилась в ходе борьбы с COVID-19. Например, в начале 2021 г. правительство Сингапура признало, что к данным, полученным с помощью приложения для бесконтактного отслеживания COVID-19 (Trace Together), также можно получить доступ «в целях уголовного расследования», несмотря на предварительные заверения, что подобный доступ не будет разрешен. В феврале 2021 г. было принято законодательство, ограничивающее использование данных и допускающее их использование только для самых серьезных уголовных расследований, таких как обвинения в убийстве или терроризме. Предусматривалось наказание за любое несанкционированное использование[20].

Сбор и отслеживание данных, связанных с наличием иммунитета к COVID-19, вызывает опасение, что правительства могут использовать информацию для создания систем массового наблюдения или оценки при мониторинге повседневной деятельности. Данные могут быть переданы компаниям для продвижения товаров и услуг или создания продуктов, основанных на прогнозах, которые будут использоваться, например, в страховании.

Упреждающими подходами к сохранению конфиденциальности являются деидентификация, анонимизация или псевдоанонимизация медицинских данных. Деидентификация предотвращает привязку личных идентификаторов к информации. Анонимизация персональных данных является подкатегорией деидентификации, при которой удаляются как прямые, так и косвенные персональные идентификаторы, используются технические меры предосторожности для обеспечения нулевого риска повторной идентификации, тогда как деидентифицированные данные могут быть повторно идентифицированы с помощью ключа. Псевдоанонимизация определяется как обработка персональных данных таким образом, что данные больше не могут быть отнесены к конкретному субъекту без использования дополнительной информации при условии, что такая дополнительная информация хранится отдельно. Использование этих методов могло бы обеспечить конфиденциальность и стимулировать обмен данными, но не всегда возможно.

Даже при наличии регулирования в области прав человека очевидно, что требуется более четкое определение того, как права соотносятся и применяются к ИИ, необходимы новые нормы и судебная практика для рассмотрения взаимодействия ИИ и прав человека.

Например, в мае 2017 г. Google объявила о стратегическом партнерстве с Чикагским медицинским университетом (США). Целью партнерства была разработка новых инструментов машинного обучения для прогнозирования медицинских событий, таких как внеплановая госпитализация. Чтобы реализовать эту цель, университет поделился с Google сотнями тысяч обезличенных записей пациентов. Один из пациентов университета, Мэтт Динерштейн, в июне 2019 г. подал коллективный иск против университета и Google от имени всех пациентов, чьи записи были раскрыты [Shachar et al., 2019]. Медицинские записи пациентов, предоставленные Google, «были деидентифицированы, за исключением того, что сохранялись даты медицинского обслуживания». Набор данных также включал медицинские заметки в произвольном виде. Динерштейн поставил вопрос о недостаточной анонимности записей, что представляло угрозу частной жизни пациентов. Он утверждал, что Google может легко повторно идентифицировать пациентов, объединив записи с другими доступными наборами данных, такими как данные геолокации из Google Maps. Более того, Динерштейн утверждал, что университет не получил явного согласия от каждого пациента поделиться своими медицинскими записями с Google, несмотря на коммерческую заинтересованность технологического гиганта в этих данных. Окружной судья отклонил иск Динерштейна в сентябре 2020 г. по причине неспособности истца продемонстрировать ущерб, который возник из-за партнерства. Этот случай иллюстрирует возможность возникновения судебных исков, связанных с обменом данными, и подчеркивает отсутствие надлежащей защиты конфиденциальности медицинских данных.

Крайне актуальным аспектом при использовании ИИ является соблюдение базовых этических принципов (справедливость, уважение к личности, непричинение вреда и др.). Права человека и этические принципы тесно взаимосвязаны. Права обеспечены юридической базой, которой должны руководствоваться правительства, юридические и физические лица. Однако существование системы прав человека не устраняет необходимости постоянного обсуждения этических аспектов внедрения ИИ. Этически приемлемое решение формируется в результате рассмотрения всего спектра существующих этических соображений, создания процесса принятия решений, который заинтересованные стороны будут считать справедливым.

Например, технологии ИИ в настоящее время активно применяются в геронтологии: для имитации и замены мониторинга человеком состояния и поведения пожилых людей путем сбора данных о показателях здоровья и измерения с помощью датчиков, размещенных в помещениях, различных видов деятельности, а также для обнаружения необычных движений и действий, которые могут сигнализировать о снижении когнитивных или физических способностей пациента. Такой непрерывный сбор данных расширил возможности прогностического анализа прогрессирования заболевания и рисков для здоровья пожилых людей; персонализации управления уходом и предотвращения рисков для здоровья с помощью поведенческого анализа. С помощью систем ИИ такие проблемы пожилых людей, как падения или внезапные чрезвычайные ситуации, могут быть спрогнозированы и предотвращены с помощью алгоритмов, основанных на непрерывном сборе данных о лицах, подверженных риску получения травм или других событий, связанных со здоровьем. Однако внедрение технологий ИИ не должно приводить к усугублению эйджизма, явления, обозначающего негативные стереотипы, согласно которым пожилые люди отличаются старческим слабоумием, жесткими установками, психологической и социальной зависимостью, только потребляют ресурсы, ничего не давая взамен. Подкрепление стереотипов, предрассудков или дискриминации при внедрении технологий ИИ может подорвать, например, качество медицинского обслуживания пожилых людей, снизить взаимодействие между поколениями или ограничить полезное использование технологий ИИ для пожилых людей из-за предвзятых, часто ошибочных предположений о том, как они хотят жить или взаимодействовать с технологиями в своей повседневной жизни.

Проблема эйджизма в контексте внедрения систем ИИ также актуальна при формировании набора данных для обучения алгоритмов ИИ, когда зачастую данные о пожилых исключаются, формируя «меньшинство» для фактически наиболее многочисленной группы пользующихся услугами здравоохранения. Включение недостаточного объема данных по этой группе пациентов может быть отчасти связано с недостаточным признанием того, что пожилые люди существенно отличаются друг от друга, поскольку дальнейшая жизнь стереотипно рассматривается как «однородный жизненный этап». Это приводит к неотражению разнообразных навыков и интересов пожилых людей в настройках технологий ИИ.

ВОЗ предложен ряд мер по обеспечению решения проблемы эйджизма при применении ИИ в здравоохранении [Ageism in artificial intelligence for health: WHO policy brief, 2022]:

1. Все программисты и дизайнеры систем ИИ, независимо от возраста, должны быть обучены распознаванию и предотвращению эйджизма при решении поставленных задач. Возможно включение лиц пожилого возраста в проектные группы.

2. Поскольку данные имеют решающее значение как для обучения, так и для проверки технологий ИИ, команды специалистов по обработке данных, ответственные за их отбор, проверку и применение, также должны быть инклюзивными и хорошо сбалансированными. Целесообразно включение пожилых людей в такие команды и обучение специалистов по обработке данных по распознаванию и преодолению форм эйджизма.

3. Разработчики должны обеспечить системы ИИ точными, полными и разнообразными данными, в том числе в зависимости от возраста. Если определенная группа, например лица пожилого возраста, не представлена в достаточной мере в наборе данных, может быть проведена дополнительная оценка необходимого количества, чтобы гарантировать, что технология ИИ обеспечивает такое же качество результатов для этой группы населения, как и для более широко представленных групп.

4. Даже если технологии ИИ для здравоохранения будут надлежащим образом разработаны для пожилых людей, их использование может быть ограничено из-за отсутствия соответствующей цифровой инфраструктуры. Отсутствие цифровой инфраструктуры также может способствовать преобладающему убеждению эйджистов в том, что пожилые люди не используют цифровые технологии и поэтому не нуждаются в учете. Разработчики и регулирующие органы должны обеспечить условия, при которых пожилые люди понимали бы, как технологии ИИ могут повлиять на их жизнь.

5. Когда технологии ИИ используются при осуществлении мониторинга за состоянием пациентов, пожилые люди должны быть проинформированы о том, что конкретно контролируется и с какой целью, кто будет использовать эту информацию, а также каковы возможные последствия для их повседневной жизни. Поставщикам медицинских услуг и лицам, осуществляющим уход, возможно, придется овладеть новыми компетенциями в использовании технологий на основе ИИ в своей повседневной практике, которые должны будут развиваться по мере ускорения внедрения ИИ. Непрерывное образование должно быть доступным и включать обучение использованию технологий ИИ, преодолению этических проблем, а также пониманию и определению того, как технологии могут распространять предвзятость.

6. Технологии ИИ должны рассматриваться как средство содействия принятию решений человеком. Пожилым людям необходимо иметь возможность выбирать и давать согласие на использование конкретных технологий, на то, как они должны использоваться (в дополнение или вместо ухода и лечения, предоставляемых медицинскими работниками и лицами, осуществляющими уход), а также отзывать свое согласие.

7. Должны быть созданы механизмы для обеспечения возможности правительствам, международным агентствам, неправительственным организациям, частному сектору и государственно-частным партнерствам работать с пожилыми людьми, предотвращать или выявлять эйджизм и обеспечивать надлежащие процедуры для борьбы с эйджизмом и его последствиями. Пожилых людей важно вовлекать в работу этических комитетов, регулирующих органов и других межправительственных или общественных организаций. Нормативное регулирование на национальном уровне должно предусматривать прозрачность отдельных аспектов технологий ИИ при соблюдении прав собственности, чтобы улучшить надзор и гарантировать безопасность и эффективность для пожилых людей, медицинских работников. Аспекты могут включать исходный код, ввод данных и аналитический подход технологии ИИ.

8. В такой быстро развивающейся области, как использование ИИ в здравоохранении, существует много нерешенных технических и организационных вопросов о том, как наилучшим образом использовать ИИ, в том числе исключая эйджизм. Эти проблемы необходимо решить до широкого внедрения каждой конкретной технологии. Поскольку технологии ИИ все чаще используются пожилыми людьми и для пожилых людей, потребуются исследования, чтобы определить, как эйджизм влияет на разработку и использование ИИ, а также на определение мер, которые с наибольшей вероятностью смягчат или предотвратят возрастную предвзятость.

9. Необходимо закрепить этические установки при применении систем ИИ для лиц пожилого возраста, особенно в университетах, компаниях, разрабатывающих технологии ИИ. Способы выявления этических проблем, связанных с эйджизмом, поставят эти проблемы на передний план при проектировании и обеспечении качества и эффективности. После создания технологии ИИ следует оценить как благотворное, так и негативное воздействие на пожилых людей. Оценки воздействия могут предоставить техническую информацию о возможных последствиях и рисках, улучшать процесс принятия решений, прозрачность и создавать основу для надлежащего контроля и оценки.

Аналогичные подходы могут применяться и для других групп населения, в отношении которых есть риски предвзятости.

Одной из этических проблем, в том числе касающейся ИИ, в последние десятилетия является так называемый «цифровой разрыв», различный уровень развития цифровой инфраструктуры в странах с высоким уровнем дохода и остальных, неравномерный доступ различных групп населения к новым технологиям там, где цифровая инфраструктура развита. Цифровой разрыв может быть связан как с рассматриваемым эйджизмом, так и с гендерным неравенством (например, в развивающихся странах доля женщин, использующих мобильный Интернет, существенно меньше по сравнению с долей мужчин), культурой, религией, географией и другими факторами.

Дополнительную озабоченность вызывает растущее влияние некоторых компаний на разработку, развертывание и использование ИИ для здравоохранения (включая разработку лекарств), а также степень власти и влияния корпораций на отдельных лиц и правительства, технологии ИИ и здравоохранение.

Ситуация с соблюдением этических принципов использования систем ИИ в последние годы осложнилась тем, что технологические компании отдельно или совместно начали выпуск инструкций по этике [Metcalf et al., 2019]. Такие руководства устанавливают нормы и стандарты, которым компании публично и добровольно обязуются следовать. Необходимо отметить, что многие нормы выпущены в отсутствие или без учета авторитетных или юридически обязательных международных стандартов по тем или иным положениям. Приветствуя признание технологическими компаниями того факта, что внедрение технологий ИИ вызывает озабоченность общества, нельзя не отметить, что данные руководящие принципы, в зависимости от того, как они реализуются, могут быть не более чем формальным декларированием решения проблемы.

Во-первых, общественность, как правило, практически не играет роли в установлении стандартов. Во-вторых, руководящие принципы в основном применяются к предполагаемому поведению компаний в отношении технологий, которые они разрабатывают и внедряют (ролевая ответственность), а не к исторической ответственности за любой ущерб, за который следует распределить ответственность. В-третьих, контроль за тем, соблюдают ли компании свои собственные инструкции, как правило, осуществляется внутри компании, практически без прозрачности и без принудительного исполнения со стороны регулирующих органов. Наконец, эти обязательства не имеют юридической силы в случае их нарушения.

В последние годы вопросы соблюдения прав человека, этических принципов при использовании ИИ активно обсуждаются на международном уровне. У ЮНЕСКО есть рекомендации и принципы использования ИИ, больших данных в здравоохранении. Работа ЮНЕСКО над этическими последствиями ИИ поддерживается двумя постоянными экспертными комитетами: Всемирной комиссией по этике научных знаний и технологий и Международным комитетом по биоэтике. В 2017 г. опубликованы отчет Международного комитета по биоэтике о больших данных и здоровье, в котором определены важные элементы системы управления ИИ [International Bioethics Committee…, 2017], доклад Всемирной комиссии по этике научных знаний и технологий об этике робототехники за 2017 г. [World Commission on the Ethics of Scientific Knowledge and Technology…, 2017]. Важно отметить предварительное исследование этики ИИ, проведенное ЮНЕСКО в 2019 г., в котором были подняты этические вопросы в отношении образования, науки и тендера [Preliminary study on the technical and legal aspects…, 2019], даны рекомендации по этике ИИ для рассмотрения Генеральной конференцией ЮНЕСКО в 2021 г.

Глобальная конференция ВОЗ по первичной медико-санитарной помощи в 2018 г. приняла Астанинскую декларацию [Declaration of Astana, 2018], в которой содержатся принципы использования цифровых технологий. Декларация призывает к содействию рациональному, безопасному использованию и защите персональных данных и использованию технологий для улучшения доступа к медицинскому обслуживанию, улучшения предоставления медицинских услуг, повышения качества обслуживания и безопасности пациентов, а также повышения эффективности и координации помощи.

В 2019–2020 гг. Совет Европы учредил специальный комитет по искусственному интеллекту для проведения широких консультаций с участием заинтересованных сторон с целью определить потенциальные элементы правовой базы для разработки и применения ИИ в соответствии со стандартами Совета Европы в области прав человека, демократии и верховенства закона. Кроме того, в 2019 г. Совет Европы опубликовал Руководящие принципы по искусственному интеллекту и защите данных [Guidelines on artificial intelligence and data protection, 2019], также основанные на защите человеческого достоинства и прав человека и основных свобод. А Этическая хартия Европейской комиссии по эффективности правосудия включает пять принципов, имеющих отношение к использованию ИИ в интересах здоровья [European ethical charter on the use of artificial intelligence in judicial systems and their environment, 2018].

Таким образом, необходимость определения базовых, в том числе этических, принципов использования ИИ является крайне актуальной задачей и требует международного внимания. Строгий контроль со стороны правительства и надлежащее управление имеют важное значение в этом секторе.