Этические принципы применения ИИ в здравоохранении и других областях призваны помочь разработчикам, пользователям и регулирующим органам улучшить и контролировать разработку и использование таких технологий. Этический принцип – это заявление о долге или ответственности в контексте разработки, развертывания и постоянной оценки технологий искусственного интеллекта для здоровья.
Этические принципы основаны на основных этических требованиях, применимых ко всем лицам и не вызывающих противоречий. Человеческое достоинство и неотъемлемая ценность людей являются центральными требованиями, на которых покоятся все остальные этические принципы.
Основные этические требования:
– необходимо избегать причинения вреда другим (иногда это называется «не навреди» или «непричинение вреда»);
– необходимо способствовать благополучию других, когда это возможно (иногда это называется благодеянием). Риск вреда должен быть сведен к минимуму, а польза должна быть максимальна. Ожидаемые риски важно сбалансировать с ожидаемыми выгодами;
– необходимо обеспечить справедливое обращение со всеми людьми, что включает требование о том, чтобы ни одно лицо или группа не подвергались дискриминации, пренебрежению, манипулированию, доминированию или жестокому обращению (иногда это называется справедливостью);
– необходимо обращаться с людьми таким образом, чтобы уважать их интересы при принятии решений, касающихся их жизни и личности, включая решения о медицинском обслуживании, в соответствии с информированным пониманием характера выбора, который необходимо сделать, его значения, интересов человека и вероятных последствий альтернатив (иногда это называется уважением к личности или автономией).
Дополнительные требования могут вытекать из списка основных этических требований. Например, охрана и защита неприкосновенности частной жизни не только признаны юридическими требованиями во многих странах, но и важны для того, чтобы люди могли контролировать конфиденциальную информацию о себе и самоопределение (уважение их автономии) и избегать вреда.
Давно признано, что медицинские работники несут особую ответственность за продвижение этих ценностей по отношению к пациентам при понимании центральной роли здоровья в индивидуальном благополучии, зависимости пациентов от медицинских работников при получении информации о диагнозе, прогнозе и относительных достоинствах различных вариантов лечения или профилактики, а также важности свободного и открытого обмена информацией для отношений между поставщиком медицинских услуг и пациентом. Если системы ИИ используются медицинскими работниками для выполнения клинических задач или делегирования клинических задач, программисты, разрабатывающие технологии ИИ, также должны соблюдать эти этические обязательства.
Таким образом, этические принципы важны для всех заинтересованных сторон, которые обращаются за руководством по ответственной разработке, развертыванию и оценке технологий ИИ для здравоохранения, включая врачей, разработчиков систем, администраторов систем здравоохранения, лиц, определяющих политику в органах здравоохранения, а также местные и национальные органы власти. Этические принципы должны быть включены в профессиональные и технологические стандарты ИИ. Инженеры-программисты уже руководствуются такими стандартами, как соответствие назначению, контроль версий. Стандарты необходимы для обеспечения функциональной совместимости и разработки программы, для непрерывного обучения тех, кто разрабатывает и использует такие технологии, для управления. Более того, стандарты оценки и внешнего аудита систем ИИ развиваются в контексте их использования. В медицинских вычислениях существуют стандарты для системной интеграции, электронных медицинских карт, совместимости систем, структур реализации и программирования.
Хотя этические принципы не всегда четко определяют ограничения в использовании технологий, правительства должны запрещать или ограничивать использование ИИ или других технологий, если они нарушают или ставят под угрозу осуществление прав человека, не соответствуют другим принципам или нормам или могут нарушить эти принципы, вводятся в неподготовленном или другом неподходящем контексте. Например, во многих странах отсутствуют законы о защите данных или создана неадекватная нормативно-правовая база, регулирующая внедрение технологий ИИ.
Этически приемлемое решение зависит от рассмотрения всего спектра соответствующих этических соображений, обеспечения учета множества точек зрения в анализе и создания процесса принятия решений, который заинтересованные стороны будут считать справедливым и законным.
Как указывалось, ИИ доказал свою способность служить интересам отдельно взятого пациента и всего общества. Развитые страны, используя данные технологии, могут качественно усовершенствовать оказание медицинской помощи, в то время как развивающиеся страны, страны с ограниченными ресурсами, где доступность медицинских услуг часто нуждается в улучшении, не могут устранить пробелы в плане охвата медико-санитарными услугами. Однако для сохранения и поддержания позитивного влияния новых технологий требуются коллективные усилия. Очевидно, что рядовой медицинский работник не сможет сразу свободно использовать такие технологии, ему требуется постоянное повышение своих цифровых навыков. Государству необходимо приблизиться к такому регулированию, когда новые технологии были бы доступны для медицинского обслуживания всех социальных слоев общества. Пациенты должны быть уверены в том, что забота о них не подчинена коммерческим интересам инновационных гигантов. Как при любом политическом решении, при регулировании социальных прав человека важно рассматривать человека, его жизнь и здоровье в качестве главной ценности и принимать решение исходя из его блага, строго соблюдая этические принципы использования ИИ в медицине.
За последние годы в мире быстро развивается процесс перехода от декларативных заявлений и резолюций к документам в области этики ИИ, имеющим практическую направленность. В 2021 г. группа экспертов ВОЗ, проработав около ста предложений по принципам разработки и использования ИИ, опубликованных за последние 10 лет, определила шесть базовых этических принципов разработки и использования ИИ [Ethics and governance of artificial intelligence for health: WHO guidance, 2021].
Несмотря на то что принципы обозначены как этические, они охватывают целый ряд аспектов, которые могут найти свое отражение в правовом регулировании использования ИИ в здравоохранении:
1. Принцип сохранения автономии человека. С расширением использования ИИ некоторые полномочия человека будут переданы системам ИИ. Принцип автономии требует того, чтобы люди сохраняли контроль за принятием медицинских решений. Контроль со стороны человека может зависеть от рисков, связанных с использованием конкретной системы ИИ, но всегда должен быть значимым. При этом поставщики услуг ИИ должны обладать информацией, необходимой для безопасного и эффективного использования технологий ИИ, предоставить эту информацию в доступном и понятном виде лицам, использующим созданные ими технологии, для принятия обоснованных решений.
Уважение автономии влечет за собой соответствующие обязанности по защите частной жизни и конфиденциальности, а также по получению информированного согласия на использование личных данных. Принцип сохранения автономии человека должен полностью соблюдаться правительствами и технологическими компаниями, программистами, создателями баз данных и др. Технологии ИИ не должны использоваться для экспериментов или манипулирования людьми в системе здравоохранения без информированного на это согласия. На использование алгоритмов машинного обучения в диагностике, прогнозировании и планах лечения необходимо информированное согласие. При этом оказание медицинской услуги не ограничивается, если лицо отказывает в согласии. Ни правительство, ни организации не должны предлагать дополнительные стимулы или поощрения лицам, давшим согласие.
Требования по защите данных являются одним из средств защиты прав личности и налагают обязательства на тех, кто собирает и обрабатывает данные. Такие нормы необходимы для защиты частной жизни и конфиденциальности данных, а также для установления контроля пациентов над своими данными. В широком смысле требования по защите данных также должны облегчать людям доступ к своим собственным данным о здоровье, а также предоставлять возможность перемещать их или делиться по своему усмотрению. Поскольку для машинного обучения требуются огромные объемы данных, требования по их защите приобретают все большее значение.
2. Принцип обеспечения благополучия и безопасности людей и защиты общественных интересов. Системы ИИ не должны причинять физический или психический вред человеку, должны соответствовать нормативным требованиям в отношении безопасности, точности и эффективности.
Инвесторы, разработчики и пользователи систем ИИ несут ответственность за измерение и контроль параметров их качества и безопасности, чтобы гарантировать, что технологии функционирую так, как задумано, не оказывают какое-либо негативное влияние на отдельных пациентов или их группы.
3. Принцип обеспечения прозрачности, объяснимости и понятности. Системы ИИ должны быть доступными для понимания всем участникам их обращения, надзорным органам.
Прозрачность обеспечивается созданием и опубликованием до разработки и развертывания технологии ИИ документации, содержащей достаточную информацию о предположениях и ограничениях технологии, операционных протоколах, методах сбора и обработки данных, их свойствах, разработке алгоритма. Такая информация способствует содержательному общественному обсуждению того, как устроена технология ИИ и как ее следует использовать. Указанные сведения должны публиковаться регулярно и после того, как технология ИИ будет одобрена для использования.
Прозрачность можно повысить за счет программного обеспечения с открытым исходным кодом для базовой разработки технологии ИИ или предоставления общедоступного исходного кода программного обеспечения. Для программного обеспечения с открытым исходным кодом доступны как предложения, так и отзывы, что позволяет понять, как работает система, выявлять потенциальные проблемы, а также расширять и адаптировать программное обеспечение.
Необходима возможность аудита технологии ИИ. Тесты и оценки должны быть регулярными, прозрачными и достаточно широкими, чтобы охватывать различия в работе алгоритма в зависимости от расы, этнической принадлежности, пола, возраста и других соответствующих характеристик человека. Прозрачность улучшит качество и безопасность медицинской деятельности.
Технологии ИИ должны быть «объяснимыми», насколько это возможно и в соответствии со способностями тех, кому это объяснение адресовано. Информация адаптируется для различных групп медицинских работников и населения.
Учреждения и органы здравоохранения обязаны регулярно публиковать информацию о том, как были приняты решения о внедрении технологии ИИ, как эта технология будет периодически оцениваться, о ее использовании, известных ограничениях и роли в принятии решений.
Прозрачность и доступность информации способствует повышению качества и безопасности медицинской деятельности в условиях использования ИИ.
4. Принцип обеспечения ответственности и подотчетности.
Ответственность гарантирует, что физические и юридические лица несут ее за любые неблагоприятные последствия своих действий, и необходима для поддержания доверия и защиты прав человека. Однако ряд особенностей технологий ИИ (сложность программного обеспечения, непрозрачность, возможность развития систем ИИ независимо от разработчиков и др.) влияет на определение ответственности (и подотчетности). Это может возложить чрезмерное бремя на жертву вреда или на медицинских работников, медицинские организации, которые используют технологию, но не участвуют в ее разработке или проектировании. Большое количество участников процесса создания и функционирования систем ИИ, участие «машины» в принятии клинических решений могут привести к рассредоточению ответственности. В итоге пациенту не компенсируется причиненный вред, сам вред и его причина не выявляются полностью, вред не устраняется, а доверие общества к таким технологиям может быть снижено, если окажется, что ни один из разработчиков или пользователей не может быть привлечен к ответственности.
Чтобы избежать распыления ответственности, при котором «общая проблема становится ничьей ответственностью», важно сформировать механизмы коллективной ответственности и подотчетности, когда все участники разработки и внедрения технологии ИИ несут свою долю ответственности. В данной модели не учитываются фактические намерения каждого участника или его способность контролировать результат. Такие механизмы могут стимулировать всех участников действовать честно и минимизировать ущерб.
Нужны эффективные механизмы разбора ситуаций причинения вреда жизни и здоровью пациентов и компенсации для лиц, пострадавших от решений, принятых на основе алгоритмов ИИ.
5. Принцип обеспечения инклюзивности и справедливости.
Технологии ИИ должны быть не только доступны в странах с высоким уровнем доходов и для использования в контексте и для удовлетворения потребностей, которые относятся к условиям с высоким уровнем доходов, но и адаптированы к типам устройств, телекоммуникационной инфраструктуре и пропускной способности передачи данных в странах с низким и средним доходом. Необходимо стремиться к тому, чтобы «цифровой разрыв» внутри стран и между ними не увеличивался, обеспечивать равный доступ всех к новым технологиям ИИ.
Важно, чтобы применяемые в здравоохранении технологии ИИ обеспечивали как можно более широкое, оптимальное и справедливое их использование и доступ к ним, независимо от возраста, пола, гендерной принадлежности, уровня дохода, расовой или этнической принадлежности, сексуальной ориентации, способностей или других характеристик.
Предвзятость представляет собой угрозу инклюзивности и справедливости, поскольку предполагает отклонение, часто произвольное, от равного обращения. Например, система, предназначенная для диагностики раковых поражений кожи и обученная на данных пациентов одного цвета кожи, может не давать точных результатов для пациентов с другим цветом кожи, что увеличивает риск для их здоровья.
Разработчикам и поставщикам ИИ следует учитывать разнообразие языков, возможностей и форм общения по всему миру, чтобы избежать барьеров в использовании.
Необходимо стремиться к минимизации неизбежного неравенства возможностей между поставщиками медицинских услуг и пациентами, разработчиками систем ИИ и теми, кто использует системы или полагается на них. Внедрение технологий ИИ должно сопровождаться предоставлением пациентам знаний и навыков для лучшего понимания своего здоровья и эффективного пользования услугами системы здравоохранения. Повышение грамотности в вопросах здоровья включает знания в области информационных технологий.
6. Продвижение гибкого ИИ, способствующего устойчивому развитию систем здравоохранения. Технологии ИИ следует внедрять только в том случае, если они могут быть полностью интегрированы в систему здравоохранения. Часто, особенно в системах здравоохранения с недостаточными ресурсами, новые технологии не используются и не обновляются, что приводит к нерациональному использованию больших денежных средств, которые можно было бы вложить в проверенные вмешательства.
Разработчики и пользователи постоянно, систематически и прозрачно должны проверять функционирующую технологию ИИ, чтобы определить, действует ли алгоритм в соответствии с заявленными параметрами и требованиями в контексте, в котором используется.
Когда технология ИИ неэффективна или вызывает неудовлетворенность, обязанность медицинских организаций и органов управления здравоохранения – проанализировать проблему и принять необходимые решения, в том числе о прекращении использования технологии.
Кроме того, системы ИИ должны быть спроектированы таким образом, чтобы свести к минимуму их воздействие на окружающую среду (один сеанс глубокого обучения может создать углеродный след, аналогичный результату проезда на автомобиле на расстояние 700 тыс. км), повысить энергоэффективность.
Устойчивое развитие также требует того, чтобы правительства и компании принимали необходимые меры с учетом ожидаемого воздействия новых технологий на занятость, в том числе организуя переподготовку и повышение квалификации медицинских работников.
Важно отметить, что, помимо универсальных общемировых подходов, имеют место прецеденты рассмотрения этических проблем ИИ в здравоохранении на национальном уровне. Например, в Австралии в 2019 г. приняты девять этических принципов ИИ в медицине, что подчеркивает актуальность рассматриваемых вопросов [Ethical Principles for AI in Medicine, 2019].
Широкое внедрение ИИ в сферу здравоохранения потребует укрепления доверия медицинских работников, пациентов, населения в целом. Взаимодействие, диалог с общественностью – это средства обеспечения того, чтобы использование ИИ в медицинских целях соответствовало общественным ожиданиям и обеспечивало доверие и признание. Развитие ИИ предполагает передачу компаниям-разработчикам огромного количества данных о пациентах, при этом указанный факт не связан напрямую с оказанием медицинской помощи. Следует повышать осведомленность населения, развеивать опасения, разъяснять необходимость использования данных и управления ими для общественного блага.
Врачам и медицинским сестрам потребуется определенный уровень цифровой грамотности, который нужно будет поддерживать в меняющихся условиях. Систематическое и качественное обучение медицинских работников поможет избежать многих ошибок.
Участники системы здравоохранения несут ответственность за создание и функционирование прозрачной системы управления как новыми, так и уже накопленными медицинскими учреждениями данными, являющимися ценным информационным, незаменимым ресурсом, что может привести к их несправедливому с точки зрения благоприобретения использованию.
Компании, которые разрабатывают и внедряют технологии ИИ, несут ответственность за соблюдение прав человека. Оценка компаниями воздействия внедрения ИИ на права человека позволит выявить, понять, оценить и смягчить неблагоприятное воздействие бизнес-проектов, скорректировать несовершенные алгоритмы ИИ, приводящие к предвзятым, дискриминационным, несправедливым решениям. Необходимость проведения компаниями оценки своей деятельности регуляторам стоит определить как обязательную. Целесообразно, чтобы такие оценки были проверены независимой стороной до и после внедрения технологии ИИ и размещены в общем доступе.
Важным является формирование регулирования на уровне стран, экономических союзов государств, на глобальном уровне (ВОЗ) с целью, не препятствуя развитию ИИ, соблюсти баланс интересов бизнеса, системы здравоохранения, пациентов. Крайне важным является международное сотрудничество в этой области.