На протяжении двух лет я периодически беседовала с Зиадом и Ашитой, и эти разговоры всегда вселяли в меня оптимизм. За то время, что я писала о влиянии ИИ на людей, я пришла к выводу, что здравоохранение – это, пожалуй, та область, где технология имеет поистине революционный потенциал. Клинически протестированные ИИ-программы сегодня анализируют снимки не хуже радиологов, помогая диагностировать смертельные заболевания на ранних этапах и находить новые методы лечения. И Зиад, и Ашита рассчитывали, что ИИ-инструменты помогут сгладить социальное неравенство во благо пациентов, которых подводит нынешняя система, и алгоритмы в знакомых им обстоятельствах становились символом уверенности и надежды.

Политолог Урваши Анеджа, которая живет всего в паре часов езды от Чинчпады, последние шесть лет изучает применение ИИ в Индии, пытаясь оценить, какие преимущества программы дают самым уязвимым группам населения и какие риски с ними сопряжены. Но она настроена не столь оптимистично, как я.

Изучая различные опытные образцы ИИ-программ, которые испытываются в стране, она обнаружила, по собственному выражению, настоящее «кладбище пилотных проектов». Хотя скромное экспериментальное приложение Qure и подает надежды в Чинчпадской христианской больнице на 50 коек, его пока еще не внедрили в других медицинских центрах региона. Анеджа видела десятки других похожих проектов – тестовых версий, которые так и остались лишь успешными экспериментами. Чтобы технология помогала пациентам из деревень, недополучающим внимания врачей, ее необходимо внедрять в государственную систему здравоохранения, а не только в частные больницы. Но это требует значительного увеличения государственных инвестиций – и иного надежного способа обеспечить ее использование Анеджа просто не видит.

Она уловила горькую иронию душным сентябрьским днем 2020 года, когда навещала родственника в крупной частной больнице в Дели. В регистратуре в тот день был установлен большой знак, обращенный к посетителям: «Хотите пройти ИИ-диагностику туберкулеза? Вам сюда → на VIP-обслуживание».

«ИИ-диагностика предлагалась в качестве премиальной услуги – как дополнительное преимущество, за которое надо заплатить. Таков сегодня рынок, – сказала Анеджа. – Компании не видят смысла вкладываться в самые бедные и отдаленные регионы, поскольку эта часть населения не может себе позволить медицинские услуги на базе ИИ, как, впрочем, и обычные медицинские услуги. И это базовое противоречие никуда не исчезает».

Развитие ИИ-диагностики стимулируется главным образом не государственными инвестициями, а вложениями частных западных компаний, таких как Google и Amazon. Предполагается, что к 2028 году это может принести им 4–7 млрд долларов{86}.

Сбор данных через партнерства с местными организациями – ключ к развитию технологий ИИ, поскольку по закону получить доступ к конфиденциальной медицинской информации чрезвычайно сложно. Но без этих данных не будет и ИИ.

Например, компания Google вступила в партнерство с самой известной в Индии сетью недорогих офтальмологических клиник Aravind, чтобы протестировать ИИ-программу для диагностики диабетической ретинопатии – серьезного заболевания, которое при отсутствии лечения может привести к слепоте{87}. Созданные в Google ИИ-модели обучались на наборах обезличенных медицинских данных, предоставленных Aravind. Теперь гигант из Кремниевой долины усовершенствовал этот инструмент и внедрил его в других странах, включая Таиланд и США.

Тем временем Qure.ai вышла на прибыльные западные рынки. Среди прочих ее программу используют Национальная служба здравоохранения Великобритании и больницы в США и Евросоюзе. Анеджа опасается, что данные, собираемые компаниями в бедных индийских деревнях, приведут к созданию дорогих технологий, приносящих пользу тем клиентам – в том числе государствам, – которые способны за них заплатить, и оставляющих за бортом уязвимых пациентов, которые помогали их создавать.

Больше всего Анеджу тревожит изменение расстановки сил из-за владения данными. «То, что мы наблюдаем в Индии и, шире, на глобальном Юге, – сказала она, – это форма цифрового колониализма, где у людей собирают огромное количество данных, что практически не улучшает ситуацию в соответствующих регионах, но позволяет технологическим корпорациям выкачивать из них максимум».

* * *

По всей Индии услуги здравоохранения в таких деревнях, как Чинчпада, оказываются самым гуманным образом: работники первой линии, называемые уполномоченными активистами общественного здравоохранения (Accredited Social Health Activist, ASHA), навещают пациентов на дому, ходя от двери к двери. На хинди «аша» значит «надежда». Как правило, уполномоченными становятся местные женщины, которым панчаят, или деревенский совет, поручает работать со своими сообществами, и они служат доверительным связующим звеном между домохозяйствами и государственной системой здравоохранения. Их привлекают к вакцинации населения и обеспечению дородового и послеродового ухода. Они помогают добиться того, чтобы женщины рожали в больницах, дают советы по питанию и наблюдают за здоровьем детей в своем регионе.

На практике уполномоченные заботятся о матерях и малолетних детях, дают неформальные медицинские рекомендации, распространяют лекарства, совместно выполняют функцию системы раннего обнаружения эпидемий и собирают важную информацию в огромной и густонаселенной стране, медицинская инфраструктура которой трещит по швам. Если врач вроде Ашиты – лучшее, на что могут надеяться деревенские жители, то сотрудники ASHA – столпы индийской государственной системы здравоохранения.

Однако, когда на рынок здравоохранения вышли компании из сферы искусственного интеллекта, сотрудники ASHA тоже начали собирать данные, сохраняя на предоставленных государством айпадах все больше оцифрованной медицинской информации – от сведений о вакцинации до данных о женском здоровье, питании детей и болезнях, передающихся половым путем. Государство платит уполномоченным небольшое жалованье, но нередко им платят и частные организации, которые нуждаются в целых океанах чистых и надежных данных для создания ИИ-систем. Доверяя уполномоченным, местные семьи соглашаются на раскрытие личной информации что делает сотрудников ASHA ценными источниками данных для обучения алгоритмов.

Индийская некоммерческая организация Wadhwani AI, которая среди прочего получила грант на 2 млн долларов от Google{88}, привлекла к сотрудничеству уполномоченных из пятидесяти локаций в четырех штатах, чтобы создать базу данных с видеозаписями новорожденных детей{89}. Теперь эту базу называют фундаментом работы компании в сфере антропометрии – науки об измерении человеческих тел, – который помог ей при разработке ИИ-инструмента для определения веса новорожденных в деревнях, где нет младенческих весов.

Анеджа побеседовала с десятками уполномоченных и деревенских врачей, чтобы понять, как местные сборщики данных помогают международным компаниям совершенствовать ИИ-алгоритмы. Она обнаружила, что индийские стартапы, создающие ИИ-модели, часто становятся региональными базами талантов для западных компаний, которые используют их данные и опыт через партнерства и разрабатывают специализированные алгоритмы для других рынков. Например, Qure.ai вступила в партнерство с Национальной службой здравоохранения Великобритании и компанией AstraZeneca, чтобы продвигать по всему миру свои алгоритмы диагностики рака легких.

Если представители сообществ и понимали, зачем они делятся своими данными, то считали, что приносят пользу науке и системе здравоохранения. Но люди, с которыми беседовала Анеджа, чувствовали, что не могут воспользоваться преимуществами технологий, в создание которых вносят свою лепту.

В ходе этнографического исследования роли ASHA одна уполномоченная по имени Мина, живущая в трущобах на юге Дели, спросила: «Куда пойдут эти данные?» Четкого ответа ей никто не дал. Многие жаловались, что редко видят продукты, которые создаются благодаря собранным ими данным. Часто компании вообще перестают выходить с ними на связь.

«Вопрос не только в данных – вопрос в зависимости государства от крупнейших технологических компаний», – сказала Анеджа. Она полагает, что зависимость от американских компаний слишком сильна. «Большинство государственных систем [здравоохранения] опирается на Amazon Web Services. Значительная часть инфраструктуры и экспертных знаний, которые влияют на то, как государство относится к ИИ, обеспечивается компаниями “большой пятерки”. Они заполняют пробелы, которые возникают из-за слабости государственных институтов».

Ашита тоже сдержанна в своих оценках. Ей нравится продукт Qure.ai, и она считает, что у него огромный потенциал, но чтобы повысить доступность здравоохранения в реальном мире, эту технологию необходимо переместить из частных больниц вроде той, где работает она сама, в бесплатные государственные медицинские центры и передвижные медпункты. В ее больнице приложение позволяет быстро получить второе мнение, но крайней необходимости в нем у Ашиты нет. Она квалифицированный и опытный врач, а потому, скорее всего, поставила бы такие же диагнозы и без помощи приложения. «Мы говорим компании, что использование этого инструмента в нашей больнице не сможет существенно повлиять на ситуацию», – сказала Ашита.

В 2022 году она познакомила разработчиков Qure.ai с сотрудниками государственного окружного туберкулезного диспансера и представителями Всемирной организации здравоохранения в Нандурбаре. Она отметила, что внедрение приложения qTrack в бедствующих районах страны требует времени и денег. Команда Qure представила свою технологию на встрече в администрации округа и произвела хорошее впечатление на собравшихся. Однако, как и опасалась Ашита, хотя принципиальное согласие на внедрение технологии было получено, все застопорилось из-за бюрократии. Уговаривать государство повсеместно внедрять qTrack – настоящая мука, и команда Qure все еще обсуждает детали с окружными властями.

Ашита прекрасно видит, что ее мечту об ИИ-диагностике туберкулеза по всей стране отделяет от реальности целая пропасть. Корень проблемы в том, что жаждущие прибыли корпорации и маргинализированные сообщества вроде тех, к которым принадлежат ее пациенты, обычно существуют на противоположных полюсах.

Я побеседовала с мексиканской ученой и правозащитницей Паолой Рикаурте, которая пытается разобраться в этих противоречиях. Ее исследование помогает пролить свет на явление, которое называют колониализмом данных, – извлечение прибыли из данных, полученных от маргинализированных и уязвимых групп и использованных при создании ИИ-систем.

«Компании “большой пятерки” сосредотачивают у себя деньги, сосредотачивают ценность, создаваемую при сборе данных, но также сосредотачивают и знания, что, на мой взгляд, самое важное», – сказала Рикаурте. Она отметила, что в период пандемии 2020 года стало очевидно, что мексиканское правительство нуждается в помощи Google, чтобы разработать собственную внутреннюю политику в области здравоохранения.

Эти знания проистекают из данных, которые, по словам Рикаурте, служат для общества зеркалом, где отражаются наш опыт, наши поступки и сама суть того, кто мы есть. «Поскольку у нас нет доступа к тем знаниям, которые они получают благодаря нам, мы начинаем отставать. Это неравные отношения, асимметричное распределение власти».

Ашита прекрасно понимает, что такое социальные асимметрии, поскольку каждый день сталкивается с ними на работе и в жизни. Но именно поэтому она понимает и то, что такие сообщества, как бхилы, никогда не получат доступ ко всем необходимым врачам и ресурсам. Я тоже верю, что правильно разработанный и внедренный ИИ может помочь спасти жизни самых обездоленных. Если эта технология доберется в места, где в ней действительно нуждаются, я уверена, что жизнь всех людей станет лучше, а врачи получат новый полезный инструмент.

«Когда людей не хватает, я думаю, что технология служит им достойной заменой, – сказала Ашита. – Она может произвести революцию в наших методах лечения».