В начале 2020 года в Чинчпаде наблюдалось все больше случаев заболевания, вызываемого новым заразным вирусом, преодолевшим почти пять тысяч километров из Уханя. В штаб-квартире Qure.ai в Мумбаи ученые-информатики использовали сотни рентгеновских снимков легких пациентов с COVID–19, чтобы обучить новый набор ИИ-моделей диагностировать коронавирусную инфекцию, и затем внедрили эти модели в свое приложение. Мумбайские муниципальные власти снабдили приложением медицинских работников, которые трудились на переднем крае в таких очагах заболеваемости, как трущобы Дхарави, и проводили выборочные анализы и отправляли семьи на карантин еще до широкого распространения ПЦР-тестов.
В первые дни пандемии Ашита тоже стала применять qTrack в процессе диагностики нового коронавируса, поскольку в Qure.ai ее заверили, что приложение уже способно с этим справляться. Но она довольно быстро заметила, что модель совершает серьезную ошибку: часто путает рентгеновские снимки пациентов с туберкулезом и пациентов с подозрением на COVID–19.
Специалисту по инфекционным заболеваниям эти затруднения были вполне понятны: туберкулез и коронавирус оказывают схожее деструктивное воздействие на легкие. Многие врачи с трудом могли отличить одно от другого, а поскольку ИИ-система обучалась на диагнозах, поставленных людьми, в итоге ошибалась и она.
Ашита, однако, прекрасно знала, как выглядит туберкулез: эта бактерия каждый день представала перед ней во всех своих ужасных формах. Она сообщила о проблеме в компанию, после чего в приложение добавили туберкулезный фильтр: если пациент приходил на прием с рыхлыми, затуманенными легкими, приложение сначала проверяло его на туберкулез и лишь затем начинало искать уникальные признаки COVID–19. Оно училось различать эти заболевания на базе статистики.
В этом случае ИИ-модель не могла помочь Ашите, как было задумано. Напротив, это Ашита помогала совершенствовать программу, которая затем получила более широкое распространение.
Теперь Qure.ai помогает с диагностикой целого ряда заболеваний, включая COVID–19, туберкулез, травмы головы и рак легких. Приложение используется более чем в 600 местах в шестидесяти странах мира, от трущоб на Филиппинах до больших городов в Малави, Перу и Мексике{72}. В государственных больницах Мумбаи благодаря ИИ-скринингу диагностика туберкулеза улучшилась на 35%{73}. Компания получила более 60 млн долларов финансирования от иностранных инвесторов, включая престижную венчурную компанию из Кремниевой долины Sequoia Capital и фармацевтического гиганта Merck{74}.
Весной 2021 года Чинчпаду захлестнуло цунами нового штамма COVID–19. Вторая волна пандемии в Индии за несколько недель убила 100 тысяч человек, парализовала систему здравоохранения и вынудила людей выносить тела умерших родственников прямо на улицы{75}. Индия относительно спокойно справилась с первой волной коронавируса, но теперь она – моя родина – стала эпицентром пандемии.
На Ашиту навалилась целая гора проблем, и по нашей переписке я заметила, что этот период оказался для нее особенно трудным. «Мы увеличили количество коек в нашей маленькой деревенской больнице с пятидесяти до восьмидесяти четырех… и они постоянно заняты, – писала она мне в вотсапе. – Сорок-пятьдесят пациентов получают кислород, четверо подключены к аппарату ИВЛ, от двух до пяти ежедневно умирают. Кроме того, многие умирают дома в деревнях, потому что не хотят оказаться в изоляции в больнице. Люди с другими жалобами – на сердечные приступы, укусы змей, туберкулез – не получают лечения. В этом месяце мы диагностировали туберкулез лишь у двух пациентов. Государственный механизм бесплатного обследования на туберкулез сейчас не работает. Пандемия показала, как плохо организована система здравоохранения в нашей стране. Я даже не знаю, когда это все закончится. Это просто невыносимо».
Утром одного из тревожных дней 2021 года, которые для Ашиты слились в одно целое, в больницу с высокой температурой поступила Джайнабай, сельхозработница из племени бхилов. Ей было за сорок, и она страдала от тяжелого диабета. Она жила в соседней деревне и была одной из постоянных пациенток больницы. Когда ее привезли на гужевой повозке, Ашита ужаснулась ее симптомам. Ашите не удавалось разглядеть на рентгеновском снимке Джайнабай признаки COVID–19, но сатурация составляла опасные 92%, поэтому медлить с лечением было нельзя.
На этом этапе, сталкиваясь с коронавирусом, врач должен принять ряд ключевых решений. Например, лечить ли пациента стероидами, подключить ли его к аппарату ИВЛ. Если у Джайнабай действительно был COVID–19, стероиды пошли бы ей на пользу. Но у Ашиты были сомнения, поскольку в ином случае такая терапия могла и убить пациентку. Стероиды повысили бы уровень сахара в крови, а он и без того был опасно высоким, поскольку в последние недели Джайнабай не принимала лекарства от диабета. Ашита обратилась к приложению qTrack, которое считала объективным советчиком.
Когда программа сообщила, что у Джайнабай с высокой вероятностью COVID–19, Ашита приняла решение. «Я знала, что если отложу терапию стероидами, ее состояние может значительно ухудшиться. В итоге мы ввели ей большую дозу инсулина, чтобы взять уровень сахара под контроль, и дали ей стероиды, поскольку так сказало приложение. К счастью, все закончилось хорошо и она выздоровела».
Вот так, пока одна волна пандемии сменяла другую, приложение стало постоянным советником врачей в Чинчпаде. Оно совершенствовалось с каждым следующим случаем, который представляли на рассмотрение его алгоритмам, и надежно оценивало риски, когда у людей возникали затруднения. В тот период даже врачи постоянно обновляли свои знания. «Это приложение стало для нас опорой, помогая подтверждать наши клинические подозрения, – сказала Ашита. – И это стало настоящим благословением».
Теперь Ашита полагает, что настало время поставить алгоритмы рентгенографического скрининга на службу целым сообществам, например бхилам. Это поможет выявлять такие болезни, как туберкулез, которые во время пандемии были задвинуты на второй план, и предотвращать их перерастание в серьезную проблему, чтобы сообщество адиваси повысило свой уровень жизни и получило доступ к качественным медицинским услугам.
Когда в 2005 году Ашита только получила диплом, она устроилась работать в больницу на окраине Тезпура, небольшого города в восточноиндийском штате Ассам, который славится роскошными чайными плантациями и несравненным видом на Гималаи. Племенные сообщества, жившие в предгорьях, часто спускались в Тезпур – ближайший к ним город, куда можно было дойти пешком, – за срочной медицинской помощью.
Ашита была там единственным врачом, а больнице не хватало различного базового оборудования, на которое опирается современная медицина: рентгеновских аппаратов, газоанализаторов крови, КТ-сканеров, аппаратов ИВЛ. В округе не было лабораторий, чтобы подтверждать диагнозы, а медицинская инфраструктура функционировала плохо. Ашита поняла, что в таких условиях не сможет заниматься той медициной, которую изучала по учебникам, и ей придется смириться с тем, что ей как врачу не все будет под силу.
Влажным летом 2006 года, через год после того, как Ашита с мужем приехали в Тезпур, город охватила эпидемия малярии, вызванная полчищами москитов. За несколько недель в маленькой больнице умерло почти 300 человек{76}. Ашита, которая тогда была беременна своим первым ребенком, не отходила от больных. «Я разрывалась на части, я не могла заснуть по ночам, – говорит она. – Мне было очень сложно смотреть, как дети поступают в больницу, задыхаются и умирают. Мы ничего не могли с этим поделать».
Она оплакивала каждого умершего и ночами, не смыкая глаз, снова и снова прокручивала в голове свои решения. Может, она что-то проглядела? Может, слишком поздно поставила диагноз? Был ли способ спасти всех этих людей? Лишь много месяцев спустя она наконец обрела покой и смирилась с мыслью, что ее престижного медицинского образования недостаточно, чтобы спасать жизни в этих местах, и ей нужно научиться обходиться малым и доверять интуиции.
На профессиональное развитие Ашиты серьезно повлияла медицинская практика в условиях кризиса при недостатке ресурсов, поэтому, много лет проработав лишь с самыми примитивными вспомогательными технологиями, она не позволяет никаким технологическим новинкам, включая ИИ, ограничивать ее свободу суждений. Искусственный интеллект создан для того, чтобы давать однозначный ответ. Ему недостает тонкости. Если опыт Ашиты расходится с выводами ИИ, она знает, что не может слепо верить приложению.
«Это не волшебное средство, и я не могу позволить ему диктовать мне решения и руководить мною», – говорит она. Она понимает, что ИИ не всесилен и может ошибаться, как и врачи. «Врачи тоже сомневаются в своих выводах, но остаются в ответе за пациентов. Как врач, я принимаю взвешенные решения и делаю моральный выбор. ИИ это не под силу».
ИИ распространяется все шире, и его пользователям нужно помнить о предвзятости автоматизации – широко изучаемом феномене, который возникает, когда люди в своей работе начинают чрезмерно полагаться на автоматизацию. Он наблюдается везде – от беспилотных автомобилей до камер видеонаблюдения. Не боится ли Ашита, что врачи тоже потеряют бдительность и станут реже проверять предположения диагностического ИИ? Не разрушит ли это их навыки и не поставит ли крест на свободе их действий?
Ашита периодически размышляет об этом. Она говорит, что приложение Qure не изменило ее подход к принятию решений, но только потому, что, сверяясь с ним, она всегда остается начеку и считает его экспериментальным. Но вскоре ситуация может измениться. «Новое поколение студентов-медиков ищет простые решения и стремится к быстрой отдаче, поэтому им очень сложно объяснить, в чем ценность глубокого взаимодействия с пациентами, изучения историй болезни и проведения физикальных обследований, – говорит Ашита. – Думаю, приложение может подчинить себе лишь того, у кого нет хорошей медицинской подготовки».
Массовое воздействие предвзятости автоматизации на врачей может привести к пагубным последствиям, но Ашита полагает, что в случае с ее пациентами польза медицинского ИИ перевешивает связанные с ним риски.
«Из всех ресурсов, которые направляются на профилактику и лечение туберкулеза, инвестировать стоит именно в этот, поскольку он доступен», – говорит она. При этом Ашита понимает, что таким пациентам, как те, что лечатся у нее, он доступен лишь когда субсидируется государством, снижая необходимость в существующей медицинской инфраструктуре. Если же этот ресурс останется дорогим удовольствием, он никогда не доберется до тех, кто в нем нуждается. «Я сказала: если моим пациентам придется доплачивать за ваше приложение, я откажусь от него, – говорит Ашита. – Если вы так сделаете, я перестану им пользоваться. Я лучше буду покупать людям яйца».