Норма согласилась с положительной оценкой Пабло: она тоже считала, что ИИ-программа могла бы привлечь внимание к нуждам и проблемам ее сообщества. Но сложно сказать, справилась ли ИИ-система с этой задачей. Очень немногие были посвящены в тайну существования алгоритма машинного обучения, который выбирал семьи. Даже Норма, которая слышала о программе помощи молодым матерям, не знала, что в основе нее лежит прогнозирующая компьютерная система. Публично об этом упомянули лишь однажды, в 2018 году, через пару лет после начала работы над алгоритмом, когда губернатор Уртубей заявил: «С помощью этой технологии… можно на пять-шесть лет вперед прогнозировать, какие девочки, или будущие подростки, с вероятностью 86% предрасположены к подростковой беременности»{112}.

Это заявление возмутило местных борцов за права женщин. Важным был и еще один момент: Уртубей сообщил о программе в разгар национальной кампании за легализацию абортов, развернутой в Аргентине в 2018 году. Правозащитница Пас Пенья, которая занимается проблемой влияния технологий на человека, сказала: «Судя по их словам, при наличии достаточных данных о жизни бедных семей можно внедрять консервативные меры, чтобы прогнозировать и предотвращать аборты у бедных женщин. Кроме того, есть мнение, что “если это рекомендует алгоритм, то это математика, а значит, верно и неопровержимо”»{113}.

Критики считали алгоритм слишком сложным и несовершенным инструментом, который пытается каким-то образом «исправить» девушек, вместо того чтобы решать социальные проблемы, из-за которых у них возникают трудности. В собранных данных не было информации о мужчинах. «Нацеленность лишь на один пол подкрепляет патриархальные гендерные роли и, по сути, винит девушек-подростков в нежелательных беременностях, как будто ребенка можно зачать без спермы, – написала Пенья. – Если учесть, что в базу данных входят девочки от десяти лет и старше, которые могут забеременеть лишь в результате сексуального насилия… как машина может сказать, что вы с высокой вероятностью станете жертвой такого насилия? Разве не жестоко создавать подобные вещи?»

Социальная работница Паула Каттанео, которая занимается в Сальте проблемами молодежи, услышала об ИИ-системе из телевыступления Уртубея. «Я смотрела и думала: что?! Я расспросила [коллег], и они сказали: “Так мы и работаем, мы фильтруем семьи по своему усмотрению, а правительство играет на этом и называет это алгоритмами”».

Паула двадцать два года работала в Сальте и согласилась стать моим проводником по лабиринтам местной бюрократии. Она весела и остра на язык, а ее доброта располагает к ней любого. Она много лет назад перестала быть практикующей католичкой и редко проявляет нетерпимость к людям. Исключение она делает лишь для католических благотворительных организаций вроде Conin, поскольку они настраивают против абортов семьи, с которыми она работает. Им она советует не лезть в чужие дела. «Это моя работа, а не ваша», – говорит она, вскинув брови. Подростки наверняка ее любят.

Родители Паулы работали сельскими врачами, а ее брат был усыновлен, поэтому она выросла в окружении социальных работников. Паула специализируется на общественном здравоохранении и работает с пациентами из групп риска, включая безработных, бедных и малолетних матерей, которым она помогает спланировать будущее. Она не просто навещает их дома. Она бывает везде, где проводят время молодые люди, – в спортивных центрах, молодежных клубах, торговых комплексах, – чтобы получить возможность поговорить с ними в безопасном месте. Кроме того, уже более десяти лет Паула курирует проведение абортов в больнице, где сама работает, обслуживая женщин и девушек из десятка соседних городов. Поскольку до декабря 2020 года аборты в Аргентине были запрещены, эта работа требовала огромной смелости.

«Эта работа отнимает у меня немало сил, но я занимаюсь ею в силу глубоких личных убеждений, – сказала она, когда мы вместе шли по городу. – Для меня это вопрос общественного здравоохранения и личной автономии».

Когда мы с Паулой встретились, то попытались разгадать загадку пропавшей ИИ-программы. Мы знали от Пабло, что сбор данных и разработка алгоритма происходили в 2016–2017 годах. В 2019 году сменилось правительство. Когда к власти пришла другая политическая партия, губернатор Уртубей был отправлен в отставку, а Министерство раннего детства, где работали Пабло и Чарли, расформировали и преобразовали в менее значимый «секретариат». Братьев Абелейра и их сотрудников уволили, а алгоритмическую систему забросили.

Мы пытались понять, что после этого случилось с данными и самой программой. Принесли ли они какую-нибудь пользу? Паула спрашивала об этом у коллег – социальных работников, медсестер, врачей и сотрудников местной администрации, которые работали с Чарли Абелейрой в 2018 году, – но никто из них не видел алгоритм в действии. Ни семьи, участвовавшие в эксперименте, ни социальные работники, ни сам Пабло Абелейра не знали, что стало с проектом после смены правительства в 2019 году.

Мы надеялись, что пролить свет на судьбу алгоритма в те годы, когда он предположительно использовался, поможет новый секретарь по охране раннего детства Карина Иради, которая сменила на этом посту брата Пабло, Чарли Абелейру.

Пока мы шли по извилистым мощеным улочкам Сальты, Паула рассуждала о том, насколько бессмысленно предсказывать будущее. Она не отвергала саму идею об использовании алгоритма, способного отбирать нуждающиеся семьи, но плохо понимала, как должна была работать созданная в Сальте программа. «Это как-то странно, – сказала она. – Что они делают? Стучат в дверь и говорят: “Здравствуйте! Ваша дочь может скоро забеременеть, поэтому мы отремонтируем вам туалет?” Представить себе не могу!»

Она всегда считала, что данные и статистика отражают закономерности, которые прослеживаются в каких-либо особенностях людей, но рассказать историю каждого просто не могут. Она отмечает, что социальные работники по-прежнему взаимодействуют с каждой семьей по отдельности. Нельзя клеймить людей и навешивать на них ярлыки. «Это слишком бесцеремонно. Девушка в итоге превращается в объект, словно она лишена контроля над собственной жизнью. Неужели она вообще ничего не может в ней изменить?»

Паула сказала, что министерство Абелейры, возможно, действительно поработало с семьями и определило, в каких сферах им нужна поддержка, но тогда зачем было делать прогнозы? Почему просто не передать эти данные опытным социальным работникам?

Мы пришли в Секретариат раннего детства и семьи, надеясь получить ответы на наши вопросы. Он располагался в веселом оранжевом здании с высокой деревянной дверью, в которую входили и выходили молодые матери с колясками и девочки-подростки. Здание было узким, с маленькими кабинетами вдоль длинного коридора. Нас провели в кабинет Иради, где она сидела за угловым столом напротив фотографии действующего губернатора и бордово-черного флага Сальты. Иради сообщила, что ее департамент по-прежнему хранит данные, собранные при Абелейре в 2016 году, и опирается на них при разработке новых стратегий и мер. Но эти данные не используются для поведенческого прогнозирования беременностей.

Иради говорила об этом проекте с некоторым пренебрежением, как и Паула. «Наши программы не имеют прогностической составляющей, поскольку мы считаем, что технологии не всесильны, – отметила она. – Человеческий опыт и искусственный интеллект разделяет пропасть. Не зная социальной реальности конкретного региона, невозможно ни делать прогнозы, ни строить планы. Мы понимаем, что ИИ может быть полезен, но точно не для принятия подобных решений».

Она утверждает, что понять эти семьи можно лишь в том случае, если навещать их, выяснять, чего им не хватает, и разрабатывать меры поддержки в сотрудничестве с ними – чем и занимается Паула. Иради отметила, что администрация Абелейры дала старт и ряду других проектов – гораздо более практичных, чем программа машинного обучения. Теперь ее команда развивает их дальше. «Сходите на экскурсию с моим заместителем и посмотрите, что мы сделали, – сказала Иради. – Она все вам покажет».