В 2019 году специальный докладчик ООН по вопросу о крайней нищете и правах человека опубликовал изобличительный отчет о появлении так называемого цифрового социального государства – о датафикации государственных функций. В этом отчете без обиняков говорилось, что цифровые технологии, включая ИИ, которые определяют, кто именно получит социальную поддержку и защиту, просто «оценивают, идентифицируют, преследуют, обнаруживают, берут на прицел и наказывают» бедняков{111}.

Кроме того, в отчете содержалось предупреждение о растущем влиянии западных корпораций на правительства по всему миру – ярком проявлении колониализма данных. Современное государство тесно связано с частными компаниями, которые обычно разрабатывают и обслуживают цифровые системы социальной защиты, поддерживающие уязвимых граждан, – например, ИИ-системы в сфере здравоохранения, использование которых в Индии вызывает озабоченность у индийского политолога Урваши Анеджи.

В частности, в отчет ООН вошло предостережение о «большой пятерке» американских технологических компаний, включая Microsoft, которые обеспечивают функционирование значительной части государственной инфраструктуры и потому собирают персональные данные граждан, «работая в особой зоне, где практически не соблюдаются права человека».

Я спросила у Пабло, как вообще североамериканская технологическая корпорация Microsoft оказалась вовлечена в разработку социальной политики на провинциальном уровне, причем в таких деликатных сферах. Он ответил, что Microsoft гналась не за деньгами. Компании нужно было получить опыт работы с персональными данными, пусть даже обезличенными, доступ к которым обычно имеет лишь правительство, и благодаря этому привлечь клиентов к использованию своей новой облачной технологии и разработать ИИ-инструментарий для применения в общественно-политической сфере.

Сотрудникам компании не платили за работу, но они получали опыт создания программы социальной защиты на базе ИИ, который впоследствии можно было продать другому правительству. Кроме того, они зарабатывали себе хорошую репутацию, помогая спасать женщин от нищеты. Как отметил Пабло, все были в выигрыше.

Для запуска проекта команда Пабло нуждалась в универсальном топливе для ИИ – крупной базе данных. В описанном случае данные были конфиденциальными и обширными: это были сведения о здоровье уязвимых молодых женщин в нестабильных ситуациях.

Пабло знал, что не сможет отправить людей стучаться в двери к его соседям и друзьям. Он никогда не посмел бы собирать информацию о девушках в частной католической школе в центре города. Те самые друзья-врачи, которые жаловались ему на высокое число абортов, ни за что не пустили бы исследователей к себе домой и не позволили бы им расспрашивать их дочерей о нежелательных беременностях.

Но жители трущоб, такие как семья Нормы, привыкли к тому, что к ним постоянно приходят сотрудники государственных и благотворительных организаций, которые с планшетом в руках задают им вопросы об их телах, их семьях, их жизнях. Как утверждает Пабло, эти люди сами открывали двери, окликали исследователей и приглашали их к себе домой. Они очень хотели, чтобы их услышали и чтобы им помогли.

Бедные сообщества, сообщества коренных народов или, например, семьи иммигрантов, к которым проявляют повышенное внимание власти Нидерландов, неизбежно в большей степени опираются на государство в вопросах здравоохранения, образования и работы, а также для обеспечения базовых потребностей в жилье, электричестве и питьевой воде. В силу частых взаимодействий с государством они гораздо чаще фигурируют в государственных базах данных, чем такие зажиточные семьи, как Абелейра. Разумеется, районы для сбора информации и релевантные переменные выбирались исключительно из политических соображений, в связи с чем итоговая картина получалась однобокой.

На ранних этапах разработки проекта Пабло посетил несколько попавших в эту базу данных семей, но впоследствии забыл, где именно они жили. Он явно не ходил от двери к двери и не собирал данные лично. Он был одним из тех, кто сидел за компьютером, производя расчеты и разрабатывая модель, которая составляла списки.

Анкетировать граждан должны были их знакомые – аналогично тому, как сотрудники ASHA собирали информацию о здоровье и беременностях в индийских деревнях. В Сальте этим занялись студенты, которые учились в университете на социологов и медсестер, сотрудники общественной организации Conin и представители различных органов местного самоуправления, уже знакомые с семьями.

Каждую девушку из сообщества спрашивали о ее социально-экономическом положении, образовании и репродуктивной истории. Сборщики данных записывали информацию о ее физических и психических заболеваниях. Они выясняли, замужем ли девушка, и задавали ей вопросы о беременностях и детях (живых и умерших), о ее матери, родных и двоюродных сестрах, а также о том, где работают поддерживающие ее родственники. Они спрашивали, как девушка живет: о нищете и запустении, о повседневных проблемах, о том, какими туалетами пользуются члены ее семьи, о том, жестяная ли в доме крыша и случаются ли протечки.

Чтобы спрогнозировать вероятность того, что конкретная девушка забеременеет в двенадцать, пятнадцать или восемнадцать лет, программисты создали модель, которая учитывала данные о социально-экономическом положении и семейной истории девушки, полагая, что этих факторов достаточно для оценки вероятности забеременеть и что их можно переносить и на будущие поколения. Девушек не спрашивали, насколько защищенными они чувствуют себя в своих сообществах, в какой степени они самостоятельны и самодостаточны и какие надежды они возлагают на будущее. У них не спрашивали, хотят ли они детей и не боятся ли они, что у них просто не будет другого выбора. Вопросы о мужчинах им тоже не задавали. В процессе сбора данных молодых женщин считали пассивными существами.

Даже в тех районах, где люди добровольно соглашались пройти анкетирование, команда Министерства раннего детства не могла объяснить им свои реальные цели. Многие семьи были верующими католиками. Хотя родители трезво смотрели на вещи и понимали, что их дети-подростки могут заниматься сексом, едва ли они были бы рады услышать, что их несовершеннолетняя дочь скоро забеременеет. Подобно высеченному в камне пророчеству, оценка вероятности предопределяла неизбежное будущее. Точно так же, как амстердамская программа сообщала, что чей-то ребенок в будущем совершит серьезное преступление. Это было клеймо. Алая буква.

По словам Пабло, алгоритм был слишком сложен, чтобы объяснить его работу. Людям говорили, что исследователи собирают информацию о проблемах, с которыми они сталкиваются, чтобы правительство нашло для них решение. Им давали надежду, что государство поможет им отремонтировать дом, перекрыть крышу, положить приличный пол, обеспечить санитарные нужды, получить доступ к здравоохранению и выучиться на плотника или сантехника, чтобы обрести финансовую независимость.

«Мы можем сказать: хорошо, вы существуете, мы заботимся о вас, мы можем сделать что-нибудь, чтобы улучшить вашу жизнь или помочь вам, – говорит Пабло. – По крайней мере, это позволяет нам пролить свет на то, что обычно скрывается от глаз…»