Система IJOP, как и многие другие программы на основе больших данных и машинного обучения, сосредотачивала власть в руках немногих и несоразмерно притесняла уязвимые группы. В Синьцзяне технологии надзора использовались против сообщества уйгуров. «Сильнее всего в Китае притесняются рабочие-мигранты, бедняки и уйгуры, – говорит Майя. – Тем, кто входит сразу во все три группы, приходится несладко».

Постоянный мониторинг и контроль над населением Китая приносил выгоду немногочисленной прослойке власть имущих – в частности, политическим лидерам. При этом в цифровые сети попадали люди с нижнего яруса социальной пирамиды, которые, вероятно, имели основания жаловаться и протестовать, но лишались всякой возможности влиять на ситуацию. Эта система была истинным воплощением концепции колониализма данных и работала как невидимая рука, которая подавляла любые зачатки инакомыслия и сопротивления в самых уязвимых слоях общества. Такие технологии, как системы распознавания лиц, часто внедрялись без ведома людей, которые оказывались у них на прицеле, хотя и не давали на это своего согласия, и активисты по всему миру со временем узнавали об этом на собственном печальном опыте.

Жизнь человека, получившего метку в приложении IJOP, менялась навсегда. Помеченные индивиды становились кандидатами на отправку в лагеря перевоспитания, развернутые по всему региону. Предиктивная программа, которая на глазах у Майи внедрялась по всему Китаю для предотвращения мелких и крупных преступлений, уже наносила первые удары в Синьцзяне, массово отправляя уйгуров в лагеря.

Майя обнаружила, что в Синьцзяне абсолютно все – а не только узники лагерей – жили в цифровой тюрьме, выстроенной из данных. Людей распределяли по отдельным виртуальным тюремным корпусам, давая им разную степень свободы в зависимости от того, как набор алгоритмов оценивал уровень исходящей от них угрозы. В этом «мире смерти» – если пользоваться термином, предложенным для притесняемых обществ африканским историком Акилле Мбембе{172}, – решения машин влияли на то, с кем люди виделись, куда ходили, что носили и какого бога могли почитать. Они были полностью лишены свободы.

«Если вы идете в кино, в торговый центр, в супермаркет, просто по улице, у вас на пути может возникнуть контрольно-пропускной пункт, как на границе Израиля и Палестины, только в Синьцзяне они повсюду: в деревнях, на шоссе, в городах и на окраинах», – говорит Майя, отмечая, что уйгуры, по сути, живут в клетке.

Если человек работал в городе, а жил в пригороде, ему необходимо было оформлять пропуск для регулярных поездок на работу. Ему приходилось просить разрешения, чтобы навестить свою мать в другом городе или встретиться с другом на юге Синьцзяна. Если уйгуры не сообщали о своих перемещениях, то системы обнаружения, в частности программы распознавания лиц, превращались в тюремных надзирателей.

Получив метку от алгоритма, люди лишались возможности покидать свою страну или префектуру. Помимо прочего, в качестве контрольных точек для ИИ использовались и семейные связи. Если человека или его родственников в прошлом задерживали и отпускали, его свободы ограничивались сильнее. Многих арестовывали просто потому, что ранее под арест попадали их родственники. На контрольно-пропускном пункте человека могли задержать или развернуть. Существовали цифровые имущие и неимущие.

Для любого, кто попадался на крючок, повседневная жизнь превращалась в постоянный источник стресса. Люди не понимали, как работают алгоритмы, не знали, какими критериями руководствуются власти, и не понимали, кому можно доверять. Они были полностью во власти деспотической кафкианской системы – как китайские гиг-работники, называвшие так приложения доставки, которые ими руководили.

Уйгуры в регионе знали только, что их жизнь рассматривают под микроскопом, что людей отправляют в центры перевоспитания, местоположение которых не раскрывается, и что их ждет наказание за разговоры на своем языке и исповедание своей религии. Они знали, что за ними наблюдают через их цифровые устройства.

Они удаляли зарубежные приложения, такие как Telegram, зарывали телефоны в землю и переставали разговаривать с родственниками, даже находясь у себя дома. Некоторые общались друг с другом с помощью жестов вместо слов, поскольку опасались, что их дома и автомобили прослушивают. На улицах люди закрывали лица, чтобы их не распознавали камеры, установленные через каждые несколько метров. «Это меняет самосознание жителей региона», – отмечает Майя.

В 2014 году уйгурский поэт и лингвист Абдувели Аюп был арестован китайскими властями и на пятнадцать месяцев отправлен в лагерь за попытку открыть в своем родном синьцзянском городе уйгуроязычные детские сады. Из-за связей с Аюпом, который давно вышел на свободу и теперь живет в Норвегии, арестовали также его брата и племянницу. Племянница впоследствии умерла в заключении.

В недавнем интервью Аюп описал технологию слежки на базе ИИ, с которой столкнулся в лагере{173}. «Каждый контрольно-пропускной пункт оборудован системой распознавания лиц. Через каждые сто метров установлены большие компьютерные экраны, и программа анализирует лица, сопоставляя их с документами. Если изображения совпадают, первый этап проверки пройден», – сказал он.

На втором этапе, по его словам, анализируются отражаемые на лице эмоции: как утверждается, программа определяет, не злится ли человек и нет ли у него намерения совершить нападение. «Для этого они изучают веки и другие черты», – отметил Аюп. Он полагал, что машины также анализируют физические характеристики и выражения лиц, чтобы прогнозировать благонадежность. «У них есть три типа: зеленый значит, что человек не опасен, желтый – что его настроение в пределах нормы, а красный сигнализирует об опасности», – сказал Аюп. Если система признает человека принадлежащим к «красной» группе, его уводят в комнату для допроса. После этого его могут отправить в лагерь перевоспитания, а могут и вовсе посадить в тюрьму.

Описанное Аюпом свидетельствует о применении физиогномики – теории, получившей особенно широкое распространение при нацистах, которые использовали ее, чтобы наращивать этнические репрессии и укреплять расистскую идеологию. После Второй мировой войны физиогномика была признана лишенной научных оснований и, несмотря на позднейшие попытки доказать, что программы на базе ИИ могут точно определять эмоции людей и устанавливать черты характера по лицам, научный консенсус по-прежнему гласит, что такие идеи следует считать лженаучными.

Слова Аюпа подтверждают и другие выходцы из региона. В 2021 году один уйгур рассказал Майе, как однажды попытался съездить в загородный аквапарк. Алгоритмы IJOP сочли этого человека подозрительным, и после допроса в полиции ему запретили покидать город. Незадолго до этого его уже допрашивали, но отпустили без предъявления обвинений, и он был напуган. И все-таки он отважился спросить одного из служащих на КПП, почему его не пропускают. Офицер сказал, что система есть система. Нужно подчиняться ее приказам. Обжаловать их невозможно. «Радуйтесь, что вас не отправили в тюрьму», – добавил он.

В таком мире, где властвуют надзор, цензура и контроль, инакомыслие теряет смысл. Людям может казаться, что у них по-прежнему есть возможность влиять на ситуацию, но правительство способно заблаговременно прогнозировать, предупреждать и подавлять любое коллективное действие. Это заставило Майю задуматься: что́ есть человечество, если пятая часть мирового населения не может свободно решать, что ей делать?

В ее представлении люди в Китае ничем не отличаются от всех остальных. Майя считала, что их положение должно беспокоить каждого, кто вообще верит в права человека. Ведь как только подобные проявления несправедливости, вызванные использованием ИИ, будут признаны допустимыми, наступление на права человека может начаться и за пределами Китая. Системы распознавания лиц используются полицией и охранными предприятиями по всему миру – от США, Великобритании и Индии до Бразилии, ЮАР и Уганды. Если не остановить это как можно скорее, нарушения прав человека по указке ИИ могут стать проблемой, затрагивающей каждого.