В настоящее время не существует четких законов, регулирующих использование технологии распознавания лиц государством, и почти не существует законов, защищающих людей от частной слежки. Впервые этот пробел заполнен в Законе об искусственном интеллекте, который в настоящее время разрабатывается в Евросоюзе. В нем предлагается запретить применение технологии распознавания лиц в общественных местах, хотя сделаны и исключения: например, для поиска пропавших детей, опасных преступников и террористов{65}. В некоторых американских городах действует мораторий на использование этой технологии полицией. Но четких федеральных законов, ограничивающих ее применение, пока не существует. Тем временем люди по всему миру начинают оспаривать применение ИИ-технологий в судах, создавая первые юридические прецеденты.

В мае 2021 года, когда Индию захлестнула вторая волна пандемии коронавируса, С. К. Масуд из Хайдарабада вместе со своей семьей оказался заперт дома, как и большинство других граждан страны. Однажды днем, не нарушив комендантского часа, он отвез своего тестя на скутере на соседний рынок, чтобы выполнить пару срочных поручений. Когда они ехали домой по узким улицам преимущественно мусульманского района Шахран, Масуд увидел группу из двух десятков полицейских, которые останавливали людей, проезжавших мимо на велосипедах и скутерах, и фотографировали их на планшеты.

Они остановили Масуда и попросили его снять маску. «Я спросил: зачем? Мне не хотелось снимать маску. Я сказал, что не собираюсь ее снимать», – вспоминает он. Полицейские посовещались, отступили на шаг от Масуда и сфотографировали его прямо в маске – так, чтобы в кадр вошел и номер его скутера.

Через несколько дней он прочитал, что полиция Хайдарабада использует установленное на планшетах приложение, чтобы следить за жителями города с помощью технологии распознавания лиц.

Это приложение под названием TS-Cop вносило фотографии, сделанные полицейскими, в базу данных, где среди прочих содержались снимки бывших преступников, людей, подозреваемых в совершении преступлений, и мелких правонарушителей. Все полученные изображения использовались для обучения системы распознавания лиц{66}. Когда фотография Масуда попала в эту базу, она стала доступна и другим государственным органам и правоохранителям. «Я понял, что полиция создает всеобъемлющую базу данных граждан, – сказал он. – Меня это очень обеспокоило, ведь меня сфотографировали, и мне хотелось понять, в какую базу данных поместят этот снимок, удалят ли его потом и кому еще дадут к нему доступ. Я ничего из этого не знал».

В тот день хайдарабадская полиция совершила ошибку, решив сфотографировать именно его. В 2007 году, когда Масуду было двадцать три, в мечети неподалеку от его дома, куда ходили на молитву его друзья и близкие, взорвалась самодельная бомба, которая была приведена в действие с помощью мобильного телефона. Погибло не менее десятка человек, и после этого район захлестнули беспорядки на религиозной почве. В последующие недели местная полиция начала незаконно задерживать и арестовывать молодых мусульман{67}. Этот теракт подтолкнул Масуда заняться общественной деятельностью.

После взрыва он принялся укреплять свое сообщество, вооружая его информацией. В последующие пятнадцать лет он работал с сотнями молодых мусульман и мусульманок, объясняя им, чего они могут ожидать от государства, какие льготы им положены, какие у них есть права и как о них заявлять. В итоге он стал борцом за гражданские права и поборником интересов таких национальных меньшинств, как его собственное.

Когда его сфотографировали полицейские, Масуд поговорил с другим гражданским активистом и объяснил ему суть технологии распознавания лиц. Он начал замечать камеры в бедных, преимущественно мусульманских районах и гадал, как именно их используют. В тот же год группа правозащитных организаций, в которую вошла и Amnesty International, привлекла местных добровольцев к созданию карты видимых камер видеонаблюдения в двух районах, включая Кала-Патар, где со своей семьей живет Масуд.

Они обнаружили, что камеры обозревают около 54% общей площади этих районов{68}. Предполагалось, что впоследствии их свяжут с тысячами других городских камер, а получаемое видео будет обрабатываться в центре «управления и контроля», находящемся в элитном районе Банджара-Хиллс примерно в десяти километрах к северу от дома Масуда.

Масуд перестал участвовать в политических протестах и посещать религиозные праздники и даже перестал молиться в мечети Мекка Масджид неподалеку от дома. Но ему хотелось дать властям отпор. В результате он стал первым, кто подал в суд на индийское правительство – а именно на штат Телингана, где находится Хайдарабад, – обвинив его в создании базы данных лиц граждан и нарушении его базового права на частную жизнь.

Готовясь к рассмотрению своего дела в суде, Масуд стал больше читать о технологиях. Он нашел сообщения о том, что израильская армия и правительство применяли такие же методы слежки в Палестине. Он прочитал, что их камеры видеонаблюдения оснащались алгоритмами распознавания лиц, а все данные были доступны полицейским прямо с мобильных телефонов.

Копнув глубже, он нашел сведения о том, как ИИ-надзор порой ошибочно, а порой злонамеренно используется против чернокожих людей в США и против мусульман-уйгуров в Китае – как создают их профили, берут их на видеоприцел и опознают в общественных местах. Он подозревал, что такая же модель внедряется в Хайдарабаде: представителей меньшинств – в этом случае религиозных – массово опознают, не имея на это никаких законных оснований. Из-за этого люди вроде него чувствуют себя преступниками, не совершив никакого преступления. Они лишаются возможности свободно ходить по улицам и собираться в группы, не привлекая к себе повышенного внимания. Им приходится постоянно оправдываться за свое существование.

«Они не останавливают машины и не просят водителей и пассажиров снять маски – так зачем останавливать бедняков на скутерах?» – спросил Масуд.

Его дело по-прежнему рассматривается в различных судебных инстанциях, и полицейские утверждают, что имеют право применять технологию распознавания лиц к гражданам, чтобы предотвращать подозрительную деятельность и поддерживать порядок.

«Они не могут провернуть такое в Банджара-Хиллс или в Джубили-Хиллс, – говорит Масуд, имея в виду богатые районы Хайдарабада. – В основном они занимаются этим в трущобах и на юге Хайдарабада, где живут главным образом меньшинства и далиты. Но почему [им нужны] именно мы?»

* * *

В 2020 году уэльский активист Эд Бриджес одержал знаменательную победу в первом в мире процессе против использования технологии распознавания лиц полицией. Судья постановил, что существуют «принципиальные недоработки» в правовых нормах, регулирующих применение технологии полицией Южного Уэльса, против которой Бриджес и подал иск, и что полицейские имели слишком большую свободу действий{69}.

Несмотря на это решение, британские правоохранительные органы по всей стране продолжают расширять применение технологии распознавания лиц в реальном времени, утверждая, что не обязаны отказываться от нее, поскольку их долг – защищать граждан.

Как отмечает Карл Риканек, было бы безопаснее, если бы следователи применяли инструменты распознавания лиц при работе с фотографиями подозреваемых, хранящимися в полицейских базах, вместо того чтобы использовать их вживую, когда эмоции захлестывают, а вероятность совершить ошибку становится выше.

Отчасти проблема состоит в отсутствии международных законов и стандартов в отношении технологии распознавания лиц. В обществе не смолкают дискуссии о технических стандартах для компаний и этических и социальных правилах, которые необходимо принимать на государственном уровне, но слов много, а дела мало.

Поскольку стандартов и аудиторских требований к ИИ-алгоритмам не существует, в разных уголках мира – и даже в разных регионах одной страны – могут применяться совершенно разные ИИ-программы. Например, в Лондоне могут использовать систему распознавания лиц, разработанную для минимизации расовой предвзятости, но в Манчестере могут наблюдаться слишком частые ошибки при распознавании лиц темнокожих людей. В Москве может работать система с гендерными перекосами, в Гонконге – с проблемами при распознавании европеоидных лиц. Никто из объектов наблюдения при этом не будет знать, какие законы на них распространяются, и не сможет понять, почему их опознают и берут под наблюдение. У нас просто не будет иного выбора, кроме как покориться кафкианским черным ящикам.

Попытавшись представить, каким в таком случае станет мир, я нашла зарисовку о распознавании лиц, написанную индийским романистом Раной Дасгуптой. В ней отражены мои страхи о жизни в мире, где больше нет свободы действовать – а возможно, и думать, – оставаясь при этом наедине с собой.

«Когда все истины до единой стали известны – когда их в полной мере и одновременно узнали все и всюду, – ложь исчезла из общества, – пишет Дасгупта. – И вместе с ней исчезло и само общество».