Большинству людей, с которыми встречается Крайдер, она кажется пугающе уверенной в себе. Такого человека хочется иметь на своей стороне в любой битве. Но я общалась с ней несколько месяцев и заметила, что порой эта маска слетает. Когда дела улаживаются по соглашению сторон, без настоящего боя, она начинает сомневаться в себе. Она всегда стремится довести дело до суда, чтобы увидеть реальные перемены, из-за чего часто сталкивается с завышенными ожиданиями, эмоциональными перегрузками и чувством бессилия – и пытается справиться с этим с помощью психотерапевта.

Недавно мы встретились в многолюдном кафе прямо возле ее офиса, и она пустилась в рассуждения о четырех годах, прошедших с основания Foxglove. Она довольна проделанной работой, но масштабы задач порой повергают ее в шок. Foxglove понадобился целый год, просто чтобы завести эфиопское дело в Найроби, хотя сначала они наивно полагали, что управятся за шесть месяцев. «Никогда еще открытие дела не казалось мне такой победой, – сказала она. – Когда корпорации распространяют свое влияние повсюду, невзирая на государственные границы, как в случае с техногигантами, приходится искать аргументы, чтобы обосновать, где именно их следует привлекать к суду и почему». Кроме того, до начала слушаний приходится давать новую трактовку действующим в стране законам, а это, по ее словам, очень тяжело.

Крайдер надеется, что со временем перейдет от отдельных случаев к проблеме, которую считает более общей: существованию неограниченной власти, которая не несет никакой ответственности. Она считает, что ее решит антимонопольное регулирование. Компании часто апеллируют к ложной дихотомии: «Если вы хотите ограничить нашу власть на законодательном уровне или задействовать для этого ресурсы государства, то вы уже одной ногой в Китае». Крайдер устала слышать, что перераспределение сил эквивалентно китайскому файрволу, и считает этот аргумент беззастенчивой попыткой отвлечь внимание от сути проблемы. Далее она собирается выступить против «большой пятерки», опираясь на законы о конкуренции.

Крайдер говорит, что изначально американское антимонопольное законодательство преследовало именно такие цели. Оно должно было поддерживать баланс сил между гражданами и корпорациями, а не использоваться лишь как механизм регулирования цен. «В таких масштабах власть корпораций считалась угрозой демократии», – сказала она.

По словам Крайдер, нетрудно догадаться, какая нас ждет участь, если технологии, используемые для мониторинга и манипулирования, никем не будут контролироваться. Порой, чтобы представить будущее, достаточно взглянуть на прошлое. Крайдер еще в 2013 году увидела, как становится реальностью один из ее главных кошмаров.

Работая адвокатом в Reprieve, одним апрельским утром 2013 года она прилетела в столицу Йемена Сану, чтобы встретиться с Файсалом бин Али Джабером – специалистом по охране окружающей среды из деревни Кхашамер на востоке страны. Крайдер полагала, что членов семьи Файсала убили по наводке компьютерной программы.

За год до этого Файсал вместе с друзьями и родственниками отмечал в Кхашамере свадьбу своего старшего сына. Тем вечером его зять Салем, уважаемый имам, прочел пятничную проповедь в местной мечети. В ней он осудил террористическую группировку «Аль-Каида», которая начала протягивать свои щупальца в этом регионе. О содержании проповеди стало известно местным повстанцам, и через несколько дней трое молодых людей пришли потолковать с Салемом на свадьбе его племянника. Он согласился продолжить разговор вечером и взял с собой своего родственника Валида, единственного полицейского в деревне. Пятеро мужчин встретились после захода солнца. С неба над пустыней упали четыре ракеты, и никого не осталось в живых.

Вся деревня видела, как американский беспилотник нанес удар, убивший имама и полицейского. Их семьи были безутешны. Той же ночью Файсалу позвонил йеменский чиновник, который сказал, что члены его семьи не должны были погибнуть – они просто оказались не в том месте не в то время, поскольку система наведения беспилотников ошибочно посчитала, что Салем и Валид связаны с молодыми повстанцами.

Такие атаки, где личности жертв неизвестны, а цели выбираются по поведенческим признакам, называются «сигнатурными ударами». Они составляли бо́льшую часть из 542 ударов, нанесенных беспилотниками в период президентства Барака Обамы{155}.

Крайдер обнаружила, что американское правительство как минимум с 2011 года экспериментирует с искусственным интеллектом, чтобы выслеживать и вычленять цели, ориентируясь по данным с мобильных телефонов. Возможно, ракеты по Салему и Валиду запустил человек, но Крайдер уверена, что атака производилась по наводке компьютерной программы. Тогда она впервые увидела, на что способны автоматизированные технологии, которые меняют – и даже прерывают – человеческие жизни.

Сегодня десятки компаний, от стартапов до крупных государственных корпораций, создают арсенал ИИ-инструментов для военного и оборонного использования. Получив новую жизнь благодаря конфликтам на Украине и на Ближнем Востоке, эти системы финансируются министерствами обороны и разрабатываются для осуществления морской разведки в международных водах, для опознания и отслеживания террористов, а также для обнаружения, блокировки и уничтожения летающих беспилотников.

Крайдер полагает, что если не внедрить мирные и законные меры для противодействия этим непрозрачным технологиям, неконтролируемо и без разрешения проникающим в наше общество, мы начнем терять над ними контроль.

Для сравнения она указывает на современную версию такого общества. «Китай – настоящая антиутопия с точки зрения индивидуальных и коллективных свобод, – говорит она. – Так случается, когда люди не могут вернуть себе власть».

Но в Китае тоже есть отважные диссиденты – правозащитники и поборники справедливости, которые, рискуя собой, не боятся высказываться против применения ИИ-технологий в отношении невинных людей. Чтобы узнать, как сходят с рельсов автократические ИИ-системы, я решила расспросить об этом одного из таких смельчаков.