Проанализировав собственные чеки, Армин обнаружил несколько расхождений: маршрут в Google Maps длиной 12,2 км, увеличившийся до 14,8 км из-за перекрытия дорог, алгоритм оплаты Uber сократил до 9,7 км. Другие чеки указывали на то, что Армину заплатили за 2,4 км вместо 3 км, за 9,7 км вместо 12 км и так далее.

Он выложил свое приложение в Google Chrome, чтобы им мог воспользоваться каждый, и почти сразу с ним начали связываться десятки сотрудников UberEats со всего мира: из США, Японии, Бразилии, Австралии, Индии и Тайваня. Всего в UberCheats загрузили данные примерно о 6 тысячах заказов, за 17% из которых курьерам недоплатили. Складывалось впечатление, что во всех городах компания в среднем недоплачивает курьерам, использующим UberCheats, за 2,2 км в каждой поездке{120}.

В одном из писем, полученных Армином, говорилось: «Я только что воспользовался вашим приложением и обнаружил, что некорректно оплачены 8,31% моих доставок… по меньшей мере по одной в день. Если вы соберете достаточно данных для коллективного иска, я готов к нему присоединиться. Спасибо вам за это приложение».

Многие письма были написаны представителями этнических меньшинств, мигрантами, оказавшимися в трудной жизненной ситуации, и людьми, в одиночку обеспечивающими семьи.

«Хуже всего приходится людям, которым и так нелегко живется в существующих системах, – сказал Армин, – и это лишь усугубляет неравенство».

Приложение UberCheats показало изнанку алгоритмов, лежащих в основе приложений для работы от случая к случаю. Обычно эту информацию тщательно скрывают от глаз работников. Очевидные ошибки при расчете расстояний подтверждали подозрения: алгоритмы не учитывают такие человеческие факторы, как непредвиденные задержки, удлинения маршрута из-за жутких пробок, погодные условия, дорожные работы и переполненные рестораны, где курьерам приходится долго ждать заказ.

В материальном отношении эти задержки влияют только на работников: из-за них снижается рейтинг и увеличивается время выполнения заказов, что в итоге негативно сказывается на возможности курьеров получать заказы и оплату за них. Армин так и не смог понять, почему возникает эта ошибка. «Все теории, которые я строил, опровергались, – сказал он, – поэтому мне стало казаться, что это нелогично и несправедливо». Приложение казалось работникам таким же, как и вся система, основанная на ИИ: своевольным, самовластным и не несущим никакой ответственности.

В феврале 2021 года, через несколько месяцев после создания UberCheats, юристы Uber подали жалобу на приложение и потребовали от Google заблокировать его в браузере Chrome, поскольку люди могут перепутать его с настоящим продуктом Uber{121}. Их требования были удовлетворены, но Армин отправил в Google, которая сама решает, какие приложения предлагать в своем браузере, несколько писем, и приложение снова появилось в библиотеке. Однако в феврале 2022 года Армин его удалил. Хотя оно явно приносило пользу сотням курьеров и водителей Uber, которые проверяли, справедливо ли вознаграждается их труд, Армину было сложно и дальше поддерживать приложение, одновременно занимаясь другими проектами. Каждый раз, когда программисты Uber вносили изменения в свой код, Армину приходилось тратить по несколько часов на обновление программы, а изменения случались часто и без всяких объяснений со стороны компании. Некоторые курьеры и водители сообщали Армину, что поднимали вопрос о недоплатах и получали от компании компенсации, но Армин не имел ни финансовых возможностей, ни желания судиться с Uber. Он считал, что приложение уже исполнило свое предназначение и пролило свет на непредсказуемость алгоритма и неподотчетность компании. История Армина широко освещалась в прессе, от журналов WIRED и Salon до газеты Daily Mail. Она помогла людям понять, насколько непрозрачны рабочие платформы, созданные на базе ИИ.

«Во всех компаниях, где я работал, я находил способ сделать так, чтобы меня услышали. Проблем не избежать, но я всегда могу попытаться их решить. В случае с Uber я чувствую себя беспомощным, поскольку это не в моих силах, – говорит Армин. – Когда используются непонятные закономерности, когда тебе недоплачивают по двадцать пять центов за поездку, я никак не могу узнать, почему это происходит. И жаловаться мне некому – может, разве что прессе? Приложение UberCheats было создано для того, чтобы взять ситуацию под контроль. В противном случае у любого опустятся руки».

История Армина показывает, с чем сталкивается человек, работающий в автоматизированной системе: он испытывает досаду и страдает от паранойи, ему не хватает ощущения товарищества с коллегами и чувства локтя, и он при этом не может ничего изменить. Таков парадокс структуры, которая полностью зависит от работы людей, но обращается со своими сотрудниками, как с роботами.

И случай Армина не уникален. Работая в Uber, он был частью мирового прекариата – нового класса людей, чей доход не гарантирован и нестабилен и чьи работодатели контролируют их жизнь даже за пределами работы{122}. В одной группе с ними находятся специалисты по разметке данных из Болгарии и Найроби, которые едва сводят концы с концами, обучая системы ИИ, чтобы они впоследствии приносили миллиарды долларов создавшим их компаниям, и сотрудники ASHA из Индии, которые собирают данные о здоровье населения для западных корпораций.