В одном из самых знаменитых романов Франца Кафки «Процесс» героя по имени Йозеф К. арестовывают загадочные агенты, которые не говорят ему, в чем состоит его преступление. Его не сажают в тюрьму. Вместо этого он обречен влачить жалкое существование, страдая от паранойи и пребывая в неведении о сути своего предполагаемого проступка. Пытаясь разобраться, что же он сделал, Йозеф К. попадает в ряд кошмарных ситуаций, после чего у него опускаются руки. В конце концов однажды утром всё те же таинственные агенты казнят его прямо возле его дома.

«Процесс» – черная антиутопическая комедия, в которой изощренным образом высмеивается бессмысленность бюрократии. Но эта книга вполне могла быть написана о современных работниках алгоритмического века – например, о человеке, без предупреждения отстраненном от работы по прихоти ИИ-системы.

Александру Ифтимие – румынский иммигрант, живущий в юго-западном пригороде Лондона. Он давно работает водителем Uber и не читал Кафку, но когда я пересказала ему сюжет романа, он узнал в Йозефе К. себя. Он считает, что для описания работы алгоритмов лучше всего подходит фраза divide et impera, «разделяй и властвуй», поскольку именно такую тактику контроля применяют диктаторы и колониалисты, например Британская империя в Индии XIX века. По словам Александру, благодаря этому компании вроде Uber добиваются того, чтобы десятки тысяч водителей не протестовали под окнами их офисов.

Александру не всегда был циником. Раньше он работал ночным курьером в транспортной компании, но всякий раз, когда ему случалось взять выходной посреди шестидневной рабочей недели, над ним нависала угроза лишиться своего маршрута, поэтому он уволился и пришел в Uber. Компания, которая предоставляла услуги попутного извоза, обещала ему гибкий график и контроль над своим рабочим временем, что было весьма привлекательно. Поначалу это позволило Александру расслабиться. Он совершил в Uber почти 7 тысяч поездок, зарабатывая приличные деньги и поддерживая пятизвездочный рейтинг – как он сам считает, благодаря многолетнему опыту работы продавцом в Бухаресте. Слыша жалобы других водителей, которые утверждали, что Uber обращается с ними несправедливо, например увольняет или без причины лишает лицензии, он считал, что не все так однозначно. Он был уверен, что водители сами в чем-то провинились.

Но через пару лет Александру начал замечать, что алгоритм обращается с водителями по-разному. Его близкий друг работал на Uber в тех же районах, что и он, и иногда, оказываясь рядом, они брали кофе и садились поболтать на залитой солнцем улице. Часто его другу приходило по несколько запросов на поездки подряд, а сам Александру не получал ни одного. Иногда бывало и наоборот. Предполагалось, что заказы уходят к ближайшим из доступных водителей, но оказалось, что на самом деле это не так. Они выяснили, что автоматизированная программа использует профили водителей, созданные из облака неизвестных переменных, чтобы в реальном времени назначать одного из них на заказ. Александру обнаружил, что весьма неприятно, когда тебя держат в неведении. Он хотел бы знать, по каким критериям его оценивают, чтобы повысить свои показатели и получать больше работы. Почему компания могла использовать эти данные, чтобы улучшать свой бизнес, а ему не разрешалось с их помощью улучшить свои дела?

Когда через несколько месяцев Александру получил от Uber автоматизированное предупреждение о подозрении в мошенничестве, он просто проигнорировал его, решив, что случилась ошибка. Через две недели он получил второе предупреждение. После трех предупреждений его могли отстранить от работы. Об этих решениях ему сообщали только в автоматизированных письмах. Ему не говорили, к кому обратиться, чтобы обжаловать решение или получить его обоснование.

Он понятия не имел, что мог сделать не так. Он знал, что Uber, как и многие другие компании гигономики, использует программы на основе искусственного интеллекта – от алгоритмов для выявления мошенничества до систем распознавания лиц и других методов профилирования, – чтобы распределять заказы и проверять, оценивать и наказывать водителей. Но Александру не знал, какие аспекты его работы отслеживались и учитывались алгоритмами и какие его действия или данные можно было счесть недобросовестными или обманными. Что программа считала мошенничеством?

Ему оставалось лишь гадать, с чем связано решение непостижимой компьютерной системы. Может, дело в том, что одна пассажирка опаздывала и потому попросила высадить ее немного в другом месте? Он согласился, пожалев ее, но вдруг алгоритм счел это мошенничеством? А может, проблема возникла в тот раз, когда на шоссе случилась авария и он потратил больше часа на объезд? Он просто этого не знал.

Александру позвонил в службу поддержки Uber для водителей, но сотрудник на другом конце линии понимал не больше его самого. «Мне твердили: “Система не может ошибиться. Что именно вы сделали?” Я отвечал: “Именно это и я хочу у вас узнать”».

Он мог либо с ужасом ждать сообщения об отстранении от работы, либо обратиться со своей проблемой в профсоюз. Алгоритмический метод подбора работ и определения оплаты в каждом индивидуальном случае настраивал водителей друг против друга, убеждая их, что каждый работник – лишь отдельный винтик, а не часть гораздо более крупного сообщества людей, которые вместе борются с компьютерной системой. Из-за этого Александру чувствовал себя беспомощным, словно у него не было надежды победить. У него не было коллектива, на который можно опереться.

Он решил обратиться в британский Профсоюз водителей и курьеров, работающих через приложения, – общество гиг-работников вроде Александру, основанное бывшим водителем Uber Джеймсом Фарраром. Профсоюз занялся его случаем и потребовал от Uber объяснить, почему водителю были вынесены предупреждения, и отменить их. Пока вопрос решался, Александру перестал брать заказы в приложении Uber. Он сохранил аккаунт, но слишком боялся навсегда лишиться доступа к системе. Вместо этого он вернулся на прошлую работу и взял дополнительные смены в качестве ночного курьера.

В октябре – через три месяца после первого обвинения в мошенничестве – он получил от Uber письмо с извинениями, в котором утверждалось, что автоматизированная система допустила ошибку{123}. Метку о мошенничестве сняли, но никаких объяснений ему не предоставили. Сотрудники Uber сказали, что действительно используют автоматизированные алгоритмы для выявления мошенничества, но решения об отстранении водителей принимают люди, изучающие отчеты системы. Проблема была решена, но Александру не успокоился: он боялся, что однажды ситуация повторится.

«Они используют программу на основе искусственного интеллекта как отдел кадров для водителей. Система может отстранить тебя от работы, может разорвать твой контракт с Uber, может лишить тебя лицензии, – говорит он. – Это опасно».

Александру решил бороться с несправедливостью более традиционным, чем Армин, способом: он подал на Uber в суд, потребовав открыть ему доступ к его персональным данным и обеспечить прозрачность алгоритмов для расчета вознаграждения водителей. Он хотел понять, в чем именно алгоритм ошибся в его случае и что было сделано, чтобы избежать такой ошибки в будущем. Он вошел в группу из пяти заявителей, представляемых профсоюзом и подавших к Uber и еще одному транспортному агрегатору Ola Cabs иск с требованием предоставить им доступ к их персональным данным – особенно если их используют в качестве обоснования для отстранений и штрафов.

Дело рассматривалось в Амстердаме, где находится европейская штаб-квартира Uber, и решение суда стало новым словом в сфере прав работников, которые работают в подчинении у алгоритмов.

В деле против Ola Cabs амстердамский суд счел, что компания использовала полностью автоматизированную систему, чтобы делать вычеты из заработка водителей, а это противоречит законодательству о защите данных, которое наделяет людей правом на то, чтобы принимаемые алгоритмами решения проверял человек{124}.

Что касается Uber, суд обязал компанию предоставить истцам их персональные данные, имеющиеся в распоряжении у компании, – в частности, информацию, на основании которой водителей отстраняли от работы. В дополнение к этому Uber обязали предоставить водителям доступ к обезличенным индивидуальным оценкам их работы, хотя обычно им показывали только среднюю оценку за несколько поездок.

При этом суд встал на сторону компании в вопросе о прозрачности алгоритмов. Uber не пришлось раскрывать информацию о том, как именно производится расчет цен и как водители получают метку о подозрении в мошенничестве. Суд также отклонил утверждение истцов о том, что сотрудники Uber в должной мере не контролируют процессы распределения заказов и отстранения водителей от работы.

Это решение стало одной из первых юридических трактовок сложной серой зоны во взаимодействии искусственного интеллекта с человеком и важным шагом к прояснению нюансов того, какие права имеют гиг-работники. Однако, на мой взгляд, сами работники при этом не стали свободнее и самостоятельнее. Не имея доступа к расчетам систем машинного обучения, которые использует Uber, честные водители непременно должны были рано или поздно снова стать жертвами их ошибок.

Александру так и не понял, что спровоцировало предупреждение о мошенничестве. «Это все равно что найти на столе выговор от начальника, с которым невозможно связаться, а если постучаться к нему в дверь, он все равно не скажет, в чем проблема, – говорит он. – Ты чувствуешь себя мишенью, чувствуешь, что тебя дискриминируют».

Он продолжает работать в Uber на условиях компании, хотя состоит в профсоюзе и отстаивает свои права на доступ к данным в суде – и среди прочего запрашивает более полную информацию о своей работе. Пока он учится на юриста, этот заработок – основной источник дохода для всей его семьи, включая новорожденную дочь.

«Жизнь продолжается, – говорит он, рассуждая о будущем. – Надо продолжать работать. Ты просто человек, который сидит в машине и ждет, когда телефон наконец звякнет и скажет, куда тебе ехать».

* * *

Дэвида Мванги Туо работа в Uber привлекла потому, что в его родном Найроби она считалась достойной и статусной. Сотрудники Uber стояли выше водителей автобусов матату и мопедов, на одном из которых Дэвид раньше ездил по курьерским делам.

Ему нравилось, что тариф был фиксирован и торговаться с пассажирами не приходилось, а приложение – в отличие от начальника – давало ему свободу выбирать, когда работать. Кроме того, он задумывался о будущем. «Uber – международная компания, – говорил он тогда. – Если я решу уехать из страны, чтобы попытать счастья где-нибудь в Канаде, я смогу и там работать в Uber».

Через четыре года Дэвид почувствовал, что пришла пора увольняться. «Можно сказать, что я независим, что у меня нет начальника. Но если не работать постоянно, днями и ночами, я не могу заработать достаточно денег. Когда работаешь в штате, по крайней мере понятно, чего ожидать. Можно планировать будущее», – сказал он.

«Что же изменилось?» – спросила я.

«Ставки стали слишком низкими – цены снизили из-за конкуренции с Bolt, – ответил он, имея в виду конкурента Uber, который недавно вышел на кенийский рынок. – Мне нужно оплачивать страховку, обслуживать автомобиль, покупать топливо, а еще и платить по счетам». По словам Дэвида, после эскалации российско-украинского конфликта в начале 2022 года цены на топливо взлетели примерно с 96 до 180 кенийских шиллингов за литр. Как он утверждает, когда он пришел работать в Uber, комиссия компании составляла около 15% от стоимости заказа. Теперь, по словам нескольких водителей Uber, с которыми я побеседовала в Найроби, в среднем компания забирает около 25% их заработка{125}.

«Сейчас мы работаем благодаря польской технологии, которая производит более дешевый газ. Это бытовой газ, СПГ», – говорит Дэвид. Он стоит около ста шиллингов за литр, благодаря чему работа в Uber становится для Дэвида чуть более выгодной.

Иногда он сдает свой автомобиль в аренду другим водителям, которые тоже работают через приложение. Он берет с них фиксированную сумму: 10 тысяч шиллингов (90 долларов) в неделю. Он оплачивает обслуживание автомобиля, но топливо они покупают сами. «Но водителю приходится много работать. В хороший день он может заработать полторы тысячи шиллингов, в плохой – всего тысячу, – говорит Дэвид. – Нельзя сказать, что ты получаешь зарплату. Ты просто работаешь на Uber, чтобы выжить. Я не хочу занимать деньги, чтобы платить за аренду жилья и покупать продукты».

Он отметил, что не менее пятидесяти его друзей ушли из компании, поскольку заработка не хватало на жизнь.

«Нам всем тяжело».