Если принять во внимание растущий размер наборов данных, затраты на обучение больших моделей и монополию на облачную инфраструктуру, необходимую для размещения подобных моделей немногими компаниями, такими как Amazon, Google и Microsoft (и их азиатские коллеги Alibaba и Tencent), станет очевидно, что суверенитет ИИ – сложный вопрос геополитического масштаба. Более того, слияние различных аппаратов управления (наука о климате, глобальная логистика и даже здравоохранение) с одним и тем же аппаратным (облачные вычисления) и программным (машинное обучение) обеспечением сигнализирует о сильнейшей тенденции к монополизации. Помимо пресловутой проблемы накопления власти, рост информационных монополий указывает на ключевой для этой книги феномен технической конвергенции: средства труда слились со средствами его измерения, а средства управления и логистики – со средствами экономического планирования.

Это стало очевидным во время пандемии COVID-19, когда возникла крупная инфраструктура для отслеживания, измерения и прогнозирования социального поведения[564]. Однако беспрецедентная для истории здравоохранения и биополитики инфраструктура не появилась ex nihilo, ее построили на уже существующих цифровых платформах, организующих большую часть социальных отношений. Так, во время карантина один и тот же цифровой медиум использовался для работы, покупок, общения с семьей и друзьями и лечения. Цифровые метрики социального тела, такие как геолокация и другие метаданные, стали ключевыми для моделей прогнозирования глобального заражения, но надо понимать, что они уже давно используются для отслеживания рабочей силы, логистики, торговли и образования. По мнению Джорджо Агамбена и других философов, эта инфраструктура продлевает введенное во время пандемии чрезвычайное положение, но в реальности ее развертывание в здравоохранении и биополитике служит лишь продолжением десятилетий мониторинга экономической производительности социального тела, что для многих прошло незамеченным[565].

Техническая конвергенция инфраструктур данных также показывает, что современная автоматизация – это автоматизация не только отдельного работника по стереотипному образцу гуманоидного робота, но и мастеров и менеджеров фабрики на платформах гиг-экономики. От гигантов логистики (Amazon, Alibaba, DHL, UPS) и мобильности (Uber, Share Now, Foodora, Deliveroo) до социальных сетей (Facebook, TikTok, Twitter), платформенный капитализм выступает формой автоматизации, которая в действительности не заменяет рабочих, а умножает их и управляет ими по-новому. Речь идет не столько об автоматизации труда, сколько об автоматизации управления. Согласно новой форме алгоритмического управления, мы все – дивидуальные работники огромного автомата, состоящего из глобальных пользователей, «турков»[566], сиделок, водителей и самых разных гонцов. Дискуссия о страхе перед ИИ, который полностью заменит рабочие места, беспочвенна: в платформенной экономике алгоритмы берут на себя управление и умножают прекарные рабочие места. Хотя доходы гиг-экономики остаются второстепенными по отношению к традиционным местным секторам, эти платформы заняли монопольные позиции, используя одну и ту же инфраструктуру по всему миру. Таким образом, власть нового «хозяина» заключается не в автоматизации индивидуальных задач, а в управлении общественным разделением труда. Вопреки предсказанию Алана Тьюринга, робот сначала пришел на смену хозяину, а не рабочему[567].

Возникает вопрос, какова вероятность политического вмешательства в такое технологически согласованное пространство и остается ли призыв низовых и институциональных инициатив к «перестройке ИИ» разумным и осуществимым. Этот призыв должен прежде всего ответить на более насущный вопрос: как «перестроить» крупномасштабные монополии данных и знаний?[568] По мере того, как крупные компании (Amazon, Walmart, Google) получают уникальный доступ к потребностям и проблемам всего социального тела, растущее движение требует не просто сделать эти инфраструктуры более прозрачными и подотчетными, но и фактически превратить их в общедоступные сервисы (как предложил, в частности, Фредрик Джеймисон) или заменить общедоступными альтернативами (на чем настаивает Ник Срничек)[569]. Как же разработать такие альтернативы?

Как показывает теория автоматизации, представленная в этой книге, любая технология и институциональный аппарат, включая ИИ, представляют собой кристаллизацию производительного социального процесса. Проблемы возникают из-за того, что кристаллизация «окостеневает» и воспроизводит прошлые структуры иерархии и неравенства. Чтобы критиковать и деконструировать сложные артефакты, такие как монополии ИИ, мы сначала должны провести кропотливую работу по деконнекционизму, расплести – шаг за шагом, файл за файлом, набор данных за набором данных, фрагмент метаданных за фрагментом метаданных, корреляцию за корреляцией, паттерн за паттерном – социальную и экономическую ткань, из которой они состоят. Эту работу уже ведет новое поколение ученых, анализирующих глобальный производственный конвейер ИИ, в особенности те, кто использует методы исследования в действии (action research). Заслуживают упоминания исследовательская инициатива Лилли Ирани Turkopticon, которая «прерывает невидимость работника» гиг-платформы Amazon Mechanical Turk; исследование обучающих наборов данных для распознавания лиц Адама Харви, которое выявило массовые нарушения конфиденциальности в ИИ-корпорациях и академических исследованиях; работу коллектива Politically Mathematics из Индии, который проанализировал экономическое влияние прогностических моделей COVID-19 на беднейшие слои населения и превратил математику в поле политической борьбы (см. их манифест, процитированный в эпиграфе) и проч.[570]

Также трудовая теория автоматизации служит аналитическим принципом для изучения нового «хозяйского глаза», воплощенный в монополиях ИИ. Из-за фокусировки на трудовом процессе и социальных отношениях, которые образуют технические системы, этот принцип также носит синтетический и «социогенный» (если использовать программный термин Франца Фанона и Сильвии Винтерс) характер[571]. В основе трудовой теории автоматизации лежит практика социальной автономии. Технологии можно оценивать, оспаривать, повторно присваивать и заново изобретать, только перемещаясь в матрицу социальных отношений, которые их образовали. Альтернативные технологии нужно разместить в этих социальных отношениях, также как это делали кооперативные движения в минувшие столетия. Но создать альтернативные алгоритмы не означает сделать их более этичными. Например, жестко закодировать этические правила в ИИ и роботах представляется крайне недостаточным и неполным решением, поскольку это предложение не касается напрямую широкой политической функции автоматизации, лежащей в их основе[572].

Нужен не техно-солюционизм и не техно-пауперизм, а культура изобретательства, конструирования и планирования, которые направлены на заботу о сообществах и коллективе и никогда полностью не отказываются от агентности и интеллекта в пользу автоматизации. Первый шаг технополитики должен быть не технологическим, а политическим. Речь идет об эмансипации и деколонизации, а то и о полном упразднении организации труда и социальных отношений, на которых основаны сложные технические системы, промышленные роботы и социальные алгоритмы, в частности их встроенные системы оплаты труда, права собственности и политика идентичности. Новые технологии для труда и общества можно основать только на подобной политической трансформации. Понятно, что этот процесс подразумевает развитие не только технических, но и политических знаний. Одно из проблемных последствий ИИ для общества заключается в его эпистемическом влиянии – в том плане, как он представляет разумность как машинный интеллект и неявно развивает знание как процедурное. Однако проект политической эпистемологии, направленный на преодоление ИИ, должен преобразовать исторические формы абстрактного мышления (математическое, механическое, алгоритмическое и статистическое) и интегрировать их в инструментарий критического мышления. Противостоя эпистемологии ИИ и его режиму экстрактивизма знания, необходимо научиться иному техническому мышлению – коллективному «контр-интеллекту».