В стремлении к созданию разумных машин со сверхчеловеческими способностями нет ничего нового. В одной еврейской легенде, возникшей в начале XX века, рассказывается о Големе – бездушном гуманоиде, в которого пражский раввин Лёв вдохнул жизнь, чтобы защитить местных евреев от антисемитских гонений.

Легко предугадать, что случилось дальше: Голем вышел из-под контроля, и его создателю пришлось уничтожить собственное детище. Эта история перекликается с «Франкенштейном» Мэри Шелли, одним из первых современных романов в жанре научной фантастики, а также с последними новостями об ИИ, в которых все чаще высказываются опасения, связанные с тем, что однажды ИИ может стать неуправляемым.

Существующий сегодня ИИ – скорее не автономная, а вспомогательная технология. Примерно с 2009 года технологический бум подпитывается огромными объемами данных, которые генерируются при нашем интенсивном использовании подключенных к сети устройств и интернета, а также растущей мощностью кремниевых микросхем. В частности, это привело к активному развитию подтипа ИИ, называемого машинным обучением, и в свою очередь его разновидности, глубокого обучения – широких классов методов, с помощью которых компьютерные программы учатся находить статистические взаимосвязи в огромных наборах данных, будь то слова, числа, изображения или строки кода.

Один из способов обучать ИИ-модели выявлять закономерности состоит в том, чтобы показывать им миллионы размеченных примеров. Для этого людям необходимо тщательно аннотировать все используемые данные, чтобы компьютеры могли их проанализировать. Без этого алгоритмы, лежащие в основе беспилотных автомобилей и систем распознавания лиц, останутся слепыми. Они не увидят закономерностей в данных.

Сегодня созданные подобным образом алгоритмы помогают людям принимать решения – или принимают их самостоятельно – в таких сферах, как медицина, уголовное право, общественное благосостояние, ипотечное и потребительское кредитование. Новейший тип ИИ-программ – порождающий ИИ – создает слова, картинки и код. Это превращает ИИ-системы в творческих ассистентов, которые помогают учителям, финансистам, адвокатам, художникам и программистам, становясь их соавторами.

Разрабатывая ИИ, ведущие компании Кремниевой долины конкурируют за лучших специалистов в области компьютерных технологий и платят сотни тысяч долларов молодым кандидатам наук. Но чтобы обучать свои системы и внедрять их в эксплуатацию с помощью реальных данных, эти же корпорации обращаются к таким компаниям, как Sama, где работают целые армии низкооплачиваемых сотрудников, которые обладают базовой цифровой грамотностью, но не имеют стабильной занятости.

Sama не единственная подобная компания в мире. В этой растущей отрасли, капитализация которой к 2030 году, как ожидается, достигнет 17 трлн долларов, работают такие стартапы, как Scale AI, Appen, Hive Micro, iMerit и Mighty AI (которым теперь владеет Uber), а также более традиционные ИТ-компании, включая Accenture и Wipro{10}.

В силу огромного объема данных, которые необходимо разметить ИИ-компаниям, большинство стартапов привлекают рабочую силу из стран, где труд стоит дешево. В результате сотни работников вроде Иэна и Бенджи сортируют и интерпретируют данные, которые затем используются для обучения ИИ-систем.

Вынужденные покинуть свою страну сирийские врачи тренируют медицинские программы, которые помогают диагностировать рак простаты в Британии. Выпускники венесуэльских колледжей, которые не могут найти работу из-за охватившей страну рецессии, сортируют модные товары для интернет-магазинов{11}. Обездоленные женщины из бедного мусульманского района Метиабруз в Калькутте размечают голосовые сообщения для умной колонки Amazon Echo{12}. Своей работой они раскрывают и без того довольно очевидный секрет так называемых систем искусственного интеллекта – технологии не «учатся» самостоятельно, а нуждаются в миллионах людей, которые их на самом деле обучают. Специалисты по обработке данных – бесценные человеческие звенья во всемирной цепочке процессов по разработке и обучению ИИ.

Эта рабочая сила по большей части атомизирована и состоит из самых уязвимых членов общества: социально незащищенной молодежи, женщин с детьми и прочими иждивенцами, меньшинств, мигрантов и беженцев. ИИ-компании и подрядчики, которых они привлекают к сотрудничеству, заявляют, что стремятся включить эти группы в процесс цифровой революции, давая им стабильную и этичную работу, несмотря на их уязвимость. Однако, как я обнаружила, специалисты по обработке данных защищены не более, чем заводские рабочие, их труд остается за кадром, а их заслуги недооцениваются, хотя именно они закладывают фундамент для всей сферы ИИ{13}.

Сегодня это сообщество выходит из тени, и журналисты вместе с учеными начинают понимать, как разбросанные по всему миру работники влияют на нашу повседневную жизнь: чрезвычайно популярный контент, создаваемый чат-ботами вроде ChatGPT, контент, который мы пролистываем в приложениях TikTok, Instagram и YouTube, товары в интернет-магазинах, наши автомобили, даже наша еда – все сортируется, размечается и классифицируется силами специалистов по обработке данных.

Аргентинская исследовательница Милагрос Мисели, работающая в Берлине, изучает этнографию работы с данными в развивающихся странах. Когда она только приступила к исследованию, она не нашла никакой информации об опыте работников ИИ – ни о том, кто занят в этой сфере, ни о том, в чем состоят их задачи. «Как социолог, я увидела провал, – говорит она. – Почти никто не интересуется этими людьми. Кто они? Как они выполняют свою работу? Чем конкретно они занимаются? В каких условиях трудятся?»

Мисели была права – оказалось очень трудно найти компанию, которая разрешила бы мне поговорить со специалистами по обработке данных при минимальном посредничестве руководства. Конфиденциальность часто прописана в контрактах сотрудников в форме соглашений о неразглашении, которые запрещают им напрямую общаться с клиентами и раскрывать информацию о том, кому предоставляют услуги их работодатели. Например, компания Meta, владеющая Facebook, пользуется услугами Sama и просит сотрудников подписывать соглашения о неразглашении. Специалисты по обработке данных зачастую даже не знают, кто их клиент, с какой алгоритмической системой они работают и сколько получают за такой же труд их коллеги из других стран.

В силу специфики своей работы компании вроде Sama, которые платят низкие зарплаты, вынуждают сотрудников соблюдать конфиденциальность и нанимают людей из уязвимых социальных групп, по сути, эксплуатируют неравенство. В конце концов, им нужна дешевая рабочая сила. Хотя в некоторой степени подобная работа позволяет меньшинствам и молодежи из трущоб почувствовать уверенность в себе и обрести надежду на будущее, не стоит забывать, что платят им довольно мало, а сами они не имеют ни возможности диктовать свои условия, ни рычагов давления, ни ресурсов для протеста.

Даже сама цель работы по разметке данных кажется циничной: эти данные используются для обучения ИИ-систем, которые в конце концов заменят именно тех людей, которые обучают их сегодня. Однако за последние два года я побеседовала с десятками работников, и никто из них не осознавал последствия обучения систем, которые в итоге смогут их заменить, и не догадывался, что им платят за ускорение их собственного ухода с рынка.

«Этим людям так нужна работа, что они покорно выполняют все требования клиента. Они согласны не искать в своих задачах смысл и закрывать глаза на этические вопросы. Их учат думать лишь о том, что может понадобиться клиенту», – объяснила мне Мисели. Разработка ИИ – бурно растущий бизнес, и компании, работающие в сфере аннотирования данных, наперегонки снижают цены на свои услуги, снабжая рабочей силой гигантские корпорации и дерзкие стартапы, с которых они берут по несколько центов за задачу.

«Об этом нужно говорить: технологическая отрасль растет благодаря дешевой рабочей силе и наживается на ней».