«Ничто из написанного по этому вопросу не дает однозначного ответа – и действительно, повсюду мы встречаем людей, искусных в механике, разумных и проницательных, без тени сомнения провозглашающих Автомат чистой машиной, движениями которой не управляла никакая человеческая воля, и следовательно, несравненным и самым поразительным из всех изобретением человечества».

«Мир будущего не станет комфортабельным гамаком, в котором мы будем нежиться, пока нас обслуживают рабы-роботы; это будет мир еще более напряженной борьбы с ограничениями нашего разума».

В большой аналитической статье о будущем труда, опубликованной в апреле 2021 года, журнал «Экономист» отвечает тем, кого беспокоит неравенство и сужение возможностей для рабочих:

«С самого рассвета капитализма люди жалуются на мир труда, твердят, что раньше было лучше и что сейчас с рабочими обращаются как-то исключительно плохо».

Особенно преувеличены страхи насчет автоматизации с помощью ИИ, но и вообще, «популярные представления о мире в большой степени неверны». И дальше из-за поворота выезжает наш старый знакомый – прицепной вагон!

«В сущности, снижая расходы на производство, автоматизация может создать повышение спроса на товары и услуги, а следовательно, дать толчок тем профессиям, которые невозможно автоматизировать. Возможно, экономике будет требоваться меньше кассиров в супермаркетах, но больше врачей-массажистов».

И мораль: «Мир труда ожидает блестящее будущее».

Схожее умозаключение высказала в выступлении на ежегодной Давосской конференции в начале 2022 года консалтинговая компания McKinsey:

«Многие представители мировой рабочей силы порой воспринимают перемены как угрозу, особенно когда речь идет о новых технологиях. Часто это связано со страхами, что автоматика заменит людей. Но если посмотреть чуть глубже панических заголовков, мы увидим, что верно обратное: технологии Четвертой индустриальной революции (4ИР) повышают производительность и рост во всех сферах производства, как „грязного“, так и „чистого“. Эти технологии создают новые, более разнообразные профессии, которые преображают производство и помогают строить плодотворные, увлекательные, приносящие удовлетворение карьеры».

«Экономист» и McKinsey выражают здесь взгляды множества IT-предпринимателей и экспертов, считающих, что беспокойство по поводу ИИ и автоматизации преувеличено. «Исследовательский центр Пью» провел беседы со множеством ученых и руководителей в IT-сфере и привел прямые цитаты более чем сотни из них: подавляющее большинство утверждает, что, хоть у ИИ и есть некоторые слабые стороны, в целом он принесет широкие экономические и социальные выгоды.

Согласно преобладающей точке зрения, на пути прогресса возможны некоторые неприятности – например, кто-то лишится работы, – но такие «потери переходного периода» неизбежны. Как сказал один из экспертов, проинтервьюированных «Центром Пью»:

«В ближайшие 12 лет ИИ поможет более эффективно выполнять свою работу людям всех профессий, особенно тех, что связаны со спасением жизней: врачам, полицейским, даже военным (они смогут сосредоточить свои атаки на повреждении инфраструктуры и убивать меньше вражеских солдат и мирных жителей)».

Этот же человек замечает:

«Конечно, будут и негативные явления: больше безработицы в некоторых „рутинных“ профессиях – среди водителей общественного транспорта, в общественном питании и т. п.»

Однако об этих негативных явлениях беспокоиться не стоит, ведь все те же IT-предприниматели готовы облегчить это бремя филантропией. Как заявил Билл Гейтс на Давосской конференции 2008 года, у этих успешных людей есть возможность творить добро и одновременно развивать свой бизнес, помогая не столь успешным людям новыми продуктами и технологиями. Он объявил: «Вызов в том, чтобы спроектировать систему, в которой двигателем перемен становятся рыночные „пряники“, в том числе признание и возможность заработать», с целью «улучшить жизнь тех, кому не вполне выгодны рыночные отношения». Эту систему он назвал «творческим капитализмом» и поставил перед собравшимися филантропическую цель – «в следующем году запустить проект творческого капитализма», дабы облегчить проблемы мира.

В этой главе мы покажем, что представление о почти неизбежном благе, исходящем от новых технологий, в том числе от разумных машин, которое внушают нам талантливые предприниматели, – не что иное, как иллюзия, иллюзия искусственного интеллекта. Как и убеждение Лессепса, что каналы принесут выгоду и инвесторам, и мировой коммерции, это представление укоренено в идеологии, однако поддерживается тем, что обогащает и укрепляет мировые элиты, направляя развитие технологий в сторону автоматизации и контроля.

Само описание возможностей цифровой технологии исключительно в терминах «разумных машин» неправомерно сужает наше видение. Цифровые технологии универсальны, их можно развивать в самых разных направлениях. И, выбирая направление развития, нам стоит сосредоточиться на том, насколько полезно то или другое для достижения человеческих целей, – на том, что называется «практической значимостью». В прошлом, поощряя такое использование механизмов и алгоритмов, которое дополняло возможности человека и делало людей сильнее, мы приходили к технологическим прорывам, обладающим высокой практической значимостью. И напротив, завороженность искусственным интеллектом поощряет массовый сбор данных, лишение власти рабочих и простых граждан, переход к автоматизации даже там, где речь идет лишь о «автоматизации с потерей качества» – иначе говоря, там, где автоматизация не дает почти никакого выигрыша в производительности. И вряд ли совпадение, что такая «второсортная» автоматизация всерьез обогащает лишь одну группу людей – тех, кто контролирует цифровые технологии.

Мечты об искусственном разуме

Достижения цифровых технологий вызывают справедливое изумление. Новые способности машин позволяют невероятно расширить пределы наших возможностей и преобразить к лучшему многие стороны нашей жизни. И эти достижения в самом деле очень велики. Например, General Pre-Trained Transformer-3 – GPT-3, выпущенный в 2020 году компанией OpenAI, – это система обработки естественного языка, возможности которой поистине примечательны. GPT-3, уже обученный и оптимизированный на основе огромного объема текстовой информации из Интернета, способен создавать почти человеческие тексты – даже стихи, общаться на типовом человеческом языке и, что особенно впечатляет, переводить инструкции на естественном языке в компьютерный код.

Логика компьютерных программ проста. Программа или алгоритм – это инструкция, в соответствии с которой машина получает набор заранее определенных команд и, подчиняясь им, пошагово выполняет определенную задачу. Например, ткацкий станок Жаккара, получив несколько перфорированных карт (они здесь выполняли роль «команд»), начинал выполнять сложный и изящно спроектированный механический процесс, результатом которого становилась ткань с определенным узором, «запрограммированным» на картах. Используя разные карты, можно было получать разные узоры, иногда поразительно сложные.

Современные компьютеры часто называют «цифровыми», поскольку вводные команды они получают в дискретной форме, представляющей собой конечный набор цифр (чаще всего используются нули и единицы). Но общий принцип здесь тот же, что у ткацкого станка Жаккара: компьютер выполняет именно ту комбинацию вычислений или действий, которую определяет для него программист.

А что насчет искусственного интеллекта? К сожалению, общепринятого определения у него не существует. Некоторые эксперты определяют искусственный интеллект как машину или алгоритм, демонстрирующий «разумное поведение» или «высокоуровневые возможности»; но вопрос, что именно это значит, часто вызывает споры. Другие предлагают определения на основе программ, подобных GPT-3: разумную машину они приравнивают к машине, которая имеет цели, наблюдает за окружающим, самостоятельно ищет необходимые ей данные и пытается достичь своих целей. Например, GPT-3 в различных ситуациях самостоятельно определяет свои задачи и стремится выполнить их как можно успешнее.

Каково бы ни было точное определение современного машинного разума, ясно одно: новые цифровые алгоритмы уже широко применяются в самых разных областях нашей жизни. Вместо того чтобы разбираться в разных определениях машинного интеллекта и решать, какое из них точнее, будем просто говорить о «современном ИИ», имея в виду подход, господствующий сейчас в этой области.

Применение цифровых технологий, например станков с цифровым управлением в производственном процессе, началось задолго до появления ИИ. Серьезные прорывы в компьютерных технологиях за последние 70 лет были связаны с поиском способов применения ЭВМ в таких областях, как подготовка документов, ведение баз данных, бухгалтерия и учет. Программное обеспечение способно создать и новые возможности для производства. Проектирование с помощью компьютера позволяет с большей легкостью и точностью выполнять некоторые задачи проектировщика. Работу кассиров и других наемных служащих, работающих непосредственно с клиентами, тоже можно облегчить и сделать более продуктивной с помощью компьютеров. Кроме того – об этом мы много говорили в предыдущей главе – компьютеры позволяют автоматизировать многие операции.

Чтобы автоматизировать работу при помощи традиционного софтвера, она должна быть «рутинной» – иначе говоря, состоять из предсказуемых шагов, выполняемых в определенном порядке. Рутинные задачи повторяются снова и снова, в предсказуемых обстоятельствах. Например, машинопись – рутинная работа. То же можно сказать о вязании и о других простых производственных задачах, включающих в себя значительный объем повторяющихся действий. Программное обеспечение управляет машиной, взаимодействующей с физическим миром, и вместе они автоматизируют различные рутинные задачи – именно так, как задумывал Жаккар и как работает в наше время самое разное оборудование с цифровым управлением, от принтеров до компьютеризированных токарных станков. Кроме того, софтвер – неотъемлемая часть технологий робототехники, широко используемых для автоматизации производства.

Но очень небольшая часть человеческих задач по-настоящему рутинна. Большинство из того, что мы делаем, хоть в какой-то мере предполагает решение проблем. Мы справляемся с новыми ситуациями и вызовами, находя решения; а в поисках решений основываемся на аналогиях, извлеченных из прошлого опыта или обучения. Окружающая среда и обстоятельства постоянно меняются, так что нам приходится быть гибкими. Во многом мы полагаемся на социальное взаимодействие – общение, объяснения или просто на взаимное дружелюбие, возникающие между коллегами или между сотрудниками и клиентами в ходе экономических транзакций. Вообще человек, особенно среди себе подобных, – существо достаточно творческое.

Например, обслуживание клиентов требует сочетания навыков общения и решения проблем. Проблем, с которыми может столкнуться клиент, десятки тысяч, некоторые из них очень редки или просто уникальны. Относительно легко помочь пассажиру, который опоздал на рейс и хочет лететь ближайшим следующим самолетом. Но что, если путешественник приехал не в тот аэропорт или у него внезапно изменились планы и теперь ему нужно попасть совсем в другое место?

Современный подход к ИИ предлагает распространить автоматизацию на более широкий спектр рутинных задач, например на работу банковского операциониста. Уже в 1990-е годы широко распространились банкоматы – автоматы, не обладающие ИИ, но способные выполнять простые задачи, например выдавать наличные. Внесение денег на счет было автоматизировано лишь частично. Банкоматы принимали депозиты и сортировали чеки по банковским кодам и номерам счетов, используя технологию магнитно-маркерного распознавания знаков. Но для других рутинных задач – например для того, чтобы разбирать написанное от руки, систематизировать счета, следить за превышением кредита – по-прежнему требовались люди. С помощью ИИ, умеющего читать рукописный текст и имеющего механизмы принятия решений, любая обработка чеков теперь может производиться совершенно без участия человека.

Еще более примечательно стремление использовать ИИ для автоматизации нерутинных задач – таких, как обслуживание клиентов, расчет налогов и даже финансовое консультирование. Многие задачи, задействованные в этих профессиях, просты, предсказуемы и могут быть автоматизированы хоть сейчас. Например, нет никакой проблемы в том, чтобы отсканировать информацию о заработной плате и налоговой ставке и автоматически перенести ее в соответствующие графы налоговой декларации или сообщить клиенту банка интересующую его информацию об остатках на счетах или о кредитной задолженности. В самое последнее время ИИ начал успешно выполнять и более сложные задачи. Современные программы по расчету налогов и оформлению налоговых деклараций умеют задавать пользователям вопросы об их расходах или о тех пунктах, что выглядят подозрительно; у клиента есть возможность найти свою проблему в списке с помощью голосового меню (хотя эта функция зачастую работает несовершенно, и клиенты теряют время, ожидая, пока им на помощь придет сотрудник-человек).

Например, при роботизированной автоматизации процессов (RPA) программа выполняет задачи, наблюдая за человеческими действиями с помощью специального графического приложения. RPA-боты сейчас широко внедряются в банковское дело, кредитные организации, электронную коммерцию, а также в службы поддержки программного обеспечения. Самые известные примеры – автоматизированные системы распознавания голоса и чат-боты, обучающиеся у удаленных систем IT-поддержки. Многие эксперты полагают, что со временем такая автоматизация распространится на множество задач, сейчас выполняемых «белыми воротничками». Например, журналист «Нью-Йорк таймс» Кевин Руз так пишет о потенциале RPA-ботов: «Последние достижения в области ИИ и машинного обучения создали алгоритмы, способные успешно заменять врачей, юристов и банкиров в некоторых элементах их работы. Со временем, обучаясь выполнять все более высокоуровневые задачи, боты смогут подниматься по карьерной лестнице».

Предполагается, что от этих поразительных новых возможностей выиграем мы все. Нынешние директора Amazon, Facebook, Google и Microsoft хором уверяют, что в ближайшие десятилетия ИИ превратит наш мир в рай земной. По словам бывшего президента Google в Китае Кай-Фу Ли:

«Как и большинство новых технологий, в конечном счете ИИ окажет на наше общество скорее позитивный, чем негативный эффект».

Однако эти громкие обещания не вполне подтверждаются фактами. Хотя разговоры о разумных машинах ведутся уже два десятилетия, эти технологии начали распространяться только после 2015 года. То, что новая технология наконец «взлетела», очевидно и по объемам средств, которые тратят фирмы на работу с ИИ, и по обилию вакансий для сотрудников со специфическими знаниями, требующимися для этой работы (машинное обучение, машинное зрение, глубинное обучение, распознавание образов, обработка естественного языка, нейронные сети, метод опорных векторов, латентный семантический анализ).

Идя по этим следам, можно заметить, что инвестиции в ИИ и найм на работу специалистов по ИИ концентрируются в организациях, сосредоточенных на задачах, которые могут выполняться с помощью этих технологий: страховые и бухгалтерские операции, анализ поставок и снабжения и различные другие офисные занятия, включающие в себя распознавание повторяющихся паттернов, вычисления и базовое распознавание речи. В то же время мы видим, что эти же организации значительно снижают объем найма сотрудников в целом; все прочие вакансии у них значительно сокращаются.

Эти свидетельства показывают, что внедрение ИИ сейчас практически не выходит за рамки автоматизации. Более того, заявления, что ИИ и чат-боты вот-вот начнут выполнять нерутинные задачи, требующие высокой квалификации, угрожают и квалифицированным работникам с высшим образованием, до сих пор считавшим себя в безопасности. Впрочем, пока бремя ИИ-автоматизации ложится в основном на плечи не столь квалифицированных сотрудников, уже пострадавших от более ранних форм цифровой автоматизации. Никаких свидетельств в пользу того, что эти низкоквалифицированные сотрудники получают от применения ИИ какую-то выгоду, у нас нет; пока что единственные, кому это выгодно, – руководители фирм и их акционеры.

Немного утешает то, что ИИ пока явно не настолько совершенен, чтобы массово оставить людей без работы. Подобно индустриальным роботам, о которых мы говорили в предыдущей главе, нынешняя технология пока способна выполнять лишь небольшое количество задач, так что ее влияние на занятость ограничено. Тем не менее движется она в направлении, противоположном интересам работников и грозящем уничтожить некоторые профессии. Наиболее вероятным результатом внедрения ИИ станет не полное отсутствие работы, а дальнейшее снижение зарплат для многих. Проблема в том, что, хотя ИИ не выполняет большинства своих обещаний, ему все же удается снизить спрос на рабочую силу.

Игра в имитацию

Откуда же такой интерес к машинному интеллекту? Казалось бы, нас должно заботить другое: насколько те или иные машины или алгоритмы для нас полезны. Например, согласно большинству определений, система глобального позиционирования (GPS) не относится к разумным – она основана на выполнении простого поискового алгоритма (А* – поисковый алгоритм, впервые разработанный в 1968 году). И тем не менее люди получают от нее огромную пользу. Едва ли какой-нибудь эксперт назовет разумным карманный калькулятор, но калькуляторы выполняют задачи, которые не под силу большинству людей (например, мгновенно перемножают семизначные числа).

Вместо фиксации на машинном интеллекте стоило бы спрашивать, насколько та или иная машина полезна людям, ведь именно так мы оцениваем практическую значимость (ПЗ). Сосредоточившись на ПЗ, мы могли бы направить развитие технологий по иному пути, более благодатному для общества, в особенности для рабочих и других граждан. Но прежде чем об этом поговорить, нам стоит понять, откуда пошла нынешняя зачарованность искусственным интеллектом – и для этого обратиться к видению, впервые сформулированному британским математиком Аланом Тьюрингом.

Всю жизнь Тьюринга интересовали возможности машин. В 1936 году он внес фундаментальный вклад в решение вопроса о том, что значит быть «исчислимым». Незадолго до этого немецкий логик Курт Гедель и американский математик Алонсо Черч работали над задачей определения исчислимых функций, понимая под этим набор функций, значения которых можно вычислить с помощью какого-либо алгоритма. Тьюринг предложил изобретательный и остроумный путь решения этой задачи.

Он вообразил себе абстрактную вычислительную машину (теперь ее называют машиной Тьюринга), которая может производить вычисления согласно входным данным, указанным на потенциально бесконечной ленте, например инструкциям по выполнению базовых математических операций. Затем дал такое определение: исчислимая функция – это функция, значение которой сможет вычислить такая машина. Машина называется «универсальной машиной Тьюринга», если может заменить собой любую другую машину Тьюринга. При этом если человеческий ум в сущности не что иное, как очень сложный и изощренный компьютер, и задачи, которые он выполняет, относятся к классу исчислимых функций, то универсальная машина Тьюринга может в точности воспроизвести все, что подвластно человеку. Однако до Второй мировой войны Тьюринг не углублялся в вопрос, способны ли машины думать по-настоящему и как далеко они могут зайти в выполнении человеческих задач.

Во время Второй мировой войны Тьюринг присоединился к засекреченному криптографическому центру в Блетчли-парке, где сотни математиков трудились над взломом немецких шифров, и показал себя виртуозным дешифровщиком. Он разработал остроумный алгоритм для сужения набора возможных решений немецких кодов. Это помогло британским ученым расшифровать закодированные переговоры, которые немцы считали неуязвимыми.

После Блетчли Тьюринг вернулся к своим довоенным исследованиям. В 1947 году на заседании Лондонского математического общества он объявил, что машины могут обладать разумом. Враждебная реакция слушателей его не смутила; Тьюринг продолжал работать над этой проблемой. В 1951 году он писал:

«„Нельзя заставить машину думать за нас“. Общее место, которое обычно ни у кого не вызывает вопросов. Цель моей статьи – поставить его под вопрос».

Его эпохальная статья 1950 года «Вычислительные машины и разум» предлагает определение того, что означает для машины обладать разумом. Тьюринг вообразил себе «игру в имитацию» (сейчас ее называют тестом Тьюринга), в которой оценивающий ведет разговор с двумя сущностями, человеком и машиной. Ни того, ни другую он не видит, общается с ними с помощью компьютерной клавиатуры и экрана. Задает вопросы, сравнивает ответы и пытается понять, кто есть кто. Если машина сумеет остаться неузнанной – она разумна.

Машин, разумных согласно этому определению, в наше время не существует; но определение Тьюринга можно применять и не столь категорично. Машина тем более разумна, чем лучше умеет имитировать людей. На практике можно ввести понятие «равенства с человеком» в выполнении какой-либо задачи: равенство достигнуто, если машина выполняет ту же задачу не хуже человека. Чем в большем числе задач машина может достичь равенства с человеком, тем более она разумна.

Размышления самого Тьюринга на эту тему были тоньше. Он понимал, что пройти его тест – еще не значит обладать истинной способностью к мышлению, и писал:

«Не хочу создавать впечатление, что я не вижу в сознании ничего таинственного. Например, любые попытки локализовать сознание приводят к своего рода парадоксу».

Но, несмотря на эту оговорку, современные исследования ИИ пошли по стопам Тьюринга и сосредоточились на искусственном интеллекте, понимая его как способность машины действовать автономно, достичь равенства с человеком, а затем и превзойти людей.

Имитация разума

Увлечение машинным интеллектом часто ведет к самообману, а иногда и к откровенному обману. Французский механик XVIII века Жак де Вокансон мог бы занять в истории техники заслуженное место благодаря своим многочисленным изобретениям: так, он сконструировал первый автоматический ткацкий станок и первый продольно-токарный станок, режущий все виды металла – настоящий прорыв в тогдашней индустрии механических орудий труда. Однако сейчас его помнят как мошенника – и все из-за «какающей утки»! Эта механическая утка хлопала крыльями, клевала зерно, пила воду и испражнялась. Но все это была иллюзия: зерно и вода оставались в одном из внутренних отсеков утки, а из другого отсека вываливались заранее подложенные туда экскременты.

Вскоре после утки Вокансона явился венгерский изобретатель Вольфганг фон Кемпелен со своим «Механическим турком» – автоматической шахматной машиной, названной так потому, что она имела вид сидящей куклы в человеческий рост, в турецком халате и чалме. Турок побеждал многих прославленных игроков в шахматы, включая Наполеона Бонапарта и Бенджамина Франклина, решил известную шахматную задачку, в которой конь должен обойти всю доску, побывав на каждой клетке только один раз, и даже с помощью наборной азбуки отвечал на вопросы. Увы, всеми этими успехами он был обязан опытному шахматисту, прячущемуся внутри.

Заявления, что машины скоро смогут воспроизводить человеческий разум, вызывали немало шума и в 1950-х годах. Решающим событием – первым шагом в разработке современного подхода к ИИ, мероприятием, на котором впервые прозвучал сам термин «искусственный интеллект», – стала конференция, проведенная в 1956 году в колледже Дартмут в Нью-Гэмпшире, под эгидой и на средства Фонда Рокфеллера. Многие блестящие молодые ученые, работающие над этой и смежными темами, на два месяца съехались в Дартмут. Герберт Саймон, психолог и экономист, в дальнейшем лауреат Нобелевской премии, так выразил господствовавший там оптимизм: «Пройдет каких-нибудь двадцать лет – и машины смогут делать все, что сейчас делают люди!»

В 1970 году Марвин Мински, один из организаторов Дартмутской конференции, столь же уверенно обещал журналу «Лайф»:

«Через три года, самое большее через восемь лет у нас будет машина, обладающая общим интеллектом среднего человека. Я имею в виду, что эта машина сможет читать Шекспира, смазывать мотор, рассказывать анекдоты, интриговать и ссориться. В этой точке машина начнет самообучаться с фантастической скоростью. Спустя несколько месяцев она достигнет уровня гения, а в последующие несколько месяцев ее возможности станут неисчислимы».

Эти надежды на интеллект человеческого уровня, иногда называемый «искусственный интеллект общего назначения» (ИИОН), вскоре рухнули. Показательно, что из Дартмутской конференции так и не вышло ничего ценного. Ни одно из грандиозных предсказаний, сделанных исследователями ИИ, не сбылось, финансирование иссякло, и наступил застой, который впоследствии окрестили первой «зимой ИИ».

Энтузиазм возродился в начале 1980-х годов на основании достижений компьютерных технологий и некоторого (впрочем, довольно ограниченного) успеха экспертных систем, призванных давать «профессиональные» советы и рекомендации. Было разработано несколько успешных приложений, помогающих распознавать инфекционные заболевания и неизвестные молекулы. Скоро в научных кругах снова заговорили об искусственном интеллекте, способном догнать и перегнать человека, и финансирование возобновилось. Но и эти обещания остались неисполненными, и к концу 1980-х годов в области ИИ наступила вторая «зима».

Третья волна эйфории поднялась в начале 2000-х годов. Теперь она сосредоточилась на том, что иногда называли «узкий ИИ»: его целью было развить мастерство в специфических задачах, например в идентификации объекта на изображениях, переводе текстов с иностранных языков, игре в шахматы или в го. Общая цель во всех этих случаях была одна: достичь равенства с человеком, а затем и превзойти человека.

На этот раз, оставив математические и логические подходы, призванные воспроизвести человеческое познание, исследователи начали перекодировать различные человеческие задачи, превращая их в проблемы, требующие классификации или прогнозирования. Например, распознавание образа можно рассматривать как отнесение его к одной из длинного списка категорий. Таким образом, полагаясь на технологии статистики, применяемые к огромным массивам данных, ИИ сможет делать все более точные классификации. Пример такого огромного массива данных – социальные сети, в которых обмениваются сообщениями миллиарды людей.

Допустим, перед нами стоит задача распознать на картинке кошку. Прежний подход потребовал бы от машины полностью смоделировать процесс принятия решения, благодаря которому человек определяет, что перед ним кошка. Современный подход пропускает стадии моделирования и даже понимания того, как принимают решения люди. Вместо этого он использует огромный массив данных, накопленный миллиардами людей, которые видели изображения и сообщали, что узнают на них кошек. Затем создает статистическую модель для большого массива различных характеристик изображений, предсказывающую, в каких случаях человек скажет, что видит кошку. И, наконец, прикладывает эту статистическую модель к новым изображениям, чтобы спрогнозировать, увидят ли люди кошку и там.

Такой прогресс стал возможен благодаря повышению скорости компьютерных процессоров, а также новым графическим процессорам (GPU), изначально созданным для генерации графики высокого разрешения в видеоиграх; эти процессоры оказались очень удобны для обработки серьезных объемов данных. Кроме того, помог серьезный прогресс в технологиях хранения данных, снизивший стоимость хранения и обработки больших массивов информации, а также улучшение способности к быстрым масштабным вычислениям, распределенным по нескольким устройствам, в большой степени за счет усовершенствования микропроцессоров и развития облачной среды.

Столь же важен оказался и прогресс в машинном обучении, особенно «глубинное обучение» с помощью многослойных статистических моделей, таких как нейросети. В традиционном статистическом анализе исследователь, как правило, начинает с построения теории об определенных причинно-следственных связях. Простой пример такой причинно-следственной связи – гипотеза, связывающая стоимость акций на фондовой бирже США с размерами процентных ставок. Дальше исследователь естественным образом переходит к статистическому анализу, стремясь понять, соответствует ли его гипотеза имеющимся данным и позволяет ли предсказывать события. Теория рождается из человеческого знания и рассуждения, часто основывается на синтезе прошлого опыта и творческого мышления и рассматривает одновременно несколько возможных вариантов соотношения переменных. Прикладывая эту теорию к соответствующему массиву информации, исследователи сопоставляют с ней имеющиеся данные, а затем на основе своих оценок делают прогнозы. В зависимости от успеха или неудачи первой попытки дальше могут потребоваться дополнительные человеческие усилия – пересмотр теории или создание новой.

В современной работе ИИ исследование не начинается с четкой причинно-следственной гипотезы. Например, исследователи не сообщают, какие характеристики цифровой версии образа важны для его распознавания. Многослойные модели, применяемые к огромным массивам данных, пытаются компенсировать это отсутствие предварительных гипотез. Каждый слой может работать со своим уровнем абстракции: один слой представляет форму и общие очертания изображения, другой сосредотачивается на отдельных деталях, например на том, имеются ли на изображении глаза или лапы. Но, несмотря на все эти изощренные приемы, без участия человека машине трудно извлечь из имеющихся данных верные выводы, и этот дефект стимулирует потребность во все больших массивах данных и все более высокой мощности вычислений для их обработки и поиска паттернов.

Типичный алгоритм машинного обучения начинается с того, что гибкую модель применяют к выборке данных, делают прогнозы, а затем проверяют их на более крупной выборке. Например, при распознавании образов алгоритм машинного обучения сперва тренируется на выборке образов с пометками, указывающими, есть ли на них кошка. На основе этого первого шага строится модель, делаются прогнозы, они прикладываются к следующему, намного более крупному массиву данных – и так шаг за шагом; на каждом уровне прогнозы становятся все точнее.

У этого нового подхода к ИИ имеются три важных следствия. Во-первых, работа ИИ неразрывно связана с использованием огромных массивов информации. Говоря словами исследователя ИИ Альберта Ромеро, который разочаровался в этой индустрии и в 2021 году ее покинул:

«Если вы работаете в ИИ-индустрии, скорее всего, вы собираете данные, чистите данные, сортируете данные, классифицируете данные, проводите обучение на данных, оцениваете данные. Данные, данные, данные. Все это – чтобы построить модель, способную сказать: „Это кошка“».

Такая зависимость от гигантских массивов данных – неизбежное следствие восходящего к Тьюрингу требования автономии ИИ.

Во-вторых, этот подход делает современный ИИ сверхуниверсальным, с легкостью применимым где угодно – в том числе, разумеется, в областях куда более важных и интересных, чем распознавание кошек. Едва проблема узнавания кошек на картинках «решена», можно перейти либо к тому же самому для более сложных образов, либо к другой задаче, на вид совершенно непохожей на эту – например, к определению значений фраз на иностранном языке. Следовательно, ИИ пригоден для использования в самых разных областях экономики и всей нашей жизни – как к добру, так и к худу.

В конечном счете целью становится создание полностью автономного интеллекта общего назначения, способного делать все, что делают люди. Говоря словами одного из основателей и директора DeepMind Демиса Хассабиса, задача – «решить проблему интеллекта, чтобы потом с его помощью решить все остальные проблемы». Но точно ли это наилучший путь развития цифровых технологий? Как правило, этот вопрос так и остается незаданным.

Наконец, третье – и более проблематичное: такой подход еще более сдвигает развитие цифровых технологий в направлении автоматизации. Автономные разумные машины естественным образом будут брать на себя все больше задач, которые сейчас выполняют люди. Компании будут разбивать имеющиеся рабочие задачи на мелкие этапы, использовать программы ИИ и огромные массивы данных, чтобы научить ИИ всему, что делают люди, – и затем заменять людей, выполняющих эти задачи, алгоритмами.

Эту сосредоточенность на автоматизации поддерживает и подкрепляет элитистское мировоззрение создателей ИИ. Согласно их взглядам, большинство людей склонны ошибаться и не слишком хорошо выполняют свои задачи. Как утверждает один из сайтов, посвященных ИИ, «люди слишком часто совершают ошибки». С другой стороны, существуют очень талантливые (но немногочисленные) программисты, способные проектировать самые сложные алгоритмы. По выражению Марка Цукерберга, «выдающийся человек на своем месте не просто немного лучше – в сто раз лучше того, кто просто „не так уж плох“!» Или, как сказал один из основателей Netscape Марк Эндриссен, «пять великих программистов сделают неизмеримо больше, чем тысяча посредственных». Из такого мировоззрения следует: нормально и даже желательно, чтобы направление развития технологий авторитарно определяли немногие выдающиеся таланты – и целью их работы должно стать сокращение дорогостоящих человеческих ошибок на рабочих местах. Так замена работников машинами и алгоритмами становится вполне приемлемой, а собирание вокруг них огромных массивов данных – терпимым. Такой подход делает критерием прогресса не способность машины дополнять человека, а способность сравняться с человеком – и отлично сочетается со стремлением корпораций снизить стоимость производства, максимально сократив количество людей, которым нужно платить.

Недооцененный человек

Несмотря на замену людей машинами и алгоритмами, рост производительности, связанный с новыми технологиями, иногда может повысить потребность в рабочей силе и побудить нанимателей поднять ставки. Но выгода для рабочих возникает лишь тогда, когда производительность повышается значительно. В наше время в этом-то и проблема: дело в том, что автоматизация с помощью ИИ заставляет жертвовать качеством работы, так что никакого серьезного повышения производительности не происходит.

Там, где производительность значительно увеличивается, это может снизить или даже нивелировать негативные эффекты автоматизации – например, повысив спрос на рабочую силу в неавтоматизированных областях или дав толчок развитию соседних секторов, в которых тоже увеличивается занятость. Однако, если снижение стоимости и повышение производительности невелики, этих благотворных эффектов не будет. Автоматизация с потерей качества особенно неприятна: она никому не приносит пользы и лишает людей рабочих мест только ради того, чтобы хозяева предприятия могли на них сэкономить.

В эпоху ИИ для потери качества при автоматизации есть фундаментальная причина. То, что делают люди, они по большей части делают хорошо; и автоматизация на основе ИИ не демонстрирует впечатляющих результатов, когда просто пытается заменить нас в тех задачах, которые мы учились выполнять столетиями. Именно автоматизацию с потерей качества получаем мы, например, когда руководство супермаркета спешит заменить живых кассиров электронными кассами: для покупателей это не улучшает, а ухудшает качество обслуживания. Или когда опытных сотрудников клиентских сервисов, IT-специалистов, финансовых консультантов вытесняют алгоритмы ИИ, выполняющие ту же работу плохо.

Многие производственные задачи, выполняемые людьми, представляют собой смесь рутинных действий с более сложными, включающими в себя социальную коммуникацию, решение проблем, требующими гибкости и творческого мышления. В подобных действиях люди опираются на «неписаные правила», на практические знания и опыт. Значительная часть этого практического знания сильно зависит от контекста – это то, чему едва ли возможно научить алгоритмы ИИ; следовательно, при автоматизации соответствующих задач это оказывается утрачено.

Чтобы проиллюстрировать важность знания, получаемого на опыте, обратимся к первобытным сообществам, о которых мы уже говорили в главе четвертой. Этнографические исследования показывают, что племена охотников-собирателей, как правило, демонстрируют примечательную способность адаптироваться к местным условиям. Возьмем, к примеру, кассаву (известную также как маниок), очень питательное клубневое растение родом из тропиков Центральной и Южной Америки. Из кассавы получают муку, хлеб, тапиоку, различные алкогольные напитки. Однако это растение ядовито: в нем содержатся сахара, производящие цианид. Если съесть кассаву сырой или неправильно обработанной, это грозит отравлением с тяжкими последствиями, в особо тяжелых случаях может даже привести к смерти.

Коренные жители полуострова Юкатан разработали определенные практики для удаления яда; срезали с клубня верхний слой, затем долго вываривали, а воду, в которой варилась кассава, выливали на землю. Европейцы поначалу не понимали этих традиций, некоторые даже считали их чем-то примитивным и антинаучным – но в том, что без этих процедур не обойтись, им пришлось убедиться на собственном опыте.

Гибкость и изобретательность человеческого ума не менее важна и в современной экономике, хоть нынешние технократические элиты часто ее игнорируют. Вот лишь один пример: практически все градостроители и инженеры согласны, что для безопасности движения и порядка на дорогах необходимы светофоры. Но в сентябре 2009 года английский приморский городок Портисхед выключил светофоры на самом оживленном перекрестке. И что же? Страхи специалистов не оправдались: водители просто начали поворачивать осторожнее и легко приспособились к новой организации движения. Прошло четыре недели – и движение на этом перекрестке значительно улучшилось, аварий и несчастных случаев стало не больше, а меньше. И это не какая-то аномалия. Несколько других экспериментов с «оголенными улицами» дали схожие результаты. Практично ли оголять улицы в больших городах – спорный вопрос; и полное отсутствие светофоров на многоуровневой развязке в мегаполисе, скорее всего, не сработает. Однако из этих экспериментов трудно не сделать очевидный вывод: порой, отбирая у людей инициативу и возможность самостоятельного суждения, технологии не помогают, а вредят.

То же верно, если перейти к производственным задачам. Человеческий разум ситуационен и социален – в этом его сила: он способен понимать ситуацию и успешно на нее реагировать, что позволяет его носителям быстро адаптироваться к меняющимся условиям. Например, в незнакомой обстановке, где есть какие-то намеки на опасность, люди более насторожены и напряжены, даже во время отдыха или сна. В другой обстановке, которую воспринимают как предсказуемую, они выполняют задачи быстрее, поскольку полагаются на усвоенные рутинные действия. Тот же ситуационный интеллект помогает людям гибко реагировать на изменения в окружающей среде, распознавать лица и повторяющиеся паттерны, черпать сведения из разных контекстов и сопоставлять друг с другом.

Кроме того, человеческий разум социален – в трех важных смыслах. Во-первых, большой объем необходимой информации об успешном приспособлении к миру и решении проблем хранится в нашей коллективной памяти – в общей копилке знаний, к которой мы получаем доступ через коммуникацию, прямую и косвенную (например, подражая поведению других). Усвоение и интерпретация «внешних» знаний такого рода – важнейшая часть человеческого познания; именно из-за этой задачи для нас так важно уметь строить «модель сознания». «Моделью сознания» называется человеческая способность делать заключения о психическом состоянии других и, исходя из этого, верно истолковывать их знания и намерения.

Во-вторых, на социальной коммуникации основана наша способность рассуждать; мы обсуждаем различные гипотезы, выдвигаем аргументы и контраргументы и в свете этого процесса оцениваем, насколько наши выводы близки к истине. Без этого социального измерения разума люди не смогли бы принимать верные решения. Правда, и мы иногда ошибаемся – особенно в лабораторных условиях, где оказываемся отрезаны от этих сторон человеческого разума; но в более естественной среде нам удается избегать многих ошибок.

В-третьих, дополнительные навыки и возможности дает человеку эмпатия и происходящая из эмпатии способность сочувствовать и разделять чужие желания.

Центральной ролью ситуационного и социального интеллекта прямо обусловлена слабая связь между аналитическими сторонами человеческого интеллекта, измеряемыми с помощью IQ-тестов, и жизненным успехом в различных его проявлениях. Даже в научной и технической сферах наиболее успешны те индивидуумы, что сочетают умеренно высокий IQ с развитыми социальными навыками и иными человеческими способностями.

В рабочей обстановке ситуационный и социальный интеллект, как правило, дает возможность не только гибко приспосабливаться к обстоятельствам, но и общаться с клиентами и коллегами таким образом, что это улучшает рабочие показатели и снижает число ошибок. Неудивительно, что, несмотря на распространение ИИ-технологий, большинство компаний все чаще подбирает себе персонал, ориентируясь в первую очередь не на математические или технические, а на социальные навыки. В основе этой растущей потребности в социально компетентных сотрудниках лежит простой факт: ни традиционным цифровым технологиям, ни ИИ не под силу выполнять задачи, включающие в себя социальное взаимодействие, адаптацию, гибкость и коммуникацию – то есть важнейшие задачи в любом деле.

Так или иначе, игнорирование чисто человеческих возможностей может обернуться самосбывающимся пророчеством, поскольку решения, принимаемые автоматикой, будут постепенно сужать «окно» социального взаимодействия и человеческого обучения. Возьмем как пример обслуживание клиентов. Хорошо обученный сотрудник может очень эффективно решать проблемы главным образом потому, что устанавливает эмоциональную связь с клиентом, нуждающимся в помощи (например, сочувствует человеку, с которым произошел несчастный случай и который теперь хочет подать иск). Сотрудник-человек быстро разбирается в сути проблемы – отчасти потому, что коммуницирует с клиентом, на основе этой коммуникации понимает, что тому нужно, и, исходя из этого, подыскивает решения. Это взаимодействие с клиентами дает сотруднику опыт и помогает со временем выполнять работу все лучше и лучше.

Теперь представим себе, что эту работу раздробили на отдельные задачи, расписали их алгоритмы и поручили искусственному интеллекту. Столкнувшись со сложной проблемой, он с большой вероятностью не сможет ни полностью ее понять, ни решить. Что происходит дальше? Клиента долго гоняют по кругу, задавая ему одни и те же вопросы и предлагая выбрать из нескольких неподходящих вариантов. Наконец появляется сотрудник-человек – в этой схеме он играет роль спасателя. Но к этому моменту клиент, как правило, уже устал и раздосадован, возможность образовать с ним эмоциональную связь утрачена, он не дает такой полной и подробной информации, какую мог бы дать сразу, – и возможности сотрудника чему-то научиться из этой коммуникации и приспособиться к определенным обстоятельствам оказываются ограничены. В результате сотрудники-люди становятся менее эффективны – и это, возможно, побуждает менеджеров и технологов задуматься о том, как бы еще сильнее сократить их задачи.

Эти уроки о человеческом интеллекте и адаптивности часто игнорируются ИИ-сообществом, которое спешит автоматизировать как можно больше задач, не обращая внимания на то, какие чисто человеческие навыки требуются для их исполнения.

Несколько лет назад громко возвещался триумф ИИ в рентгенологии. В 2016 году сотрудник исследовательского отдела Google Джеффри Хинтон, лауреат премии Тьюринга, один из создателей современных методов глубинного обучения, гордо заявил:

«Можно прекратить обучать рентгенологов. Уже сейчас очевидно, что через пять лет ИИ, прошедший глубинное обучение, будет выполнять эту работу лучше, чем человек».

Однако ничего подобного не произошло, и потребность в рентгенологах с 2015 года даже увеличилась – по очень простой причине. Полноценная лучевая диагностика требует еще больше ситуационного и социального интеллекта, чем, например, обслуживание клиентов – и находится полностью за пределами нынешних возможностей машин. Напротив, современные исследования показывают, что гораздо более эффективно сочетание человеческого опыта и знаний с новыми технологиями. Например, тонкие и сложные алгоритмы машинного обучения способны улучшить диагностику диабетической ретинопатии, возникающей у пациентов с диабетом из-за повреждения кровеносных сосудов сетчатки. И тем не менее точность значительно повышается, если результаты работы алгоритмов, исследующих сложные случаи, затем передают врачу-офтальмологу, который и ставит окончательный диагноз.

Технический директор отдела Google, занимавшегося разработкой беспилотных автомобилей, в 2016 году очень уверенно заявил, что его сыну (тогда одиннадцатилетнему) через пять лет, то есть в 2021 году, уже не придется получать водительские права. В 2019 году Илон Маск предсказал, что уже к концу 2020 года Tesla выпустит на улицы миллион полностью автоматизированных такси, способных возить пассажиров без водителя. Пришли и ушли и 2020, и 2021 год, а эти предсказания не сбылись – все по той же причине. Как показал эксперимент с «оголенными улицами», езда по запруженным транспортом городским артериям требует сильного ситуационного интеллекта, позволяющего приспосабливаться к быстро меняющей обстановке, и еще более сильного социального интеллекта – чтобы угадывать намерения других водителей и пешеходов.

Иллюзия общего разума

Апогеем нынешнего подхода к ИИ, вдохновленного идеями Тьюринга, можно назвать поиск искусственного интеллекта общего назначения (ИИОН), не уступающего человеческому.

Несмотря на впечатляющие успехи таких проектов, как GPT-3 или системы рекомендаций, нынешнему подходу к ИИ едва ли суждено воспроизвести человеческий интеллект или даже добиться по-настоящему высоких уровней производительности во многих задачах, связанных с принятием решений, которые успешно выполняют люди. Искусственный интеллект общего назначения обречен оставаться мечтой, по крайней мере, в обозримом будущем – и задачи, требующие задействовать ситуационные и социальные стороны человеческого познания, и дальше будут представлять для машинного разума неразрешимую проблему. Едва мы взглянем повнимательнее на то, что именно достигнуто сейчас, нам станет ясно, насколько сложно применить эти нынешние достижения к чисто человеческим задачам.

Возьмем самые прославленные успехи ИИ, например шахматную программу AlphaZero, о которой мы упоминали в главе первой. AlphaZero даже называют «творческой», поскольку она делает такие ходы, которых не замечали или не рассматривали живые гроссмейстеры. И тем не менее подлинным разумом она не обладает. Начать с того, что AlphaZero – очень узко специализированная программа: она умеет только играть в шахматы и другие похожие игры. Даже простейшие задачи за пределами шахматной доски, например простая арифметика или игры, в которых больше социального взаимодействия, – за пределами ее возможностей. Хуже того, совершенно непонятно, как можно было бы адаптировать архитектуру AlphaZero ко многим простейшим вещам, которые делают люди, например к проведению аналогий, играм с более гибкими правилами, обучению естественному языку – словом, к тому, что из года в год легко и умело проделывают сотни миллионов годовалых детей.

Даже в пределах шахматной доски интеллект AlphaZero очень специфичен. Хотя шахматные решения, принимаемые AlphaZero в границах правил игры, впечатляют, в действительности она не пользуется творческим мышлением того типа, какое используют люди: не проводит аналогии между разрозненными, случайно сопоставленными явлениями, не находит с их помощью решения для новых и разнообразных проблем.

GPT-3 более универсален и способен впечатлить сильнее, однако и у него те же ограничения. Он умеет выполнять только те задачи, которым был предварительно обучен, и не владеет способностью суждения, так что противоречивые или необычные инструкции вгоняют его в ступор. Еще хуже то, что эта технология ни проявляет ни капли ситуационного или социального интеллекта, присущего людям. GPT-3 не способен делать умозаключения о контексте, в котором выполняет свои задачи, и понимать причинно-следственные отношения между действиями и их результатами. Поэтому он часто неверно понимает даже простые инструкции – и едва ли когда-нибудь научится адекватно реагировать на меняющиеся или совершенно новые обстоятельства.

На самом деле все это иллюстрирует более широкую проблему. Статистические подходы, использующие распознавание паттернов и прогнозирование, плохо приспособлены для улавливания сути многих человеческих навыков. Начать с того, что эти подходы плохо совместимы с ситуационной природой интеллекта – ведь, находясь внутри той или иной ситуации, сложно в реальном времени понять, что именно она собой представляет, и ее классифицировать.

Еще один вечный вызов для статистических методов – проблема «избыточного подбора», которую обычно определяют так: использование большего числа параметров, чем требуется для определения каких-либо эмпирических соответствий. Здесь возникает опасение, что статистическая модель начнет принимать во внимание данные, не имеющие отношения к изучаемому вопросу, что приведет к неточным выводам и прогнозам. Статистики разработали немало методов для предотвращения избыточного подбора: например, разработав алгоритмы на одной выборке данных, затем тестируют их на другой. Тем не менее избыточный подбор остается слабым местом статистических подходов. Этот недостаток на фундаментальном уровнем связан с основной слабостью современного ИИ – отсутствием теории моделируемых феноменов.

Чтобы разобраться в этой проблеме, полезно лучше понять суть избыточного подбора, опирающегося на нерелевантные, или преходящие, характеристики исследуемого явления. Допустим, мы ставим алгоритму задачу отличить на картинках волков от хаски. Человек с этим справляется блестяще, а вот у ИИ эта задача вызывает большие трудности. Некоторым алгоритмам удавалось неплохо справиться, но впоследствии выяснилось, что они ориентировались по фону: собак распознавали по городскому пейзажу, например аккуратно подстриженной лужайке или пожарному гидранту, а волков – по фону, изображающему дикую природу, например заснеженные горы. Эти характеристики нерелевантны в двух фундаментальных смыслах. Во-первых, люди, отличая животных друг от друга, не используют для этого фон, на котором изображены животные, – и алгоритм, стремящийся смоделировать человеческое сознание, тоже так делать не должен. Во-вторых (это более практическое возражение), с переменой климата ареал обитания волков может измениться или же волк может каким-то образом попасть в город, где и потребуется его распознать. Иными словами, поскольку то, что окружает волков, не является их определяющей характеристикой, любой подход, основывающийся на том, что мы видим вокруг волка, при изменениях в мире или в контексте приведет к ошибочным прогнозам.

Избыточный подбор особенно неприятен для машинного интеллекта тем, что создает ложное ощущение успеха, когда в действительности машина не справляется с задачей. Например, статистическая связь между двумя переменными – допустим, средней температурой воздуха и объемом ВВП на душу населения – в разных странах не обязательно показывает, что климат оказывает серьезное влияние на экономическое развитие. Возможно, это результат специфического исторического процесса, в котором европейский колониализм затормозил экономическое развитие регионов, расположенных в других частях света с другими климатическими условиями. Не имея верной теории происходящего, легко спутать причинно-следственную связь с корреляцией – и именно это часто происходит с «умными» машинами.

Проблема избыточного подбора усугубляется, когда алгоритмы имеют дело с социальной по сути ситуацией, в которой люди реагируют на новую информацию. Изменение человеческих реакций может означать, что быстро меняется релевантный контекст – но и контекст может меняться вследствие тех действий, что предпринимают люди на основе информации, полученной от алгоритмов. Проиллюстрируем на примере из экономики. Алгоритм может заметить, что человек совершает ошибки при поиске работы – например пытается устроиться туда, где уже много кандидатов и мало вакансий, – и постарается его поправить. Процедуры, предназначенные для борьбы с избыточным подбором – такие как обучение и тренировка на разных выборках, – не устраняют фундаментальную проблему избыточного подбора: допустим, обе выборки адаптированы к конкретной ситуации, где имеется много незанятых рабочих мест в сфере розничной торговли. Но ведь со временем это может измениться – именно потому, что мы имеем дело с социальной ситуацией, где люди реагируют на доступную им информацию. Например, если алгоритм сообщает людям, ищущим работу, что сейчас в торговле много свободных вакансий, все они могут ринуться в торговлю, так что свободные вакансии быстро окажутся заполнены. Без ясного понимания этой ситуационной и социальной стороны человеческого познания, а также того, как меняется человеческое поведение в ответ на внешние стимулы, машинный разум никогда не избавится от «проклятия» избыточного подбора.

Недостаток социального интеллекта у ИИ влечет за собой и иные, более неприятные последствия. Хотя ИИ использует данные, исходящие от огромного сообщества пользователей Интернета, и, следовательно, имеет доступ и к их социальному измерению, при существующих подходах он не способен понять и учесть то, что человеческое понимание основывается на избирательном подражании, общении и спорах между людьми. В результате там, где умелый работник быстро и гибко реагирует на меняющиеся обстоятельства, зачастую используя навыки и точки зрения, почерпнутые у коллег, – многие инструменты автоматизации стремятся, наоборот, не увеличить, а снизить гибкость.

Разумеется, все эти аргументы не отрицают вероятность того, что в недалеком будущем наука откроет какой-то совершенно новый подход, который поможет решить проблему ИИОН. Однако пока никаких признаков такого подхода на горизонте не видно. И огромные деньги, крутящиеся в сфере ИИ, вкладываются отнюдь не в это. ИИ-разработки по-прежнему сосредоточены на масштабном сборе данных и автоматизации узких задач, основанной на техниках машинного обучения.

Экономическая проблема, возникающая с такой бизнес-стратегией, очевидна: там, где люди не так бесполезны, как порой о них говорят, а разумные машины не так уж разумны, как принято считать, мы получаем автоматизацию с потерей качества: люди теряют работу, но никаких обещанных чудес не происходит, и производительность почти не выигрывает. В сущности, даже сами компании не слишком-то выигрывают от автоматизации; некоторые из них, вполне возможно, внедряют ИИ лишь в угоду моде, как замечает специалист по ИИ Альберто Ромеро, которого мы уже цитировали:

«Рыночная власть ИИ такова, что многие компании его используют, сами не зная зачем. Просто все хотят запрыгнуть в этот вагон».

Современный паноптикон

Еще один популярный способ использования ИИ в наше время демонстрирует, как энтузиазм по поводу автономных технологий вкупе с массовым сбором данных направляет развитие цифровых технологий в очень специфическую сторону, которая, как и все предыдущее, обещает весьма скромную выгоду для корпораций, но значительные потери для сотрудников и для общества в целом.

В самом использовании цифровых инструментов для мониторинга сотрудников на рабочих местах нет ничего нового. Еще в начале 1980-х годов, расспрашивая работников об опыте присутствия в их жизни новых на тот момент цифровых технологий, психолог и исследователь бизнеса Шошана Зубофф снова и снова слышала, что цифровые технологии позволили менеджменту постоянно наблюдать за персоналом. Как выразился один офисный сотрудник:

«ETS [цифровая система слежения] – это возможность для руководства постоянно за нами следить. Теперь они в любую минуту могут узнать, чем мы заняты».

Но эти ранние попытки бледнеют в сравнении с тем, что мы видим теперь. Amazon, например, собирает огромный массив данных о своих доставщиках и сотрудниках на складах, затем накладывает на него алгоритмы по реструктуризации работы и получает рекомендации, как повысить их пропускную способность и минимизировать помехи.

Эта компания, уверенно идущая к званию крупнейшего частного работодателя в США, платит своим сотрудникам лучше других крупных компаний розничной торговли, например Walmart. Однако работу в Amazon нельзя назвать «хорошей работой» в одном очень важном смысле. Сотрудники здесь обязаны подчиняться жестким правилам; каждая их рабочая операция расписана до мелочей, все они должны выполняться в определенном (очень быстром) темпе; и за их работой постоянно следят, чтобы удостовериться, что они не устраивают перерывы слишком часто, не задерживаются на перерывах слишком долго и не сбавляют темп. Недавние исследования показывают, что Amazon увольняет значительное количество сотрудников из всех отделов за несоответствие этим требованиям, и иногда эти увольнения совершаются автоматически, на основании собранных данных (хотя сама компания автоматические увольнения отрицает). По словам организатора сообщества сотрудников Amazon,

«Мы постоянно слышим от людей, что с ними обращаются как с роботами, именно потому, что за ними следят и надзирают эти автоматические системы».

Паноптикон Иеремии Бентама задумывался как модель не только тюрьмы, но и ранней британской мануфактуры. Но у капиталистов XIX века не было техники, позволяющей постоянно следить за рабочими. У Amazon она есть.

Говоря словами одного сотрудника из Нью-Джерси,

«Они фактически видят все, что ты делаешь, – и все это используют в своих целях. В тебе не видят человека. Это унизительно».

Находиться под постоянной слежкой не только унизительно, но и опасно. Недавний доклад Федеральной инспекции по охране труда сообщает, что с 2017 по 2020 год сотрудники складов Amazon пострадали от шести серьезных несчастных случаев на 200 000 часов работы – это почти вдвое больше, чем по складской индустрии в среднем. Другие источники сообщают о еще более высоких цифрах несчастных случаев; особенно возрастают они в «пиковые» для бизнеса периоды, например под Рождество, когда наблюдение за сотрудниками усиливается. Помимо этого, Amazon требует от своих доставщиков и внештатных сотрудников загружать на телефоны и постоянно держать включенным приложение под названием Mentor, которое обеспечивает еще более тщательный мониторинг. Недавно компания объявила о разработке дополнительных ИИ-инструментов для отслеживания доставщиков. FedEx и другие сервисы доставки также собирают данные о своих сотрудниках и используют полученную информацию для навязывания им жесткого расписания; этим объясняется то, что многие доставщики постоянно спешат и все равно опаздывают.

В последнее время сбор данных распространяется и на работу «белых воротничков»: начальство офисных сотрудников с помощью автоматики отслеживает, чем занимаются подчиненные на компьютерах и устройствах связи.

До некоторой степени наблюдение за подчиненными – традиционная прерогатива нанимателя, которому нужно удостовериться, что сотрудники выполняют порученные им задачи и аккуратно обращаются с оборудованием. Однако традиционно мотивация сотрудников не сводилась к тому, что за ними следили; между ними и нанимателем складывались доверительные отношения, обусловленные высокими зарплатами и различными послаблениями на рабочем месте. Например, видя, что сотрудник плохо себя чувствует, наниматель или начальник мог отпустить его домой пораньше; и наоборот, в какой-то день сотрудники могли остаться подольше и поработать побольше, потому что возникла такая необходимость и наниматель об этом попросил. Мониторинг позволяет нанимателям срезать зарплаты и выжимать из сотрудников больше труда. В этом смысле мониторинг «перераспределяет доходы» в пользу нанимателя, давая ему возможность меньше делиться прибылью с сотрудниками, – но почти не повышает производительность труда.

Еще одна область, в которой ИИ-методы ведут к перераспределению прибыли в пользу хозяев, – это расписание рабочих смен. Ключевой источник автономии работника – четкий водораздел между рабочим и нерабочим временем, а также предсказуемое расписание. Возьмем сотрудников в ресторанах фастфуда. Если они знают, что должны приходить на работу в восемь утра и уходить в четыре, это придает их жизни высокую степень предсказуемости и дает широкую автономию вне этого восьмичасового окна. Но что произойдет, если менеджер вдруг обнаружит, что основная масса клиентов приходит в ресторан ближе к вечеру? Пожалуй, у него возникнет соблазн снизить эту автономию и заставить сотрудников работать и после четырех. Но как это сделать?

Ответ зависит от имеющихся противовесов – например, от коллективных соглашений, запрещающих удлинять рабочий день, от отношений между менеджером и сотрудниками, от представлений о том, что вообще допустимо и недопустимо на рабочем месте, и от уровня технологий, определяющего, способны ли компании заранее предсказывать повышенный спрос и соответственно корректировать расписание.

Коллективных соглашений и рабочего движения давно и след простыл, особенно в сфере услуг; хорошие отношения и уважение к частной жизни сотрудника тоже нынче не в моде. А единственный оставшийся барьер – недостаток технологий – преодолел ИИ и масштабный сбор данных, открывший дорогу так называемому «гибкому расписанию».

Многие индустрии, связанные с обслуживанием клиентов, отказались от предсказуемого расписания (например, с восьми утра до четырех вечера) и приняли вместо него сочетание «почасовых контрактов» и гибкого расписания, так называемого «планирования в реальном времени». Почасовой контракт означает, что компания отказывается от привычной формы трудового договора, в котором сотрудник обязуется работать регулярно, столько-то часов в неделю и за это получает зарплату. Теперь ему оплачивают каждый час работы в отдельности – и сколько будет этих часов, никому не ведомо. А планирование в реальном времени означает, что менеджер может позвонить сотруднику на мобильник поздно вечером и попросить выйти на работу завтра рано утром или постоянно продлевать его обычные рабочие часы.

И то и другое стало возможно благодаря сбору данных и ИИ-технологиям, например ПО для составления расписания, предоставляемому Kronos и иными IT-компаниями, которое позволяет нанимателям предсказывать увеличение спроса, а затем вынуждать сотрудников к нему приспосабливаться. Доведенный до логического конца, этот принцип превращается в практику «от заката до рассвета» – так называют ситуацию, когда один и тот же сотрудник закрывает лавочку поздно вечером и на следующий день рано утром ее открывает. И такой режим тоже навязывается сотрудникам, часто в последний момент, если менеджеры, вооруженные ИИ-инструментами, решают, что так смогут получить больше прибыли.

Между практиками «планирования в реальном времени» и мониторингом сотрудников можно найти немало параллелей. Но важнее всего, что и то и другое – примеры технологий с потерей качества: выигрыш от них невелик, а цена для сотрудников значительна. Используя дополнительный мониторинг, компания может срезать наемным работникам зарплаты и не стараться установить с ними добрые отношения. Однако производительность это почти не повышает, ведь люди не начинают работать лучше оттого, что им меньше платят, – напротив, они могут утратить мотивацию, а с ней и производительность. Гибкое расписание помогает немного повысить выручку, обслуживая больше клиентов в «часы пик», – но и в этом случае бремя для сотрудников более значительно, чем выигрыш для производительности. Говоря словами одного британского работника, нанятого на почасовой контракт:

«Никакой карьеры тут не сделаешь… [Я] уже шесть с половиной лет на этой работе. Вообще ничего не меняется, никакого продвижения. И никаких перспектив. Я спрашивал, может, мне имеет смысл на какие-нибудь курсы походить – мне твердо ответили „нет“».

Однако, несмотря на все, чего это стоит работникам, и на очень скромный, если не сказать эфемерный, выигрыш для производительности, компании, стремящиеся сэкономить на сотрудниках и увеличить контроль над ними, продолжают обращаться к ИИ-технологиям – и в ответ ученые удовлетворяют их спрос на «иллюзию разума».

Но есть ли иной путь – можно ли использовать цифровые технологии не только для бесконечной слежки и автоматизации всего и вся? Да, можно. И когда цифровыми технологиями стремятся не заменить и вытеснить, а поддержать человека, результаты могут быть – и уже бывают – намного лучше.

Дорога, которую не выбрали

В наших интерпретациях прошлого, как далекого, так и недавнего, часто ощущается тенденция к детерминизму: произошло то, что должно было произойти. Зачастую это неверно. История могла бы двигаться самыми разными путями. То же верно и для технологий. Современный подход, доминирующий в третьей волне моды на ИИ, основанный на бесконечном сборе данных и автоматизации всего и вся, – сознательный выбор. И выбор дорогостоящий – не только потому, что, следуя предрассудкам элит, навязывает обществу автоматизацию и слежку, но и потому, что оттягивает энергию и внимание исследователей от других, более плодотворных для общества направлений развития универсальных цифровых технологий. Далее мы увидим, что за парадигмами, опирающимися на практическую значимость машины (ПЗМ), числится немало успехов в прошлом – и что они вполне способны принести плоды в будущем.

Еще до Дартмутской конференции Норберт Винер, разносторонне одаренный ученый из МТИ, сформулировал иное видение – такое, в котором машины лишь дополняют человека. Винер руководствовался понятием практической значимости, хоть самого этого термина еще не существовало. Чего мы хотим от машин? Не какого-то трудноопределимого «разума» или «высокоуровневых возможностей» – наша цель очень проста: они должны помогать людям. И чтобы этого добиться, лучше сосредоточиться не на ИИ, а на ПЗМ.

Винер назвал три критические проблемы, преграждающие человечеству путь к мечте Тьюринга об автономно мыслящих механизмах. Во-первых, превзойти и заменить человека машинам будет нелегко, поскольку они всегда очень плохо подражают живым существам. Как заметил Винер в немного ином контексте, «лучшая материальная модель кошки – это другая или, еще лучше, та же самая кошка».

Во-вторых, автоматизация оказывает мгновенное негативное воздействие на трудящихся людей:

«Давайте не будем забывать, что машина-автомат, независимо от того, что мы думаем о ее чувствах или их отсутствии, в экономическом смысле представляет собой точный эквивалент раба. Так что живому человеку, чтобы конкурировать с машиной, придется соглашаться на рабские условия».

И наконец, жажда повсеместной автоматизации означает, что ученые и технологи скоро потеряют контроль над развитием технологии. Не следует жертвовать

«…постоянной обратной связью, тем, что позволяет индивиду вмешаться и остановить уже начатый процесс, нельзя отказываться от возможности передумать и пересмотреть свои желания, столкнувшись с неожиданными последствиями».

Однако ничто из этого не было неизбежным; машины вполне могли бы стать верными и надежными слугами человечества. Как писал Винер в 1949 году в черновике статьи для «Нью-Йорк таймс» (он опубликован в сокращении в 2013 году), «мы можем проявить смирение и с помощью машин жить в свое удовольствие – а можем предаться гордыне и погибнуть».

Факел Винера подхватили еще двое идеологов. Первым стал Дуглас Энгельбарт: он также высказывал идеи, предвосхитившие нынешнее понятие практической значимости. Энгельбарт стремился сделать компьютеры более полезными и простыми в обращении для обычных людей, не специалистов, основываясь на убеждении, что больше всего пользы они принесут, если «усилят человеческую способность справляться со сложными и неотложными проблемами».

Важнейшие свои инновации Энгельбарт продемонстрировал самым впечатляющим образом – на шоу, которое позже окрестили «Матерью всех демо». На этом мероприятии, организованном 9 декабря 1968 года Ассоциацией вычислительных машин совместно с Институтом электрической и электронной инженерии, Энгельбарт впервые познакомил публику с прототипом компьютерной мыши. Это устройство, состоявшее из большого ролика, деревянной рамки и единственной кнопки, мало походило на привычную нам мышь; однако торчащие сзади провода придавали ему сходство с грызуном, отчего оно и получило свое название. Мышь совершенно преобразила возможности пользователей: то, для чего прежде требовался набор сложных команд, теперь можно было достичь одним «кликом». Это изобретение помогло компьютерам Macintosh Стива Джобса и Стива Возняка обогнать на рынке персональные компьютеры и операционные системы на базе Microsoft (прежде чем Microsoft тоже начал использовать мышь). Среди других изобретений Энгельбарта, в том числе показанных на «Матери всех демо», – гипертекст (основной принцип работы нынешнего Интернета), растровые экраны (благодаря которым стали возможны и другие, самые разнообразные интерфейсы) и ранние версии графического интерфейса пользователя. Из идей Энгельбарта впоследствии выросли и другие инновации, особенно под эгидой компании Xerox, – и многие из них тоже оказались критически важны для Macintosh и других компьютеров.

Второй проповедник этого альтернативного видения, Дж. К. Р. Ликлайдер, стремился убедить людей принимать и развивать цифровые технологии продуктивным образом. Психолог по образованию, со временем Ликлайдер занялся информационными технологиями; он предлагал идеи, впоследствии сыгравшие важную роль в создании сетевых компьютеров и интерактивных компьютерных систем. Четкое и ясное выражение его видения содержится в программной статье 1960 года «Человеко-компьютерный симбиоз». И сейчас, через 60 лет после публикации, анализ Ликлайдера остается актуальным – особенно его акцент на том, что

«…в сравнении с человеком вычислительные машины очень аккуратны и точны, однако их ограничивает то, что они способны выполнять лишь одну или несколько элементарных задач одновременно. Люди более гибки, они умеют „сами себя перепрограммировать“ в реальном времени на основе получаемой новой информации».

Альтернативное видение Винера, Энгельбарта и Ликлайдера заложило основы некоторых наиболее плодотворных тенденций в сфере цифровых технологий – даже если сейчас их заслоняет грандиозная иллюзия ИИ. Чтобы понять, что это за достижения, и разобраться в том, почему они не привлекают такого внимания, как успехи господствующей парадигмы, для начала обсудим, как работает ПЗМ на практике.

Практическая значимость в действии

Можно назвать четыре взаимосвязанных, но различных пути развития цифровых технологий в направлении практической значимости – том, где они могут помогать нам и делать нас сильнее.

Во-первых, машины и алгоритмы могут увеличивать производительность работника в тех задачах, которые он уже выполняет. Когда умелый ремесленник получает хороший резец или архитектор – доступ к графическому проектировщику, их производительность может значительно возрасти. Такое возрастание производительности необязательно связано с новыми инструментами – его можно достичь, и совершенствуя конструкцию уже существующих механизмов. Именно этим занимаются специалисты в областях, известных как «человеко-машинное взаимодействие» и «человеко-ориентированные процессы проектирования». Эти подходы признают, что любой механизм, и в особенности компьютер, чтобы быть пригодным для продуктивного использования человеком, должен обладать определенными характеристиками, – и ставят в приоритет создание таких новых технологий, которые повышают полезность и удобство в использовании для человеческих нужд. При успехе (как Энгельбартовы мышь и графический интерфейс пользователя) новые цифровые технологии могут стать тем, что Стив Джобс как-то назвал «велосипедом для сознания», и расширить возможности человека. Поскольку этот подход ставит возможности машины на службу людям, машина здесь дополняет человеческий разум, а не пытается обзавестись собственным.

Этот подход уже породил некоторые серьезные успехи – и может породить еще больше. Например, такие инструменты, как виртуальная и дополненная реальность, обещают чрезвычайно расширить человеческие возможности в области планирования, проектирования, обучения и тренировок. Но его применение не ограничивается техническими и инженерными задачами.

Современный консенсус в IT-сообществе сформулировал Кай-Фу Ли: «Роботы и ИИ возьмут на себя производство, доставку, проектирование и продажи большинства товаров». Но, несмотря на такие заявления, как мы уже видели в предыдущей главе, усилия по введению нового программного обеспечения стали важным источником роста производительности в Германии, где позволили добиться большей гибкости перед лицом меняющихся обстоятельств или потребностей.

Этот же потенциал еще лучше иллюстрирует промышленность Японии, где многие компании, даже вводя сложнейшие (и порой автоматизированные) машины, в то же время ставят на первое место гибкость и поощряют участие сотрудников в принятии решений. Первопроходцем такого подхода стал У. Эдвард Диминг, еще один инженер, придерживающийся тех же взглядов, что и Винер, Энгельбарт и Ликлайдер. Именно Димингу японская промышленность обязана тем, что в ней установился гибкий подход к производству, в котором на первом месте стоит качество продукции. За это Диминг удостоился в Японии высочайших почестей; в его честь там учреждена премия его имени. Немало новых возможностей для такого сотрудничества человека и машины представляет в наше время виртуальная и дополненная реальность – технологии, значительно увеличивающие точность человеческого труда, способность человека создавать более адаптивные конструкции и более гибко реагировать на изменения вокруг себя.

Второй тип ПЗМ, еще более важный, – тот, на котором мы подробно останавливались в главах седьмой и восьмой: создание новых задач для людей. Новые задачи играли важнейшую роль, например, в росте спроса как на квалифицированных, так и на неквалифицированных рабочих на заводах Форда в период, когда Форд автоматизировал отдельные элементы производственного процесса, реорганизовывал работу и переходил к массовому производству. Цифровые технологии в последние полвека также создали немало новых технических и инженерных задач (несмотря даже на то, что для большинства компаний на первом месте стоит цифровая автоматизация). Много новых задач может создать в будущем виртуальная и дополненная реальность.

Сферы образования и здравоохранения ярко иллюстрируют то, как новые алгоритмы могут порождать новые задачи. Более сорока лет назад Айзек Азимов подметил серьезную проблему современной системы образования:

«В наше время то, что принято называть учебой, вам навязывают. Всех в классе заставляют учить одно и то же, в один и тот же день, с одной и той же скоростью. Но все люди разные. Для кого-то класс движется слишком быстро, для кого-то – слишком медленно, для кого-то – не в том направлении».

Когда Азимов писал эти слова, его мечта об индивидуальном обучении оставалась всего лишь мечтой. Где было взять столько учителей, чтобы хватило на занятия с каждым учеником в отдельности? Теперь у нас есть инструменты, позволяющие в большинстве классов превратить эту мечту в реальность. Не так уж сложно переконфигурировать для этой цели даже существующие цифровые технологии. Те же статистические подходы, что используются для автоматизации, можно применить для определения в реальном времени групп учеников, у которых имеются трудности с задачами того или иного типа, а также тех, кто уже готов усваивать более сложный материал. Дальше можно отредактировать учебные материалы, приспособив их к восприятию той или иной группы. Данные из сферы исследований образования показывают, что такая персонализация обучения дает очень неплохие результаты и особенно полезна там, где общество больше всего в ней нуждается, – в улучшении когнитивных и социальных навыков учащихся из неблагополучной социально-экономической среды.

В здравоохранении ситуация аналогичная: правильный тип ПЗМ может значительно улучшить работу медсестер и других профессионалов в этой сфере, причем наиболее полезно это будет в первичной медицинской помощи, профилактике и простых по технологии медицинских процедурах.

Третий тип вклада машин в человеческую деятельность в ближайшем будущем может стать еще более важен. Решения, которые мы принимаем, почти всегда зависят от известной нам информации, и даже творческие способности человека были бы бесполезны без возможности своевременно получать доступ к точным данным. Даже самые творческие задачи требуют от нас проводить аналогии, находить новые сочетания известных методик или образцов. Далее от известного мы переходим к неизвестному и неиспробованному – но и эти новые находки сопоставляем с известными нам данными, проверяем разумом, корректируем и шлифуем. Во всех этих задачах человеку очень помогает быстрая подача правильно отфильтрованной полезной информации.

Квинтэссенцией такого инструмента человеческого познания в наше время стала Всемирная паутина (Worldwide Web), создание которой часто приписывают британскому компьютерщику Тиму Бернерсу-Ли. К концу 1980-х годов Интернет – глобальная сеть компьютеров, обменивающихся информацией друг с другом, – существовал уже около двух десятилетий, в нем накопился огромный массив информации, но непонятно было, как открыть доступ к этим данным для обычных пользователей. Бернерс-Ли вместе с бельгийским компьютерщиком Робером Кайю развил идею гипертекста, впервые высказанную Энгельбартом, и ввел гиперссылки, позволяющие связать информацию на одном сайте с релевантной информацией в других частях Интернета. Для поиска и получения этой информации ученые написали первый веб-браузер и назвали его Worldwide Web или просто Web. Эта технология стала эпохальной вехой в развитии человеко-машинной комплементарности: она позволяет людям получать информацию и узнавать суждения других людей в разных частях света с невиданной ранее легкостью и быстротой.

Исходя из критериев ПЗМ, можно создать еще множество приложений для доставки информации, которая поможет людям лучше выполнять разные социальные роли: трудящихся, потребителей, граждан. Например, такую роль играют (в лучших своих проявлениях) системы рекомендаций: собирают массив информации, поступающей от разных людей, классифицируют ее и выдают по запросу пользователя, чтобы помочь ему принять решение.

Четвертая категория – использование цифровых технологий для создания новых платформ и рынков – возможно, в конечном счете окажется важнейшим из применений видения Винера – Энгельбарта – Ликлайдера. Экономическая производительность неотделима от сотрудничества и торговли. Сведение вместе людей с различными навыками и задачами всегда было главнейшей стороной экономической динамики; и именно эту задачу безмерно облегчают цифровые технологии.

Яркую иллюстрацию этого феномена дает нам история торговли свежей рыбой в южноиндийском штате Керала, настоящую революцию в которой совершили мобильные телефоны. Наловив в море рыбы, рыбаки из Кералы везут ее к торговцам на какой-нибудь прибрежный базар. Прежде нередко случалось, что на каком-либо базаре предложение превышало спрос, торговцу приходилось снижать цену до нуля и выбрасывать нераскупленный товар. В это же время, быть может, на соседнем базаре, всего в нескольких километрах оттуда, рыбы было мало, а покупателей много – цена взлетала до небес, в рыбную лавку выстраивалась длинная очередь, и все равно всем не хватало. Но с 1997 года в Керале начала распространяться мобильная связь. Рыбаки и торговцы рыбой стали использовать мобильники для получения информации о рыбных поставках и спросе на рыбу на разных базарах. В результате и ценовой разброс, и потери от нераскупленной рыбы резко снизились. Экономическая основа этой истории очевидна: новая технология связи позволила создать унифицированный рыбный рынок – а внимательное изучение этого эпизода показывает, что он принес значительную пользу и рыбакам, и рыботорговцам, и потребителям.

Возможность образования новых связей и создания новых рынков с появлением цифровых технологий резко увеличивается, и некоторые платформы уже этим воспользовались. Вдохновляющий пример – система безналичных расчетов и перевода денег M-PESA, введенная в 2007 году в Кении, предоставляющая быстрые и дешевые банковские услуги на основе мобильных телефонов. Уже два года спустя эта система охватила более 40 % кенийского населения, а с тех пор была принята еще несколькими развивающимися странами. По оценкам специалистов, она приносит местным экономикам обширную и разностороннюю выгоду. Другой пример – Airbnb, платформа, создавшая новый рынок посуточной сдачи в аренду квартир: в результате потребители получили более разнообразный выбор, владельцы квартир – возможность заработка, а у сетевых отелей появились конкуренты.

Даже в таких областях, которые ИИ автоматизирует более или менее успешно – например в переводе, – существуют комплементарные альтернативы, основанные на создании новых платформ. Так, вместо того чтобы полагаться на полностью автоматизированный перевод, зачастую низкого качества, можно создавать платформы, на которых люди, нуждающиеся в языковых услугах, ищут и находят квалифицированных носителей языков со всего мира.

Необязательно ограничивать новые платформы теми, что специализируются на денежных транзакциях. Децентрализованные цифровые структуры позволяют выстраивать платформы для самых разных форм сотрудничества, обмена знаниями и опытом или коллективного действия – об этом мы подробнее поговорим в главе одиннадцатой.

Упомянутые нами успехи ПЗМ по праву заняли свое место в «зале славы» цифровых технологий и открыли дорогу для неисчислимого множества других инноваций. Однако в нынешнем развитии «цифры», сосредоточенном на ИИ, они выглядят маргинальными. По оценке McKinsey, из 26–39 млрд долларов, составляющих общую стоимость работы над ИИ для всего мира, 20–30 млрд тратят несколько крупных IT-компаний из США и Китая. К сожалению, все указывает на то, что большая часть этих средств расходуется на сбор огромных массивов данных, цели которого все те же – автоматизация и наблюдение.

Почему же IT-компании не создают такие инструменты, которые бы помогали людям и в то же время увеличивали производительность? Для этого есть несколько причин, и все немало сообщают нам о тех более фундаментальных закономерностях, с которыми мы здесь сталкиваемся. Рассмотрим пример с индивидуальным обучением – и вспомним, что новые задачи, как в этом примере, полезны в том числе потому, что увеличивают производительность, предлагая людям (в данном случае учителям) новую работу, осмысленную и высокооплачиваемую. Однако чем больше учителей, тем больше придется им платить – а школы и так стеснены в средствах. Большинство государственных школ, как и других современных организаций, вынуждены сосредоточиться на урезании расходов: нанимать дополнительных учителей они и не могут, и не хотят. Следовательно, новые алгоритмы автоматического преподавания или автоматического выставления оценок выглядят для них более привлекательно.

То же верно для здравоохранения. Хоть США и тратит на здравоохранение 5 трлн долларов ежегодно, больницы очень стараются не увеличивать, а сокращать число медсестер; эта нехватка персонала ярко проявилась и болезненно сказалась во время эпидемии COVID-19. Новые технологии, повышающие возможности и ответственность медсестер, означают, что для качественного обслуживания пациентов медсестер придется нанимать больше. И это наблюдение возвращает нас к исходной точке: машины, комплементарные по отношению к человеку, непривлекательны для организаций, сосредоточенных на снижении расходов.

Еще одна проблема состоит в том, что новые платформы и новые методы сбора и предоставления пользователям информации открывают и неизвестные ранее возможности для эксплуатации друг друга. Так, Всемирная паутина достаточно быстро стала не только источником полезной информации для всех, но и платформой для цифровой рекламы, и местом распространения дезинформации. Системы рекомендаций часто используются, чтобы подтолкнуть потребителей к выбору определенного продукта – в зависимости от того, кто предлагает платформе финансовые вливания. Цифровые инструменты могут предоставлять начальству информацию, облегчающую не только принятие решений, но и слежку за подчиненными. Некоторые рекомендации, выдаваемые ИИ, обнаруживают и распространяют существующие предрассудки, например расистские предубеждения в сферах найма или системы правосудия. Платформы – агрегаторы доставки и такси навязывают работникам, не имеющим защиты или гарантий занятости, кабальные соглашения с тяжелейшими условиями труда. Как видим, даже самые многообещающие применения комплементарного принципа остаются зависимыми от рыночных стимулов, от видения и приоритетов IT-лидеров, а также от уравновешивающей силы рабочих организаций.

Кроме того, на пути к комплементарным человеку машинам вырастает еще один, столь же непреодолимый барьер. В тени теста Тьюринга, на волне всеобщей увлеченности иллюзией ИИ ведущие исследователи в этой сфере стремятся достичь равенства машины с человеком; и их окружение ценит и уважает достижения в этой области, ставя их выше ПЗМ. В результате развитие инноваций стремительно движется в сторону отъема задач у людей и передачи их ИИ-программам. Разумеется, подкрепляют эту тенденцию и финансовые вливания от крупных организаций, заинтересованных в алгоритмах, позволяющих снизить расходы на сотрудников.

Неуместные технологии

За иллюзию ИИ в индустриализированном мире расплачиваются не только работники и граждане.

Несмотря на наблюдаемый в последние 50 лет экономический рост во многих странах «третьего мира», более 5 млрд человек в развивающихся странах по-прежнему выживают менее чем на 10 долларов в день. Это означает, что им не всегда доступно даже удовлетворение базовых жизненных потребностей: полноценное питание три раза в день, одежда, съем жилья, лечение. Многие надеются, что проблему бедности поможет смягчить научно-технический прогресс. Достаточно взять новые технологии, разработанные и усовершенствованные в США, Европе или Китае, перенести в развивающиеся страны – и это подстегнет их экономический рост. Важнейшими ингредиентами этого процесса считаются также международная торговля и глобализация – мол, новые продвинутые технологии помогут странам с низким доходом экспортировать свою продукцию.

Есть истории успеха – истории сверхбыстрого экономического роста, как в Южной Корее, Тайване, на Маврикии, в последние десятилетия в Китае – которые, казалось бы, подтверждают это ожидание. Каждая из названных стран достигла постоянного роста доходов на душу населения в среднем более чем на 5 % в год, причем эта цифра остается постоянной уже более 30 лет. Во всех этих случаях важную роль в развитии сыграли индустриальные технологии, а также экспорт на мировые рынки.

Но вопрос, как и в каких случаях развивающиеся страны получают выгоду от новых технологий, более сложен и тонок, чем это обычно представляется. Несколько экономистов, как, например, Фрэнсис Стюарт, еще в 1970-х годах подметили, что импорт технологий срабатывает не всегда и в некоторых случаях может даже увеличить бедность и неравенство, поскольку западные технологии часто оказываются «неуместными» или «неподходящими» для потребностей развивающихся стран. Это можно увидеть на примере африканского сельского хозяйства. Почти все финансирование сельскохозяйственных исследований в мире осуществляется в США и Европейском союзе, и значительная его часть направлена на вечную проблему сельского хозяйства – болезни и патогены зерновых культур, по оценкам специалистов, уничтожающие ежегодно более половины, может быть, даже до 80 % мирового зерна. Например, европейская совка, угрожающая посевам кукурузы в Западной Европе и Северной Америке, привлекает большое внимание: выводятся специальные устойчивые против нее сорта кукурузы (в том числе более 5 000 биотехнологических патентов и различные генетически модифицированные разновидности). То же верно для кукурузного корневого жука, также поражающего кукурузу в США и отдельных частях Западной Европы, и для хлопкового коробочного червя – в свое время главной угрозы хлопчатнику в США.

Но химикаты и новые сорта растений, разработанные в США и Европе, не особенно полезны на полях Африки и Южной Азии, где другие болезни и патогены. Так, африканская стеблевая совка, поражающая те же зерновые культуры в Африке, или пустынная саранча, пожирающая посевы почти по всей Африке и в южных регионах Азии, представляют для сельскохозяйственной производительности в этих регионах огромную проблему. Однако внимания к ним гораздо меньше (очень мало патентов и ни одной генетически модифицированной разновидности). Общий объем как финансирования исследований, так и инноваций, нацеленных на решение проблем развивающихся стран, в целом ничтожен. А ведь, по оценкам специалистов, если бы разработки в области биотехнологий переориентировались с западных болезней и патогенов на те, что преследуют зерновые культуры развивающихся стран, это подняло бы мировую сельскохозяйственную производительность не менее чем на 42 %.

Новые сорта зерновых и сельскохозяйственные химикаты, «работающие» исключительно в западных странах, – лишь один из примеров неуместной технологии. Фрэнсис Стюарт уделяла основное внимание не болезням и патогенам зерновых, а новым капиталоемким методам производства. Например, сложное индустриальное оборудование на заводах и комбайны в сельском хозяйстве могут не отвечать потребностям развивающих стран, где мало денег и очень велика потребность в создании стабильных рабочих мест для населения.

Подобные ошибки дорого обходятся экономическому росту. В результате развивающиеся страны могут отказываться от новых технологий, требующих слишком больших вложений или не соответствующих их потребностям. В самом деле, сорта зерновых, выведенные в США, редко экспортируют в более бедные страны, за исключением тех, которые по своему климату и патогенам очень похожи на США. Даже когда новые технологии, созданные в индустриальных странах, переносятся в страну третьего мира и закрепляются там, выгода от этого часто бывает невелика, ведь в развивающихся странах обычно не хватает высококвалифицированных рабочих, способных управлять новейшей техникой и ее ремонтировать. К тому же технологии, экспортируемые из богатых стран, порой создают новую структуру неравенства: вокруг них аккумулируются средства, сплачиваются квалифицированные работники, получающие достойную зарплату, в то время как положение большинства остается плачевным. В целом можно сказать, что неуместные технологии не выполняют задачу борьбы с бедностью в развивающихся странах, а иногда и наоборот – увеличивают экономический разрыв как внутри этих стран, так и между Западом и всем остальным миром.

Многие в развивающихся странах уже сознают, что должны искать решения для себя самостоятельно. Один из важнейших прорывов XX века был совершен в так называемой «Зеленой революции», которую возглавили исследователи из Мексики, Филиппин и Индии. Новые сорта риса, выведенные на Западе, не подходили для почвы и климатических условий в этих странах. Прорыв произошел в 1966 году, когда новая разновидность риса, IR8, стремительно удвоила его производство на Филиппинах. В это же время в индийских научно-исследовательских институтах были созданы родственные сорта, которые скоро перевернули вверх дном сельское хозяйство и в этой стране, в некоторых местах увеличив урожаи в 10 раз. Созданию этих новых культур способствовало финансирование от Фонда Рокфеллера и руководство известных ученых, особенно агронома Нормана Борлауга, впоследствии лауреата Нобелевской премии мира за спасение более 1 млрд человек от голода.

Сегодня перед нами предстает архетипически неуместная технология – искусственный интеллект; но никаких признаков новой «Зеленой революции» (или хотя бы новых Борлаугов) на горизонте не видно.

Снижение бедности и быстрый экономический рост в случаях Южной Кореи, Тайваня или Китая не были связаны с импортом западных методов производства. Экономический успех в этих странах исходил из новых технологий, позволявших более эффективно использовать человеческие ресурсы. Во всех этих случаях технологии создавали для большинства трудящихся новые рабочие места, а сами государства увеличивали инвестиции в образование, чтобы создать паритет между технологиями и знаниями населения.

Нынешняя траектория развития ИИ не позволяет надеяться на этот путь. Цифровые технологии, робототехника, другое автоматизированное оборудование уже повысили требования к знаниям и навыкам сотрудников по всему миру и начали создавать систему международного разделения труда, например, внося свой вклад в процесс деиндустриализации многих развивающихся стран с низким уровнем образования населения.

И этот процесс ИИ тоже выводит на новую ступень. Вместо того чтобы создавать рабочие места и новые возможности для большинства населения в странах с низким и средним доходом, нынешний путь развития ИИ повышает требования к капиталовложениям, к образованию и навыкам производственных рабочих и даже требует более квалифицированной сферы услуг, например менеджмент-консалтинга или IT-компаний. Но именно таких ресурсов в развивающихся странах меньше всего. Как мы видели в примерах экономического подъема, основанного на экспорте и «Зеленой революции», многие из этих экономик изобилуют иными ресурсами, которые можно было бы использовать для экономического роста и сокращения бедности. Однако эти ресурсы останутся неиспользованными, если будущее высоких технологий свернет туда, куда диктует иллюзия ИИ.

Возрождение сословного общества

Индустриальная революция началась в Британии XVIII века, где у большей части населения почти не было ни политической власти, ни влияния. Довольно предсказуемо, что направление прогресса и роста производительности в таком сословном обществе поначалу ухудшило условия жизни миллионов простых людей. Что-то начало меняться лишь вместе с переменами в распределении власти – тогда технологии пошли иным путем, путем повышения предельной производительности рабочих. Очень важным было и появление на рабочих местах институтов и норм, поощряющих раздел прибыли, гарантирующих, что повышение производительности будет преобразовываться в рост заработной платы. Борьба за технологии и власть рабочих во второй половине XIX века и начала преобразование жесткой иерархической структуры британского общества.

В главах шестой и седьмой мы проследили за этим процессом сперва в Британии, а затем и в США, по мере того как технологическое лидерство в мире перешло от одной страны к другой. В XX веке технологии США еще решительнее двигались по пути увеличения предельной производительности. Так были заложены основы общего процветания – не только внутри страны, но и во многих других регионах, поскольку американские технологии и инновации распространялись по всему миру, способствовали массовому производству и повышали благосостояние среднего класса в самых разных странах.

Более пятидесяти лет США оставались на переднем крае технического прогресса; их производственные методы и практики, особенно цифровые инновации, и сейчас распространяются по всему миру, но теперь с совсем иными последствиями. Модель общего процветания, созданная в США, рухнула, когда власть сконцентрировалась в руках крупных корпораций, институты и нормы, поощряющие раздел прибыли, подверглись коррозии, а технологии, начиная примерно с 1980 года, двинулись в сторону всеобщей автоматизации.

Все эти процессы уже шли, и видение, предлагающее использовать технологии для автоматизации, слежки за сотрудниками и выжимания из них всех соков, уже прочно укрепилось в умах, когда началась последняя, третья по счету, волна моды на ИИ. Возвращение к сословному обществу уже идет вовсю – оно началось задолго до 2010-х. Но иллюзия ИИ и шум вокруг него ускоряют этот процесс.

Современный ИИ расширяет инструменты IT-элит, дает им в руки новые способы автоматизировать работу, оттеснять сотрудников и (предположительно) делать всевозможные благие дела, например повышать производительность и решать серьезные проблемы, стоящие перед человечеством. По крайней мере, так утверждают они сами. Спеша к своим целям во имя прогресса, вооруженные ИИ, эти лидеры еще меньше прежнего нуждаются в том, чтобы советоваться с остальным человечеством. Многие из них полагают даже, что все прочие люди не слишком-то умны и не способны сами определить, что для них лучше.

Союз цифровых технологий и большого бизнеса уже к середине 2000-х годов породил сотни цифровых миллиардеров. В 2010-е годы, с началом распространения ИИ, их состояния увеличились во много раз. Но произошло это не потому, что ИИ продемонстрировал какие-то хваленые чудеса и преобразил мир. Напротив, нынешний подход к ИИ не дает особых результатов, поскольку замена людей автоматизацией чаще всего не дает серьезного повышения производительности. Что еще хуже, автоматизация – путь не к общему процветанию, а в обратную сторону. И тем не менее ИИ завораживает (и обогащает) магнатов и топ-менеджеров, поскольку лишает их подчиненных какого-либо влияния и открывает новые пути монетизации информации о людях – об этом мы подробнее поговорим в следующей главе.

В безумной гонке за всеобщей автоматизацией и слежкой при помощи цифровых технологий на это никто не обращает внимания; вот почему мы называем это новое видение «иллюзией ИИ». В следующем десятилетии распространение ИИ увеличится, поскольку растет глобальная связанность: все больше домашней бытовой техники и иных машин постоянно подключены к облачным сервисам, что позволяет собирать все больше данных – а с ним укрепится и эта иллюзия.

Сегодня мы все ближе к будущему, описанному в «Машине времени», антиутопии Г. Дж. Уэллса. Наше общество уже состоит из двух сословий. Наверху – магнаты, твердо уверенные, что честно заработали свои состояния выдающимся умом и талантом. Внизу – обычные люди, которых IT-лидеры считают «склонными к ошибкам» и мечтают заменить машинами. По мере все более активного участия ИИ в современной экономике, скорее всего, верхний и нижний слои общества будут расходиться все дальше друг от друга.

Во всем этом не было ничего неизбежного. Цифровые технологии необязательно было использовать для автоматизации, и создателей ИИ-технологий никто не заставлял неразборчиво следовать этому тренду. Никакие неодолимые силы не принуждали IT-сообщество искать в машине разум, а не практическую значимость. В том, что развитие технологий пошло этим путем, не было ничего предопределенного – как нет ничего неизбежного и в сословном обществе, которое строят сейчас наши лидеры.

Из нынешнего тупика можно выйти, изменив конфигурацию распределения власти в обществе и направив технологические изменения по другому пути. Подобные перемены мог бы инициировать низовой демократический процесс. Но тут перед нами вырастает новое зловещее препятствие: ИИ представляет все больше проблем и для демократии. Об этом мы поговорим в следующей главе.