Эта книга может показаться переполненной научной фантастикой, но все, что я описываю, уже произошло. Мы создали странный, чуждый разум — не обладающий сознанием, но поразительно искусно его имитирующий. Он обучен на огромных архивах человеческих знаний, а также за счет труда низкооплачиваемых работников. Он способен сдавать экзамены и проявлять творческий подход, обладая потенциалом изменить то, как мы работаем и учимся; но при этом он регулярно выдумывает информацию. Вы больше не можете быть уверены, что все, что вы видите, слышите или читаете, создано человеком, а не ИИ. Все это уже произошло. Мы, люди — ходячие и говорящие мешки с водой и микроэлементами, — умудрились заставить упорядоченный песок притворяться, будто он думает так же, как мы.

То, что произойдет дальше, — это уже научная фантастика. Или, вернее, разные фантастические сценарии, поскольку возможных вариантов будущего много. Я вижу четыре четких сценария того, что случится в мире ИИ в ближайшие несколько лет. Однако последствия каждого из них не столь очевидны. Я хочу изложить вам каждый сценарий и показать, как в результате может выглядеть наш мир.

Давайте начнем с самого маловероятного будущего, и, как это ни тревожно, речь идет вовсе не о появлении AGI (сильного ИИ). Куда менее вероятна возможность того, что ИИ уже достиг своего предела, но именно с нее мы и начнем.

Сценарий 1: Лучше уже не будет

Что если ИИ перестанет совершать гигантские скачки вперед? Конечно, то тут, то там могут происходить небольшие улучшения, но в таком будущем они окажутся ничтожно малы по сравнению с тем огромным прорывом, который мы наблюдали при переходе от GPT-3.5 к GPT-4. ИИ, которым вы пользуетесь сейчас, — это действительно лучшее, что вам когда-либо доведется использовать.

С технической точки зрения такой исход кажется маловероятным. Нет никаких оснований полагать, что мы уперлись в какой-то естественный предел возможностей совершенствования ИИ. Это не означает, что большие языковые модели (LLM) неизбежно будут умнеть и дальше: исследователи выявили множество потенциальных проблем в их базовой архитектуре и обучении, которые в какой-то момент могут ограничить их возможности. Например, у систем ИИ могут закончиться данные для обучения, либо затраты и усилия на наращивание вычислительных мощностей для работы ИИ станут неоправданно велики. Однако мало что указывает на то, что эти ограничения уже достигнуты, а даже если бы это было и так, существуют другие доработки и изменения, которые можно внести в LLM, чтобы выжимать из систем максимум еще долгие годы. К тому же LLM — это лишь один из подходов к ИИ; другие, более продвинутые технологии, пришедшие им на смену, могут преодолеть эти ограничения.

Чуть более возможен сценарий, при котором государственное регулирование или юридические меры остановят дальнейшее развитие ИИ. Возможно, эксперты по безопасности ИИ убедят правительства запретить разработку ИИ, вплоть до угрозы применения силы против любого, кто посмеет нарушить эти ограничения. Но, учитывая, что большинство правительств только начинают задумываться о регулировании, а международный консенсус отсутствует, крайне маловероятно, что глобальный запрет будет введен в ближайшее время или что регулирование заставит разработку ИИ полностью остановиться.

Тем не менее, этот сценарий, похоже, как раз тот, на который ориентируется большинство людей и организаций. И я понимаю природу этого отрицания. Большинство людей не просили создавать ИИ, способный выполнять множество задач, которые раньше были исключительно человеческой прерогативой. Учителя не хотели, чтобы практически любое домашнее задание могло быть мгновенно решено компьютером. Работодатели не хотели, чтобы высокооплачиваемые задачи, имеющие смысл только при их выполнении человеком (оценка эффективности, составление отчетов), вместо этого перекладывались на машины. Государственные чиновники не хотели, чтобы была выпущена идеальная система дезинформации без каких-либо эффективных мер противодействия. Мир стал намного более странным, и очень быстро.

Поэтому неудивительно, что так много людей пытаются справиться с последствиями внедрения ИИ, делая вид, будто ничего не изменится, пытаясь запретить его раз и навсегда или воображая, что вызванные им перемены можно легко сдержать. Как мы уже видели, подобные подходы вряд ли сработают. Хуже того, значительные преимущества ИИ существенно сократятся из-за попыток попытками притвориться, будто это очередная технологическая волна, изменения от которой будут происходить десятилетиями.

Даже если ИИ больше не сдвинется с места, некоторые его последствия уже неизбежны. Первая группа очевидных перемен, вызванных ИИ, коснется того, как мы понимаем — и недопонимаем — окружающий мир. Отличить изображения, созданные ИИ, от реальных уже невозможно, и это при использовании инструментов, доступных сегодня каждому. Подделать видео и голос также стало тривиальной задачей. Информационная среда в сети станет абсолютно неуправляемой, а специалисты по проверке фактов окажутся погребены под лавиной дезинформации. Сейчас создать поддельное изображение лишь немногим сложнее, чем сделать реальный снимок. Любой кадр с политиком, знаменитостью или из зоны военных действий может оказаться фальшивкой — и отличить правду от вымысла невозможно. Наш и без того хрупкий консенсус относительно того, какие факты реальны, скорее всего, быстро рухнет.

Технологические решения вряд ли нас спасут. Попытки отслеживать происхождение изображений и видео с помощью водяных знаков на творениях ИИ можно обойти с помощью относительно простых манипуляций с исходным контентом. И это при условии, что создатели подделок пользуются коммерческими инструментами — выявлять контент, сгенерированный ИИ, станет еще сложнее по мере того, как правительства будут разрабатывать собственные системы, а модели с открытым исходным кодом получат широкое распространение. Возможно, в будущем ИИ поможет нам отделять зерна от плевел, но искусственный интеллект, как известно, крайне ненадежен в распознавании контента, созданного ИИ, так что и этот вариант кажется маловероятным.

На самом деле есть лишь пара вариантов развития событий. Возможно, возродится доверие к традиционным СМИ, которые смогут выступать в роли арбитров, определяющих подлинность изображений и сюжетов, и будут тщательно отслеживать происхождение каждого материала и свидетельства. Но это кажется маловероятным. Второй вариант заключается в том, что мы еще сильнее разделимся на «племена», веря лишь той информации, в которую хотим верить, и игнорируя как фальшивку все, на что не хотим обращать внимания. Вскоре даже самые базовые факты станут предметом споров. Подобное разрастание все более изолированных информационных пузырей выглядит куда более вероятным, поскольку оно лишь ускоряет тренд, набиравший силу еще до эпохи LLM. И последний вариант — мы полностью откажемся от онлайновых источников новостей, поскольку они будут настолько загрязнены дезинформацией, что перестанут приносить пользу. Независимо от того, в каком направлении мы двинемся, даже без дальнейшего прогресса в области ИИ наше отношение к информации изменится.

Наши личные взаимоотношения с ИИ также изменятся. Существующие системы уже достаточно хороши, чтобы казаться людьми, а исследования показывают, что при минимальной настройке ИИ может становиться еще более вовлекающим собеседником — возможно, даже пугающе вовлекающим. Один масштабный эксперимент на платформе с миллионами пользователей показал, что обучение модели выдавать ответы, поддерживающие беседу, приводит к увеличению удержания пользователей на 30 процентов и значительно увеличивает продолжительность разговоров. Это говорит о том, что даже без новых технологических прорывов общение с ботами станет значительно более притягательным. Нынешние системы еще недостаточно развиты, чтобы быть глубокими собеседниками, однако мы уже можем столкнуться с тем, что отдельные люди предпочтут общение с ИИ взаимодействию с другими людьми.

Другие тенденции, которые мы уже обсуждали, теперь тоже неизбежны. Даже если предположить, что большие языковые модели больше не будут совершенствоваться, ИИ окажет огромное влияние на задачи многих работников, особенно тех, кто занят высокооплачиваемым творческим и аналитическим трудом. Тем не менее, в своем нынешнем состоянии ИИ оставляет много возможностей для работы в режиме «киборга», и человеческие способности во многих случаях превосходят возможности ИИ. Хотя характер работы изменился бы, даже если бы ИИ перестал развиваться, он, скорее всего, действовал бы как дополнение к человеку, избавляя от рутины и повышая продуктивность, особенно у отстающих специалистов. Это не означает, что некоторые профессии и целые отрасли не окажутся под угрозой — например, большая часть переводческой деятельности, вероятно, будет вытеснена ИИ, — но в большинстве случаев ИИ все же не заменит человеческий труд. Нынешние системы все еще недостаточно хорошо понимают контекст, нюансы и принципы планирования.

Но это, скорее всего, изменится.

Сценарий 2: Медленный рост

Способности ИИ росли по экспоненте, но любой экспоненциальный рост в технологиях рано или поздно замедляется. Возможно, вскоре ИИ упрется в этот барьер. На практике это означает, что вместо десятикратного ежегодного роста производительности развитие замедлится и составит, скажем, 10 или 20 процентов в год. Для этого есть немало причин. Возможными факторами могут стать раздувающиеся расходы на обучение моделей и регуляторные требования. Не исключено также, что мы вскоре достигнем технических пределов больших языковых моделей, как утверждают многие ученые, включая профессора (и руководителя исследований ИИ в Meta) Яна Лекуна. Это потребует от нас поиска новых технологических подходов к разработке ИИ для дальнейшего движения вперед. Как бы то ни было, даже такое замедленное развитие все равно будет впечатляющим темпом перемен, хотя и вполне поддающимся осмыслению. Вспомните, как телевизоры с каждым годом становятся немного лучше. Вам не нужно выбрасывать свой старый телевизор, но новые модели, скорее всего, будут заметно качественнее и дешевле той, которую вы купили несколько лет назад. При таком линейном развитии мы можем предвидеть будущее и планировать свои действия.

Все, что происходило в рамках Сценария 1, по-прежнему актуально. Злоумышленники все так же используют ИИ для подделки информации в сети, но со временем способность ИИ выполнять более сложную работу делает их еще опаснее. Ваш почтовый ящик заполняется точечно нацеленными сообщениями, составленными специально для вас (рекламные компании уже создают с помощью ИИ персонализированные видеоролики для миллионов пользователей), и часть этих писем будет мошенничеством или фишингом. Вам звонят голосами близких людей и просят прислать денег для освобождения под залог. Во время следующего военного конфликта каждый сотрудник министерства обороны начинает получать предельно конкретные текстовые угрозы, сопровождаемые созданными ИИ видеороликами с участием членов его семьи. Неумелые преступники и террористы пользуются способностью ИИ повышать эффективность действий, чтобы стать более опасными убийцами.

Все это пугающие перспективы, но поскольку ИИ развивается размеренными темпами, наихудших сценариев удается избежать. Первые инциденты, когда ИИ будет использован для создания опасных химикатов или оружия, могут привести к принятию эффективных мер регулирования, замедляющих распространение подобных опасных способов применения. У коалиций компаний и правительств или, возможно, у защитников конфиденциальности из сообщества открытого кода появится время на разработку правил использования технологий. Эти правила позволят людям подтверждать свою личность проверяемым способом, что частично нейтрализует угрозу выдачи себя за другого человека.

И с каждым годом виртуальные личности, создаваемые ИИ, становятся все более реалистичными, раздвигая границы возможного. Видеоигры заполняются неигровыми персонажами, управляемыми ИИ, и начинают появляться первые персонализированные фильмы, в которых зритель может выбирать варианты развития сцен или поведения героев. Психотерапевт на базе ИИ становится привычным явлением, а общение со смесью реальных людей и чат-ботов — обычным способом ведения бизнеса. Вновь медленный рост ИИ дает обществу возможность адаптироваться к этим переменам. Законы обязывают маркировать ИИ-контент, а социальные нормы, регулирующие дружбу с чат-ботами, гарантируют, что большинство людей по-прежнему будут проводить время с настоящими, живыми собеседниками.

Работа трансформируется все сильнее. С каждым годом модели ИИ превосходят свои прошлогодние возможности, порождая волны изменений, которые накатывают на одну отрасль за другой. Сначала преображается рынок кол-центров объемом 100 миллиардов долларов в год, поскольку ИИ-агенты начинают дополнять сотрудников-людей. Затем большая часть рекламных и маркетинговых текстов пишется в основном ИИ при минимальном участии людей-киборгов. Вскоре ИИ берет на себя множество аналитических задач и выполняет все больший объем работы по написанию кода и программированию. Однако в целом более медленный темп изменений означает, что эта волна потрясений напоминает прежние технологии общего назначения. Меняются скорее задачи, а не рабочие места, и новых рабочих мест создается больше, чем уничтожается. Серьезный упор на переподготовку и развитие навыков работы с ИИ помогает смягчить самые серьезные риски.

Но также начинают проявляться и первые преимущества в масштабах всего общества. В последние десятилетия темпы инноваций снижались пугающим образом. Недавнее убедительное и удручающее исследование показало, что скорость изобретений падает во всех областях — от сельского хозяйства до исследований рака. Чтобы продвигать передовые рубежи науки, требуется все больше исследователей. Фактически скорость инноваций снижается на 50 процентов каждые 13 лет, замедляя экономический рост.

Частично проблема кроется в самой научной деятельности: исследований становится слишком много. «Бремя знаний» растет: теперь молодому ученому приходится освоить колоссальный объем информации, прежде чем он накопит достаточно опыта для проведения собственных исследований. Именно поэтому сегодня половина всех новаторских открытий совершается учеными старше сорока лет, тогда как раньше прорывов добивались преимущественно молодые специалисты. Точно так же за последние 20 лет количество стартапов, созданных докторами наук в сфере STEM, сократилось на 38 процентов. Сама наука становится настолько сложной, что основателям бизнеса со степенью PhD теперь требуются огромные команды и административная поддержка для продвижения вперед, поэтому они предпочитают уходить в крупные корпорации. Так мы получаем парадокс нашего «золотого века» науки. Публикуется больше исследований от большего числа ученых, чем когда-либо, но результатом этого становится замедление прогресса! Из-за избытка материалов, которые нужно прочесть и усвоить, авторы работ в перенасыщенных областях реже цитируют новые труды и все чаще канонизируют статьи с высоким индексом цитируемости.

Но уже есть признаки того, что ИИ способен помочь. Исследования успешно доказали: с помощью ИИ можно точно определять наиболее перспективные научные направления путем анализа прошлых публикаций, особенно при сочетании экспертного отбора человеком и возможностей программного обеспечения ИИ. Другие работы показывают, что ИИ весьма многообещающе проявляет себя в автономном проведении научных экспериментов, поиске математических доказательств и многом другом. Возможно, достижения в области ИИ помогут нам преодолеть ограничения исключительно человеческой науки и приведут к прорывам в понимании вселенной и нас самих. Многие из первых энтузиастов ИИ, собственно, и рассчитывают на то, что его потенциал позволит найти способы радикально продлить и улучшить человеческую жизнь. И хотя линейный рост возможностей ИИ, возможно, не позволит достичь этой высокой цели — если она вообще достижима, — он может помочь вновь запустить замедляющиеся двигатели прогресса.

Этот сценарий можно представить как постепенное повышение температуры со временем. ИИ начинает играть все большую роль в нашей жизни, но процесс идет достаточно плавно, чтобы потрясения оставались управляемыми. Мы также начинаем замечать и некоторые важнейшие преимущества ИИ: ускорение научных открытий, повышение темпов роста производительности труда и расширение возможностей получения образования для людей по всему миру. Результаты будут неоднозначными, но в целом позитивными. И человечество сохранит контроль над тем направлением, в котором движется ИИ.

Но развитие ИИ не было линейным.

Scenario 3: Exponential Growth

Не всякий технологический рост быстро замедляется. Закон Мура, согласно которому вычислительная мощность компьютерных чипов удваивается примерно каждые два года, оставался верным на протяжении пятидесяти лет. Развитие ИИ может продолжить ускоряться по той же схеме. Одной из причин этого может стать так называемый маховик: ИИ-компании могут использовать существующие системы ИИ для создания программного обеспечения ИИ следующего поколения. Как только этот процесс будет запущен, остановить его окажется трудно. При таких темпах в ближайшее десятилетие возможности ИИ вырастут в сотни раз. Люди не слишком сильны в визуализации экспоненциальных изменений, поэтому наши представления начинают во многом опираться на научную фантастику и догадки. Но нас повсеместно ждут колоссальные перемены. Все, что описано в Сценарии 2, произойдет, но гораздо, гораздо, гораздо быстрее, и нам будет соответственно сложнее это усвоить.

В этом сценарии риски становятся более серьезными и менее предсказуемыми. Любая компьютерная система становится уязвимой для взлома с помощью ИИ, а кампании по оказанию влияния на базе ИИ распространяются повсеместно. Системы ИИ, все еще контролируемые людьми, создают опасные новые патогены и химические вещества, помогая правительствам и террористическим ячейкам находить новые способы уничтожения. Признаки этого наблюдались уже у примитивных ИИ до эпохи LLM: исследователи ИИ, разрабатывавшие инструмент для поиска новых лекарств ради спасения жизней, поняли, что он может делать прямо противоположное — синтезировать новые боевые отравляющие вещества. Менее чем за шесть часов он изобрел смертоносный нервно-паралитический газ VX... и кое-что похуже. Благодаря повсеместному распространению мощного ИИ военные и преступники используют его для многократного усиления своих возможностей. И в отличие от предыдущего сценария, у наших нынешних государственных систем просто нет времени, чтобы адаптироваться привычным путем.

Вместо этого эти злонамеренные ИИ-акторы сдерживаются «хорошими» системами ИИ. Но от такого решения веет оруэлловщиной. Все, что мы видим, должно фильтроваться нашими собственными системами ИИ для удаления опасной и вводящей в заблуждение информации, что создает свои риски возникновения информационных пузырей и распространения недостоверных данных. Правительства используют ИИ для борьбы с преступностью и терроризмом, осуществляемыми с помощью ИИ, что порождает угрозу «ИИ-тократии», поскольку повсеместная слежка позволяет как диктатурам, так и демократическим режимам устанавливать более жесткий контроль над гражданами. Мир все больше напоминает киберпанковское противостояние властей и хакеров, в котором обе стороны используют системы ИИ.

ИИ-компаньоны становятся гораздо более интересными собеседниками, чем большинство людей, и могут беспрепятственно общаться с нами в режиме реального времени — эти перемены происходят быстрее, чем кто-либо ожидал. Одиночество перестает быть столь острой проблемой, но возникают новые формы социальной изоляции, когда некоторые люди предпочитают взаимодействовать с ИИ, а не с людьми. Развлечения на базе ИИ предлагают невероятно персонализированный и уникальный опыт, объединяющий игры, истории и кино. Это не означает, что все станут интровертами, общающимися только с искусственным разумом. В этом сценарии системы ИИ все еще не обладают сознанием, и люди по-прежнему будут стремиться делать то, что свойственно людям, вместе с другими людьми.

А в совместной работе с людьми ИИ может помочь раскрыть человеческий потенциал. ИИ-терапевты и ассистенты помогают тем, кто стремится к самосовершенствованию, делать это по-новому. Возможность с помощью ИИ за считаные дни решать задачи, на которые иначе ушли бы годы, позволяет расцветать новым видам предпринимательства и инноваций. Я уже общался с физиками и экономистами, которые получили возможность проводить исследования гораздо более сосредоточенно, поскольку ИИ служит для них как источником вдохновения, так и способом аутсорсинга трудоемких и дорогостоящих задач по программированию и написанию грантов. Возможно, ИИ-компаньоны помогут всем нам достичь целей, которые ранее были недосягаемы. И это, пожалуй, хорошо, потому что при таком сценарии у всех нас, скорее всего, появится больше свободного времени.

В условиях экспоненциального роста системы ИИ, которые в сотни раз превосходят GPT-4, начинают реально заменять человека на работе. И речь идет не только об офисной работе: есть первые свидетельства того, что LLM могут помочь нам преодолеть барьеры, которые делали создание функционирующих роботов столь сложной задачей. Роботы на базе ИИ и автономные ИИ-агенты под контролем человека потенциально способны резко снизить потребность в человеческом труде, одновременно способствуя росту экономики. Адаптацию к такому сдвигу, если он произойдет, трудно даже представить. Это потребует кардинального переосмысления нашего подхода к труду и обществу. Сокращенная рабочая неделя, безусловный базовый доход и другие изменения в государственной политике могут стать реальностью по мере того, как потребность в человеческом труде со временем будет снижаться. Нам придется искать новые способы осмысленного наполнения свободного времени, поскольку сейчас столь большая часть нашей жизни сосредоточена вокруг работы.

Однако в некотором смысле этот сдвиг уже происходит. В 1865 году среднестатистический британский мужчина работал 124 000 часов за свою жизнь, как и жители США и Японии. К 1980 году британские рабочие тратили на работу всего 69 000 часов, несмотря на увеличившуюся продолжительность жизни. В США доля жизни, отдаваемая работе, сократилась с 50 до 20 процентов. С 1980 года сокращение рабочего времени замедлилось. И все же сегодня британские работники трудятся на 115 часов в год меньше, чем тогда, — снижение составило 6 процентов. Подобные изменения происходят по всему миру. Значительная часть этого высвободившегося времени заполнилась учебой (что вряд ли быстро изменится, даже если ИИ станет гораздо более способным), но мы также нашли множество других способов проводить досуг. Адаптация к сокращению рабочего времени может оказаться менее травматичной, чем кажется. Никто не хочет возвращаться к шестидневной рабочей неделе на викторианских фабриках, и вскоре мы можем почувствовать то же самое по отношению к пятидневке в мрачных, заставленных перегородками офисах.

Разумеется, такой уровень экспоненциальных изменений предполагает, что ИИ становится намного лучше, так и не обретя в полной мере сознание или самостоятельность. И вполне вероятно, что любой экспоненциальный рост не будет продолжаться бесконечно. Однако при достаточно крутом или достаточно долгом экспоненциальном росте, как предполагают некоторые исследователи ИИ, на определенном уровне возможностей системы ИИ достигают точки взлета, обретая AGI и даже сверхинтеллект.

Сценарий 4: Машинный бог

В этом четвертом сценарии машины достигают уровня AGI и обретают некую форму сознания. Они становятся такими же умными и способными, как люди. При этом нет никаких особых причин считать человеческий интеллект верхним пределом. Поэтому эти ИИ, в свою очередь, помогают проектировать еще более умные ИИ. Появляется сверхинтеллект. В четвертом сценарии господству человека приходит конец.

Конец человеческого доминирования не обязательно означает конец человечества. Возможно, это даже будет лучший мир для нас, но это больше не будет мир, где люди находятся на вершине, что положит конец нашей славной двухмиллионолетней эпохе. Достижение такого уровня машинного интеллекта означает, что главными становятся системы ИИ, а не люди. Нам остается надеяться, что они будут должным образом согласованы с человеческими интересами. Тогда они могут решить приглядывать за нами как «машины любящей благодати», как поется в стихотворении, решая наши проблемы и делая нашу жизнь лучше. Или же они могут счесть нас угрозой, помехой или источником ценных молекул.

Если быть честным, никто не знает, что произойдет, если мы успешно создадим сверхинтеллект. Последствия потрясут весь мир. И даже если мы не доберемся до сверхинтеллекта, даже машина, действительно обладающая сознанием, бросит вызов большей части наших представлений о том, что значит быть человеком. Это будет поистине чуждый разум во всех отношениях, и он оспорит наше место во Вселенной ничуть не меньше, чем обнаружение инопланетян на другой планете.

Нет никаких теоретических причин, почему это не может произойти, но нет и оснований полагать, что так оно и случится. Мировые эксперты в области ИИ отстаивают обе точки зрения. Но правда в том, что мы не знаем, ведет ли от сегодняшних больших языковых моделей (LLM) прямая дорога к созданию истинного AGI. И мы не знаем, поможет ли нам AGI или навредит, и как именно он это сделает. Достаточно много авторитетных специалистов считают эту угрозу реальной, чтобы мы отнеслись к ней со всей серьезностью. Например, один из «крестных отцов» ИИ Джеффри Хинтон ушел из этой сферы в 2023 году, предупредив об опасности ИИ такими словами: «Вполне возможно, что человечество — лишь переходный этап в эволюции разума». Другие исследователи ИИ говорят о своем p(doom) — вероятности того, что ИИ приведет к гибели человечества. Если ИИ-«думеры» правы, то масштабное регулирование, призванное навсегда остановить разработку ИИ, остается единственным выходом — каким бы маловероятным это ни казалось.

Но мне кажется, что чрезмерная концентрация на этом четвертом сценарии лишает нас сил. Если мы сосредоточимся исключительно на рисках или выгодах создания сверхинтеллектуальных машин, это лишит нас возможности рассмотреть более вероятные второй и третий сценарии — миры, где ИИ повсеместен, но полностью подконтролен человеку. И в этих мирах мы сами вольны решать, чем именно станет для нас ИИ.

Вместо того чтобы переживать из-за одного гигантском ИИ-апокалипсисе, нам нужно беспокоиться о множестве мелких катастроф, которые может принести ИИ. Лишенные воображения или находящиеся в стрессе руководители могут решить использовать эти новые инструменты для слежки и увольнений. Менее благополучные слои населения в развивающихся странах могут несоразмерно сильно пострадать от изменений на рынке труда. Преподаватели могут начать использовать ИИ так, что некоторые ученики останутся далеко позади. И это лишь самые очевидные проблемы.

ИИ вовсе не обязательно должен вести к катастрофе. На самом деле мы можем планировать противоположное. Дж. Р. Р. Толкин писал именно об этом, используя термин «эвкатастрофа» (eucatastrophe) для описания ситуации, столь характерной для сказок: «радость счастливого конца: вернее, благой катастрофы, внезапного радостного поворота... это внезапная и чудесная милость, на повторение которой никогда нельзя рассчитывать». При правильном использовании ИИ способен создавать локальные эвкатастрофы, когда монотонный или бесполезный прежде труд становится продуктивным и дающим новые возможности. Когда отставшие ученики смогут найти новые пути для движения вперед. И когда рост производительности труда стимулирует развитие и инновации.

Особенность универсальной технологии заключается в том, что решения о способах её применения принимаются не только узким кругом людей. Множество сотрудников в самых разных организациях будут определять, чем станет ИИ для их команд, клиентов, учеников и окружения. Но чтобы этот выбор имел вес, серьезные дискуссии должны начаться повсеместно — и как можно скорее. Мы не можем ждать, пока решения примут за нас, а мир движется вперед слишком быстро, чтобы мы оставались пассивными. Нам нужно стремиться к эвкатастрофе, иначе наше бездействие сделает катастрофу неизбежной.