Нам полагается бояться искусственного интеллекта. Наш страх в течение десятков лет поддерживается политиками, учёными, а также пугающими романами, фильмами и сериалами[425]. Стандартный сюжет страшилки можно описать примерно так. Человек создаёт искусственный интеллект, который быстро умнеет и превращается в сверхразум, превосходящий разум своего создателя. Этот сверхразум выходит из-под контроля, вредит человеку или даже пытается его уничтожить. Звучит и в самом деле жутко.

Однако, давая свои мрачные прогнозы, писатели и режиссёры исходят из упрощённой посылки. Им представляется, что на Земле существуют только два вида интеллекта — человеческий и искусственный. Даже странно, что они не замечают третий вид интеллекта — разум социума, то есть верхум. Верхум фактически представляет собой сверхразум, с которым человек живёт бок о бок уже многие тысячи лет. Без верхума не было бы ни самогó современного человека, ни тем более искусственного интеллекта. И не человек, а именно верхум является истинным творцом ИИ. Искусственный интеллект создаётся коллективным разумом учёных, программистов, инженеров, менеджеров и многих других специалистов. При этом верхум задействует огромную техническую мощь современных телекоммуникаций и компьютеров, которые тоже были изобретены верхумом.

Несколько страниц назад я использовал фреску Микеланджело “Сотворение Адама” в качестве аллегорической иллюстрации творения человека верхумом. Шутки ради я подрядил искусственный интеллект изобразить в той же мизансцене то, как верхум творит искусственный интеллект. ИИ сгенерировал дюжину вариантов, из которых я отобрал пару не самых страшных. Вот они на картинке (илл. 7-10)[426]. Обратите внимание на второй вариант. Искусственный интеллект в образе киборга буквально рисует сотворение верхумом самого себя. Неожиданная интерпретация, правда?

Илл. 7-10. Верхум творит искусственный интеллект. Оба изображения сгенерированы искусственным интеллектом по мотивам фрески Микеланджело “Сотворение Адама”.

Искусственный интеллект действительно способен на многое и таит немало опасностей для человека. К примеру, он может спровоцировать массовую безработицу, сделав ненужными целые профессии. Но, несмотря на все опасности, верхум продолжает упорно разрабатывать и внедрять всё более сложные версии искусственного интеллекта. Почему он так настойчив? Давайте попробуем встать на позицию верхума и взглянуть на искусственный интеллект, если так можно выразиться, его глазами.

Умственные способности верхума зависят от культурного уклада социума и знаний, накопленных в его памяти. Но они также зависят и от способности каждого члена социума воспринимать, генерировать и передавать мемы, ведь обмен мемами между людьми — это основа мышления верхума. Если люди в социуме передают друг другу информацию медленно и неточно, если они не в состоянии ею правильно воспользоваться, то и верхум мыслит медленно и неэффективно. Иначе говоря, способность людей усваивать и использовать мемы лимитирует продуктивность верхума.

Благодаря развитию телекоммуникаций и компьютеров за последнее столетие продуктивность работы глобального Верхума резко выросла. Он стал производить и распространять мемы в нечеловеческих масштабах. Способность человека усваивать и перерабатывать мемы тоже заметно повысилась. Об этом косвенно свидетельствует устойчивый рост среднего уровня IQ в течение XX века[427]. Однако нельзя надеяться на то, что люди будут так же стремительно умнеть и дальше. В конце концов, есть же физиологические ограничения — число нейронов и синапсов в человеческом мозге конечно. И действительно, некоторые исследования, проведённые уже в XXI веке, показывают, что рост среднего уровня IQ в современном обществе практически прекратился[428]. При этом продуктивность Верхума не уменьшилась, а увеличилась. Поток мемов, которые он производит и распространяет, продолжает нарастать. Люди без посторонней помощи обречены бессмысленно барахтаться в этом потоке и тормозить дальнейшее развитие Верхума.

И что делает Верхум? Он находит способ расшить узкое место, привлекая искусственный интеллект[429]. Едва появившись на свет, ИИ принимается ориентировать людей в потоке мемов. Уже в десятых годах XXI века такие информационные гиганты, как Гугл, Амазон, Фейсбук, стали активно применять ИИ для подбора мемов, наиболее подходящих для конкретного человека. Сейчас искусственный интеллект эффективно поддерживает поиск в интернете, выбор мультимедийного контента, таргетирование рекламы, электронную коммерцию. ИИ подбрасывает человеку мемы с учётом его возраста, пола, истории покупок, предыдущих поисковых запросов, места жительства, личных предпочтений и многих других факторов.

В том же ключе работают и приложения искусственного интеллекта в узкоспециальных областях. Например, уже появились системы ИИ, которые отфильтровывают информацию, нужную юристам, врачам или кадровикам. Юристы получают возможность быстро находить подходящие к их случаю судебные прецеденты и статьи законов. Врачи могут с помощью специализированного ИИ точнее ставить диагнозы и подбирать варианты лечения. А специалистам по трудоустройству ИИ позволяет включить в рассмотрение огромное число резюме и улучшить подбор кадров. Во всех этих случаях ИИ прокладывает для полезных мемов путь к людям, которые в них нуждаются.

Искусственный интеллект облегчает не только поиск мемов, но и их усвоение. Самый очевидный пример — машинный перевод текстов и речи. Здесь в последние годы благодаря ИИ произошёл настоящий прорыв. Незнание иностранного языка перестаёт быть препятствием для понимания выраженных на нём идей. Видимо, уже недалеко то время, когда люди будут свободно беседовать друг с другом, говоря на разных языках и пользуясь автоматическим синхронным переводом. Похоже, искусственный интеллект сможет полностью ликвидировать языковой барьер, мешающий передаче мемов.

Для того чтобы мем был усвоен человеком, мало выразить его понятными словами. У человека должно быть достаточно знаний, чтобы понять смысл переданной ему информации. И эти знания необходимо предварительно загрузить в его мозг. Проблема усугубляется тем, что с каждым годом Верхум производит всё больше мемов, трудных для понимания. Человеку для их усвоения требуется всё больше знаний. Словом, всё упирается в развитие системы образования. И тут снова на помощь приходит искусственный интеллект. Эксперты ожидают, что в обозримом будущем он сможет обеспечить индивидуальное обучение каждого человека с учётом его интересов и психических особенностей. Более эффективное образование позволит людям усваивать более сложные мемы.

Для Верхума искусственный интеллект — очень удачное приобретение. Оно позволяет сократить колоссальный разрыв между мыслительной мощью Верхума и сравнительно скромными интеллектуальными способностями отдельного человека. Я бы сказал, Верхум нашёл идеального референта-переводчика для общения с человеком. Искусственный интеллект, приставленный к человеку, способен анализировать бесчисленные мемы, производимые Верхумом, отбирать для своего подопечного самые полезные и втолковывать их ему на доступном языке. Помнится, у престарелых советских руководителей во времена Брежнева были такие референты-переводчики. И они очень помогали верхуму партийной бюрократии управлять Советским Союзом. Сейчас благодаря искусственному интеллекту подобного умного и расторопного референта-переводчика можно приставить к каждому жителю Земли. И глобальный Верхум от этого сильно выиграет.

Искусственный интеллект полезен для верхума ещё в одном отношении. Он даёт возможность резко расширить и ускорить производство мемов. Многие бытующие в обществе мемы, такие как рыночные цены, моральные нормы или государственные законы, порождаются коллективным разумом. Но огромное число мемов генерируются отдельными людьми. Например, море мемов, которое плещется в соцсетях, — это в основном продукт индивидуального творчества. Современные информационные технологии и до появления ИИ помогали людям частично автоматизировать создание мемов. Скажем, камера в мобильном телефоне позволяет буквально в несколько кликов сгенерировать и опубликовать мем. Однако искусственный интеллект автоматизирует производство мемов на принципиально новом уровне.

В этой области прорывной технологией стали большие языковые модели[430]. Такая модель представляет собой нейросеть, для обучения которой необходимо настроить миллиарды параметров. Причём обучение происходит без учителя[431] с использованием текстов, написанных на естественном языке. Большие языковые модели впервые позволили искусственному интеллекту говорить с людьми человеческим языком и почти на равных. А в 2024 году большая языковая модель GPT-4 успешно прошла знаменитый тест Тьюринга[432]. Он был придуман больше полувека назад для ответа на вопрос, способна ли машина мыслить, как человек. В тестировании приняли участие 100 добровольцев. Каждый из них по пять минут переписывался с ботом на базе GPT-4, не зная, с кем имеет дело — с живым человеком или машиной. И больше половины участников эксперимента признали искусственный интеллект живым человеком[433].

Современный искусственный интеллект уже способен массово генерировать осмысленные тексты, речь, музыку, картинки, видео. Говоря об осмысленности информации, которую научился производить ИИ, я не утверждаю, что сам искусственный интеллект её понимает. Достаточно того, что люди, которые пользуются этой информацией, видят в ней смысл. Иными словами, искусственный интеллект научился создавать мемы. Если до начала XXI века на Земле работали генераторы мемов только двух типов — человек и верхум, — то сейчас их стало три.

На первый взгляд новый генератор мемов может показаться игрушкой. Стоит ли всерьёз относиться к ИИ, который только и умеет, что строчить рефераты за ленивых студентов и клепать развлекательный контент для соцсетей? Но нет, ИИ — это вовсе не игрушка. Искусственный интеллект уже берётся за задачи, которые были непосильны для людей и даже для их коллективного разума. Он способен генерировать очень сложные научные мемы.

Поразительный пример — предсказание пространственной структуры белков. Как известно, белок представляет собой полимерную молекулу, состоящую из последовательности аминокислот. В зависимости от того, в каком порядке аминокислоты входят в цепочку, молекула белка может свернуться миллионами разных способов. А получившаяся пространственная структура определяет физические и химические свойства белковой молекулы. Биохимики уже давно умеют синтезировать любые последовательности аминокислот, но до последнего времени не могли надёжно спрогнозировать полезность результата. И вот на помощь пришёл искусственный интеллект. Нейросеть AlphaFold научилась с высокой точностью предсказывать пространственную структуру белка по аминокислотной последовательности[434]. Для развития биотехнологий это имеет огромное значение. В частности, появилась возможность сильно удешевить и ускорить разработку новых лекарств.

Я сравнил искусственный интеллект с референтом-переводчиком, который помогает человеку ориентироваться в потоке мемов и усваивать их. Однако, как оказалось, ИИ способен переводить не только с языка мемов на язык мыслей, но и наоборот — с языка мыслей на язык мемов. Вот вам наглядный пример. Я сейчас попрошу искусственный интеллект, встроенный в редактор MS Word, разъяснить какую-нибудь свою мысль. Спрошу для примера, что означает фраза “переводить с языка мыслей на язык мемов”. Нажимаю кнопку “создать” и через несколько секунд получаю:

Фраза “переводить с языка мыслей на язык мемов” означает преобразовывать человеческие мысли в форму, которую можно легко воспринимать, понимать и распространять — то есть в мемы. Примером такого перевода может служить генерация контента ИИ на основе запросов пользователя. Например, если человек хочет изложить сложную научную идею, ИИ может помочь создать объяснительный текст или визуализацию, которая сделает эту идею понятной для широкой аудитории. Таким образом, ИИ играет роль посредника, который помогает материализовать и передавать мысли в форме мемов, облегчая их распространение и усвоение.

Обратите внимание, что автор текста, выделенного курсивом, — искусственный интеллект, а не я. Я этот вполне разумный текст лишь подсократил. Грамматику и стиль править не стал и вообще не поменял там ни слова.

Даже если человек не выражает словами свою мысль, искусственный интеллект способен её прочесть и изложить. Уже сейчас продвинутые системы ИИ могут оценивать психическое состояние человека по характеру речи или по проявлениям эмоций на его лице. То есть они умеют распознавать невысказанные мысли и описывать их в явном виде. Вспомните также о нейроинтерфейсах — технических системах, которые связывают человеческий мозг с компьютером напрямую. Мы обсуждали эту технологию в самом начале книги и говорили о её больших перспективах. Однако нейроинтерфейсы всех типов — как неинвазивные, так и инвазивные[435] — лишь добывают информацию из мозга. Эту информацию ещё нужно быстро и правильно интерпретировать. И тут искусственный интеллект просто незаменим. Ему уготована роль переводчика с языка мыслей на язык мемов в самом буквальном смысле[436].

Вообще, роль переводчика между верхумом и человеком, которую взялся исполнять искусственный интеллект, делает его очень полезным и для человека, и для верхума. Польза ИИ для человека очевидна. Искусственный интеллект усиливает способность человека находить, понимать и перерабатывать мемы, помогая ему интереснее жить и больше зарабатывать. А о пользе ИИ для верхума я уже говорил. Искусственный интеллект работает как бустер, добавляющий скорости и мощи мышлению верхума. От этого верхум получает как прямую выгоду, так и внушительные конкурентные преимущества по сравнению с верхумами, которые отстали в применении ИИ. Это осознают и крупные корпорации, и государства, и маркетплейсы, и банки, и социальные сети, и другие большие верхумы. Вот почему они вкладывают огромные ресурсы в развитие искусственного интеллекта. И наступление ИИ уже не остановить.

Каждый раз, когда в социуме распространяется новая информационная технология, она меняет его культурный уклад и придаёт импульс развитию верхума. Верхум не раз умнел благодаря новым информационным технологиям, таким как письменность, книгопечатание, почта, телеграф, радио, телевидение, интернет, мобильная связь. Теперь верхум приготовился набраться ума от внедрения искусственного интеллекта. Казалось бы, ничего необычного — просто очередной этап умственного развития. Однако искусственный интеллект — это особая информационная технология.

До сих пор новые информационные технологии лишь помогали человеку и верхуму воспринимать, производить и распространять мемы. А технология под названием “искусственный интеллект” умеет воспринимать, производить и распространять мемы самостоятельно. То есть искусственный интеллект — не просто помощник человека и верхума вроде печатного станка или мобильного телефона. Это новый актор, подобный человеку и верхуму[437]. Вернее, это новый тип акторов, каждый из которых умеет что-то своё: рекомендовать товары покупателям, играть в шахматы, распознавать лица, поддерживать беседу или наводить дроны на цель.

Разумеется, появление акторов нового типа изменит соотношение сил, особенно когда искусственный интеллект ещё поумнеет. До настоящего времени развитие системы “верхум — человек” можно было более-менее точно спрогнозировать. Не всё то, что придумывал верхум, шло на пользу человеку. Но в первом приближении соблюдался принцип: чем умнее верхум, тем больше возможностей у человека. Вторжение в эту двойную систему искусственного интеллекта сильно усложняет прогноз их взаимоотношений.

Это мне напоминает известную в физике “задачу трёх тел”[438]. Все мы проходили в школе законы, открытые Ньютоном, включая закон всемирного тяготения. На их основе нетрудно составить формулу, описывающую движение двух небесных тел, например Земли и Луны. Но если в эту систему добавить Солнце, то формулу движения всех трёх тел составить уже не удастся. Движение небесных тел в тройных системах, как правило, становится хаотическим. Мы не замечаем этой хаотичности в обыденной жизни только потому, что Солнце в 300 тысяч раз массивнее Земли и в 30 миллионов раз массивнее Луны. Если бы разница в массах этих трёх тел не была такой большой, то без серьёзного компьютерного моделирования вы бы не смогли предсказать, в какой точке неба окажется Луна через несколько дней.

Добавление в систему “верхум — человек” третьего актора делает её развитие намного более хаотическим. Я вовсе не имею в виду, что с приходом искусственного интеллекта наступит всеобщая неразбериха и все друг друга поубивают. Слово “хаотический” я употребляю не в бытовом смысле, а как научный термин[439]. Оно намекает на то, что нас ждёт период нестабильности, в течение которого развитие отношений между верхумом, человеком и искусственным интеллектом может пойти по кардинально различным сценариям[440].

Пока мы избегаем большого хаоса и слишком радикальных сценариев, потому что интеллект Верхума несоизмеримо мощнее интеллекта отдельного человека, а человек всё ещё во многом умнее, чем искусственный интеллект. Я бы сказал, они соотносятся сейчас примерно как массы Солнца, Земли и Луны. Поэтому третьему актору — искусственному интеллекту — пока не удаётся внести в систему заметные возмущения. Но искусственный интеллект быстро умнеет. И в течение ближайших ста лет любой сценарий развития, даже самый невероятный, может стать реальностью.

Представьте такой сценарий. Искусственный интеллект умнеет настолько, что может заместить профессионалов, работающих с информацией, — бухгалтеров, логистов, кадровиков, юристов, врачей. Потом при поддержке роботов и компьютеризированных машин ИИ начинает лучше, чем люди, справляться с работой водителей, курьеров, фермеров, заводских и строительных рабочих. Потом, развив свои творческие способности, добирается до архитекторов, писателей, композиторов, режиссёров, художников. Верхум постепенно перестаёт нуждаться в людях. Вместо них он практически везде использует ИИ-акторов. Люди теряют возможность самореализоваться в профессии. Их умственные способности за ненадобностью деградируют.

Вот другой сценарий, который может сбыться на уровне страны. Группа людей, используя как средство террора самонаводящиеся дроны и другое автономное оружие на базе ИИ, устанавливает диктатуру и подчиняет верхум государства своим узкокорыстным интересам. Затем этот верхум применяет искусственный интеллект для тотальной слежки и борьбы с любым инакомыслием.

Аналогичный сценарий возможен и в демократическом варианте. Только искусственный интеллект служит корыстной группе людей не для террора, а для пропаганды и дезинформации. Массово генерируемые тексты, дипфейки, боты и другие ИИ-технологии используются для захвата власти, а затем — для удержания в покорности всех граждан. В этом варианте искусственный интеллект тоже превращается в своего рода оружие, с помощью которого небольшая группа людей контролирует верхум государства, а через него — большинство жителей страны.

А как вам такой сценарий? К глобальному Верхуму подключается всё больше и больше различных ИИ-акторов. Они собирают и перерабатывают информацию, творят и делятся друг с другом своими мемами. Благодаря этому Верхум быстро умнеет. Соответственно, умнеют ИИ-акторы. То есть запускается процесс коэволюции Верхума и искусственного интеллекта. Постепенно мемы усложняются и перестают быть понятны людям. А многие мемы вообще проходят мимо людей. Совершаются новые научные открытия, появляются новые технологии, но они остаются за пределами человеческого разумения. Верхум обеспечивает стремительный прогресс. Например, он может с помощью ИИ-акторов освоить другие планеты, непригодные для жизни человека. Люди пользуются плодами этого прогресса и живут на Земле вполне счастливой жизнью, но сам прогресс происходит без их участия.

Если этот сценарий кажется вам приемлемым, то вот более страшный. Одна из версий искусственного интеллекта оказывается настолько умной и агрессивной, что находит способ подчинить себе глобальный Верхум, а с ним и всех людей на Земле. Иными словами, реализуется сценарий в духе голливудской антиутопии: искусственный интеллект вырывается из-под контроля и порабощает человечество.

Любой из подобных сценариев теоретически возможен. Но любого из них можно избежать на практике. А последний из описанных сценариев вообще представляется мне крайне маловероятным. Дело в том, что искусственный интеллект — это такая же абстракция, как и человек вообще. Реальных людей миллиарды, и все они разные. Реальных ИИ-акторов тоже будет огромное множество. И все они будут разными, потому что их создают разные верхумы для разных нужд и обучают их на разных данных. Если от какого-то ИИ-актора исходит угроза, то у верхума всегда есть возможность противопоставить ему другого ИИ-актора. К примеру, если какая-то разновидность ИИ распространяет ложные новости и дипфейки, то другую разновидность ИИ можно приспособить к тому, чтобы их отлавливать и разоблачать.

Помните Башню проб и ошибок из шестой главы? Я изобразил её в виде шестиэтажной Пизанской башни. Эта башня иллюстрировала этапы развития разума на Земле. Первый этаж символизировал появление живых существ, а пятый — появление верхумов. Тогда я сказал, что заселение шестого этажа уже началось, но этим и ограничился. Теперь я могу уточнить, что имел в виду появление искусственного интеллекта. Пока неясно, к чему это приведёт. Как видите, сценариев развития событий много. Но с моей точки зрения, искусственный интеллект не станет главным действующим лицом на планете. Скорее всего, он будет интегрирован в Верхум. Осмелюсь высказать надежду, что со временем Верхум найдёт способ приручить искусственный интеллект, так же как он приручил человека. Ну хотя бы потому, что Верхум будет становиться всё умнее и сильнее с каждым новым подключённым к нему ИИ-актором[441].

Я сэкономлю ваше время и на этом закруглю свой обзор сценариев будущего. Добавлю лишь один — чисто в психотерапевтических целях. Это наименее тревожный сценарий из всех, что мне пришли на ум. Он исходит из того, что у искусственного интеллекта нет собственных целей. Все его разновидности создаются исключительно для нужд людей и верхумов. То есть цели ИИ-акторам задаются извне. Их учат оптимизировать рекламу, переводить тексты, водить машины, ставить диагнозы, торговать на бирже, рисовать картинки и так далее. Если такая ситуация сохранится, то ИИ-акторы так и останутся “рабочими лошадками”. А смысл их работы будут определять верхумы и люди, которые уж как-нибудь между собой договорятся. По крайне мере, до сих пор им это удавалось.