Компьютерные системы с так называемым общим искусственным интеллектом — то есть машины, способные решать дифференциальные уравнения и одновременно складывать рубашку, — вот уже полвека маячат на горизонте.

В 1970 году журнал Life взял интервью у исследователя искусственного интеллекта по имени Марвин Минский. В мире компьютерных наук Минский — легенда. За год до этого он получил премию Тьюринга, которая в этой области является аналогом Нобелевской. А еще годом ранее, в 1968-м, он удостоился еще более лестной почести. Режиссер Стэнли Кубрик, бывший в то время самым желанным гостем на любом званом ужине в Голливуде, только что закончил съемки своего шедевра «2001 год: Космическая одиссея» и в его честь назвал одного из вымышленных астронавтов — Виктора Каминского.

На вопрос о будущем ИИ Минский пророчествовал: «Через три-восемь лет у нас появится машина с общим интеллектом на уровне обычного человека. Я имею в виду машину, которая сможет читать Шекспира, смазывать детали автомобиля, плести офисные интриги, шутить и драться».

Перенесемся в 2021 год. Исследовательская компания в области ИИ OpenAI только что разработала языковую модель GPT-3, которая была способна отвечать практически на любой запрос правдоподобным, похожим на человеческий текстом. Сооснователь компании Сэм Альтман дал интервью для удостоенного наград подкаста New York Times The Ezra Klein Show. Окрыленный поразительным успехом GPT-3, превзошедшим даже его привычный техноутопизм, Альтман предсказал: «Думаю, через десять лет у нас появятся чат-боты, которые, по сути, будут работать на уровне эксперта в любой области, какую вы ни пожелаете. Так что вы сможете спросить квалифицированного врача, опытного учителя или высококлассного юриста о чем угодно и поручить этим системам выполнить за вас нужную работу».

Минский ошибся. В 1978 году, когда по его самым пессимистичным прогнозам должен был появиться общий искусственный интеллект, у нас не было и близко ничего похожего на человекоподобный ИИ. В тот самый год Дуглас Адамс выпустил свою классическую радиокомедию на Би-би-си «Автостопом по галактике», в которой Путеводитель — неисправимо саркастичный комментатор устройства Вселенной — едко замечает, что земляне конца XX века настолько отстали в технологическом развитии, что «до сих пор считают электронные часы довольно-таки удачной штукой». Надвинулись 1980-е годы, но ни компьютерных лицедеев, ни роботов-автомехаников, о которых мечтал Минский, так и не появилось — лишь часы на батарейках с ЖК-экраном. Конечно, не способствовало делу и то, что список Минского выглядит довольно эксцентрично. Непонятно, почему он решил, что умение постоять за себя в драке является необходимым условием общего интеллекта.

А вот Альтман, возможно, окажется прав.

Возможно, вы, как и я, выросли на классическом мультфильме Looney Tunes «Дорожный бегун». Дорожный бегун, неправдоподобно атлетичная кукушка, постоянно убегает по пустыне от своего изголодавшегося заклятого врага — Койота Вайли. В развязке каждой погони Дорожному бегуну каким-то образом удается заманить незадачливого койота за край обрыва. Когда это происходит, Вайли на несколько секунд зависает в воздухе, все еще бешено перебирая лапами, преодолевая гравитацию ровно на столько времени, сколько нужно, чтобы осознать неизбежность падения на дно каньона.

Я пишу эту книгу потому, что мы — все, кто живет в 2024 году, — только что сорвались с этого обрыва. Подобно испуганным койотам, мы все еще находимся в состоянии зависания: наши ноги бешено перебирают воздух, но опоры под ними уже нет, и к нам постепенно приходит осознание, что пути назад тоже нет. Все, что последует дальше, произойдет очень быстро и, вполне возможно, выйдет из-под нашего контроля. И если нам крупно не повезет, все это может закончиться сокрушительным крахом.

Безопасная земля, которую мы оставили позади, — это мир, где только люди создают знания. В этом мире мы жили с тех самых пор, как наши далекие предки начали обмениваться информацией с помощью ворчания и жестов. История человечества формировалась под влиянием инноваций, которые позволяли передавать знания более беспрепятственно, широко и во все больших объемах. Сначала — несколько сотен тысяч лет назад — появилась способность складывать слова в предложения, что позволило нам выражать бесконечное множество смыслов устной речью. Письменность возникла около пяти тысяч лет назад в виде царапин на глиняных табличках для учета налогов и долгов, но быстро превратилась в сложнейший инструмент для общения с людьми, бесконечно далекими от нас как в пространстве, так и во времени — в других странах и в будущих поколениях. К XV веку с грохотом ворвался в наш мир печатный станок, положив начало массовому распространению идей. Интернет, опутавший мир проводами за последние тридцать лет, сделал значительную часть всех человеческих знаний доступной любому, у кого хватит терпения продираться сквозь галактику полуправды, желчи и невразумительных мемов. В том, более простом и ушедшем мире человеческое понимание развивалось по мере того, как люди читали, слушали, наблюдали и передавали свои мысли другим с помощью словом, пером или клавиатурой. В том более невинном мире люди были единственными хранителями всего познанного. Но, как это ни поразительно, прямо в эти секунды тот мир уходит в историю.

Новый мир, в который мы вот-вот погрузимся, — это мир, где ИИ-системы назначены хранителями почти всех человеческих знаний и наделены способностью рассуждать о них так, как это делает человек. Это означает, что мы создали системы искусственного интеллекта, потенциально способные выдвигать новые теории, совершать открытия и проявлять творческие способности, которые прежде были исключительной прерогативой людей. Этот мир наступил потому, что всего за последние несколько лет исследователи создали компьютерные инструменты, имеющие доступ к колоссальным объемам данных и способные говорить о них на «естественном» языке — используя те же слова и фразы, с помощью которых люди обсуждают, обдумывают и делятся новыми открытиями. Эта удивительная инновация — машины, владеющие языком, — служит двигателем технологической революции, которая изменит наше будущее. Никто не знает наверняка, что нас ждет впереди, но ИИ развивается с такой головокружительной скоростью, что, вероятно, нам не придется долго ждать, чтобы это узнать.

Собственно говоря, само по себе создание «сверхчеловеческого» ИИ — идея далеко не новая. Вот уже несколько десятилетий мы создаем системы ИИ, способные решать неподвластные нам задачи или побеждать нас в интеллектуальных баталиях. Впервые это произошло, вероятно, в 1956 году, когда пионеры ИИ разработали автоматический доказатель теорем, который справлялся с логическими задачами изящнее, чем лучшие математические умы того времени. За последние десять лет, когда исследования в области ИИ ускорились до космических скоростей, системы глубокого обучения предложили множество удивительных открытий, лежащих далеко за пределами человеческого понимания. Одним из поразительных примеров является система AlphaFold, созданная исследовательской ИИ-компанией DeepMind. AlphaFold — это нейросеть, способная с высокой точностью предсказывать, как последовательность аминокислот в белке определяет его трехмерную структуру, что является важнейшей задачей для биохимии и медицины. На протяжении десятилетий целые легионы ведущих ученых кропотливо продвигались вперед, шаг за шагом улучшая свои прогнозы путем проведения экспериментов в «мокрых» лабораториях для подтверждения или опровержения математических моделей структуры белка. Каждый год они обменивались результатами на ежегодном конкурсе. В 2020 году AlphaFold ворвалась в эту область и не оставила экспертам ни единого шанса, показав среднюю погрешность предсказания всего в 8% (у ближайшего конкурента этот показатель был ближе к 50%). Сегодня проблема сворачивания белка считается практически решенной.

В 2016 году другая система ИИ от DeepMind, AlphaGo, сразилась с чемпионом среди людей в древней настольной игре го и победила, изобретя принципиально новый, революционный стиль игры. Играя против Ли Седоля, самого титулованного игрока современной эпохи, программа совершила маневр (знаменитый «ход 37») настолько радикальный, что комментаторы го по всему миру были уверены: у машины перегорели предохранители. Однако этот ход привел к решительной победе AlphaGo и открыл людям совершенно новое измерение игры, которого до того момента никто не понимал, несмотря на то что эксперты веками детально изучали ее механику. Так что ИИ-системы, способные помогать нам постигать устройство мира, существуют уже некоторое время.

Однако каждая из этих систем ИИ, будучи, несомненно, впечатляющей, освоила лишь одну-единственную способность — перестраивать уравнения, фишки го или цепочки аминокислот. Это формы «узкого» искусственного интеллекта. Но новое поколение машин, владеющих языком, устроено иначе. Язык — это знаковая система, которая практически полностью отражает наше понимание того, как устроен мир. Люди могут использовать язык, чтобы выразить буквально все, что признано истиной (и многое из того, что ей не является). Поэтому машины, обладающие языком, потенциально способны на куда более масштабные перестановки. Они способны переформатировать сами человеческие знания в новые, удивительные формы, демонстрируя сверхчеловеческий полет мысли и творческую искру, которые мы обычно ассоциируем с величайшими научными прорывами эпохи, такими как открытие микробной теории болезней или квантовой механики. Утописты по всему миру верят, что ИИ одарит нас открытиями, которые позволят решить самые острые глобальные проблемы — например, помогут создать чистые и надежные источники энергии или организовать жизнь общества на справедливых и процветающих началах. Наиболее мечтательные представители ИИ-сообщества затаив дыхание ждут своего рода «хода 37», который произойдет не в жестко ограниченных рамках доски для го, а в самом языке — огромной, открытой знаковой системе, выражающей все, что люди знают о любой теме на свете.

В области исследований искусственного интеллекта попытки создать машины, владеющие языком стары как сама эта дисциплина. На заре компьютерной эры Алан Тьюринг бросил вызов, который назвал «Игрой в имитацию» (или тестом Тьюринга), задавшись вопросом: смогут ли компьютеры когда-нибудь общаться достаточно убедительно, чтобы ввести пользователя в заблуждение и заставить его поверить, что перед ним человек? Однако нам пришлось ждать семь десятилетий, прежде чем появились машины с действительно впечатляющими языковыми способностями. В 2021 году, когда на сцене триумфально появилась GPT-3, мы перешли Рубикон: системы ИИ научились разговаривать с нами примерно так же бегло и убедительно, как мы разговариваем друг с другом. Пока я пишу эти строки, подобные ИИ-системы все еще настолько в новинку, что профессиональное сообщество еще не пришло к единому мнению о том, как их называть. В 2021 году исследовательская группа из Стэнфорда попыталась популяризировать название «фундаментальные модели» (Foundation Models), но оно не прижилось — возможно, потому, что звучит как название романа Азимова. По состоянию на 2023 год большинство использует термин «большие языковые модели» (или LLM), которого я и буду придерживаться далее.

Самые известные на сегодняшний день LLM, созданные компанией Сэма Альтмана OpenAI, доступны на сайте под названием ChatGPT. Выпущенный в открытый доступ в ноябре 2022 года, ChatGPT всего за восемь недель привлек 100 миллионов пользователей, став самым быстрорастущим интернет-приложением в истории. С тех пор у него появились сайты-конкуренты от Google (когда-то называвшийся Bard, а теперь — Gemini) и выделившейся из OpenAI компании Anthropic (чья LLM, весьма очаровательно, носит имя Claude), а также целая многоголосица менее известных соперников. Как мы подробно обсудим на этих страницах, LLM во многих отношениях все еще разительно отличаются от людей, и их познавательные процессы принципиально не похожи на наши. Но когда дело доходит до генерации текста, они хороши — исключительно хороши. Они уже способны с ходу сочинять остроумные лимерики, решать логические головоломки, требующие нестандартного мышления, и писать код гораздо лучше меня (что, признаться, не так уж трудно). Но, пожалуй, самая невероятная их грань — это универсальность их знаний. Каждая из ведущих LLM уже знает о мире больше, чем любой когда-либо живший человек. Это звучит невероятно, но это чистая правда. Как выразился в мае 2023 года Джеффри Хинтон — исследователь, имеющий больше всего оснований считаться создателем глубокого обучения, которого СМИ окрестили «крестным отцом ИИ»: «Я пришел к выводу, что тип интеллекта, который мы развиваем, очень сильно отличается от нашего собственного <...> это как если бы у вас было 10 000 человек, и как только один из них узнавал что-то новое, все остальные автоматически получали эти знания. Вот почему эти чат-боты могут знать гораздо больше, чем любой отдельный человек».

Среди нынешних ведущих моделей GPT-4 от OpenAI была выпущена в начале 2023 года, а крупнейшая и лучшая версия модели Gemini от Google (Ultra) появилась позже в том же году. Эти модели справляются с экзаменом на статус адвоката достаточно хорошо, чтобы поступить в ведущую юридическую школу США, а их результаты сопоставимы с показателями среднестатистического кандидата на поступление в магистратуру или аспирантуру вузов Лиги плюща. Еще несколько лет назад большинство специалистов по компьютерным наукам (и, вероятно, 99,9% всех остальных людей) считали, что система ИИ не сможет по-настоящему что-то «знать» о мире, если у нее не будет глаз и ушей (или хотя бы камеры и микрофона), чтобы самостоятельно исследовать реальность. Но это мнение оказалось ошибочным. Каждая из основных языковых моделей знает несравнимо больше, чем любой из восьми миллиардов ныне живущих людей, при этом ни разу даже краем глаза не взглянув на окружающий мир, в котором мы все обитаем. Философы, лингвисты и исследователи ИИ в равной степени озадачены тем, что все это значит, — в чем мы убедимся в третьей части этой книги.

Революционный потенциал этих инструментов заключается в том, что они могут рассказать нам все, что нам нужно знать, простыми и понятными словами. Иметь языковую модель под рукой — например, в телефоне — это все равно что носить в кармане всех мировых экспертов в любой области. Сегодня, если у вас сломалась посудомоечная машина, если вы хотите забронировать отель в Турции или вам нужно срочно развестись, вы, возможно, попытаетесь найти видео на YouTube, поискать жилье на Airbnb или позвонить юристу. Завтра вы просто спросите большую языковую модель. Сегодня, если вы хотите научиться программировать на Python, создать сайт для своего хобби или разработать логотип для своего бизнеса, вы можете записаться на курсы, посмотреть онлайн-руководство или нанять графического дизайнера. Завтра вы будете взаимодействовать с LLM, которая сама напишет для вас код, переведет ваши запросы напрямую в HTML или создаст стильное изображение по текстовому описанию на естественном языке.

Во многом это будущее уже наступило. Фактически уже существуют сервисы, способные справиться с каждой из упомянутых мной задач. Но это лишь самое начало пути, и в одних сферах LLM пока гораздо надежнее, чем в других: ChatGPT отлично справляется с логотипом, но я бы очень поостерегся полагаться на него в юридических вопросах. Тем не менее нетрудно предугадать, что нас ждет дальше. Независимо от того, находимся ли мы на пути к созданию систем ИИ, способных разгадать глубочайшие тайны Вселенной, подобные более прозаические формы помощи уже не за горами. Похоже также, что основной инструмент, с помощью которого большинство людей сегодня ищут информацию, — интернет-поисковик — вскоре покажется столь же архаичным, как дискета или факс. ChatGPT уже интегрирован в поисковую систему Bing, и наверняка пройдет совсем немного времени, прежде чем Google и другие компании последуют этому примеру, дополнив традиционный поиск по страницам умением вести диалог. По мере того как эти изменения будут происходить, они напрямую затронут жизнь каждого жителя планеты, имеющего доступ к интернету (а это более пяти миллиардов человек, и их число растет), и наверняка перевернут мировую экономику так, как никто не может предсказать. И все это произойдет очень скоро — в масштабах месяцев или лет, а не десятилетий. Это произойдет с вами и со мной.

Описанный мной новый мир может показаться невероятно захватывающим. Представьте себе доступ к системам ИИ, которые действуют как своего рода персональные помощники — готовые исполнить любой ваш цифровой каприз — и обходятся гораздо дешевле помощников-людей, роскоши, которую сегодня могут позволить себе только генеральные директора и кинозвезды. Все мы хотели бы, чтобы ИИ взял на себя скучные повседневные заботы: помогал планировать встречи, менять поставщиков коммунальных услуг, вовремя подавать налоговые декларации. Но впереди нас ждут серьезные неопределенности. Позволяя системам ИИ становиться абсолютными хранилищами человеческих знаний, мы вверяем им право судить о том, что есть истина, а что ложь, что правильно, а что нет. Какую роль по-прежнему будут играть люди в мире, где системы ИИ создают и распространяют большую часть знаний от нашего имени?

Разумеется, с тех самых пор, как люди начали обмениваться идеями, они находили способы сделать распространение информации оружием — от первых проявлений обмана и клеветы в доиндустриальных общинах охотников-собирателей до того онлайнового болота дезинформации, токсичности и полемики, в которое превратился сегодняшний интернет. Если их не обучить должным образом, машины, владеющие языком рискуют многократно усугубить этот вред, да вдобавок породить новые угрозы. Опасности мира, в котором ИИ обладает властью над человеческими знаниями, могут перевесить все заманчивые перспективы безграничного доступа к информации. Как нам понять, когда LLM говорит правду? Как мы можем быть уверены, что они не станут воспроизводить те едва уловимые предубеждения, которыми пронизан наш язык, в ущерб тем, кто и без того практически лишен влияния в обществе? Что если их используют как инструмент убеждения, чтобы склонять большие группы людей к дискриминационным или опасным взглядам? И если мнения людей расходятся, чьи ценности должны представлять LLM? Что произойдет, если колоссальные объемы созданного ИИ контента — новостей, комментариев, художественной литературы и изображений — начнут доминировать в инфосфере? Как мы тогда узнаем, кто что сказал и что произошло на самом деле? Не стоим ли мы на пороге того, чтобы окончательно вычеркнуть себя из истории?