Какое единственное слово недопустимо в шараде с ключевым словом «шахматы»?[371][372]
Основоположник теории информации Клод Шеннон писал в статье 1950 г., что игры представляют собой идеальную среду для развития машинного интеллекта. До тех пор исследователи использовали компьютеры главным образом для громоздких числовых расчетов. Вместо этого, утверждал Шеннон, машины однажды смогут обрабатывать «шахматные позиции, электрические схемы, математические выражения, слова»[373]. Игры не назовешь практичными, признавал он, но они могут стать тренировочной площадкой для поиска способов решения других задач, таких как перевод текстов на разные языки, принятие стратегических военных решений и сочинение музыки – иными словами, для моделирования человеческого интеллекта. Одну из ранних шахматных программ он описывал в этой статье как попытку приблизиться к процессу мышления.
Шеннон считал шахматы идеальной отправной точкой для этого проекта. Шахматы – это четко определенный мир. По сравнению с проблемами нашей реальности, шахматами легче управлять, а успех в них – измерять. Игры дискретны, а игровой процесс, судя по всему, невозможен без важнейших аспектов интеллекта: стратегии, планирования и логики. Игры – это способ сделать интеллект постижимым; они дают исследователям понятийный аппарат для описания незримых сил разума. Шеннон был не первым, кто это осознал: еще первый в истории программист Ада Лавлейс задавалась вопросом, может ли, например, карточный пасьянс «быть выражен математической формулой и решен»[374]. Она была первым ученым, осознавшим, что вычислительная машина Бэббиджа может быть способна не только на простые операции с числами – она могла бы анализировать и даже создавать игры, тексты и музыку.
Игра подобна ветвящемуся сплетению возможностей. В начале партии перед игроками предстает дерево всех математически допустимых ходов. Каждый ход прореживает пространство последующих возможных вариантов. В ограниченном мире игрового процесса интеллектуальную деятельность игрока можно свести к двум фундаментальным компонентам: эффективному поиску всех возможных версий будущего и выбору пути, который с наибольшей вероятностью ведет к победе. Чтобы ориентироваться в этих возможных версиях будущего, Шеннон обратился к теории игр. Фон Нейман утверждал, что рациональные игроки делают выбор, который, по их мнению, максимизирует их будущий выигрыш. Подобным же образом Шеннон решил создать шахматную программу, которая использовала бы минимаксные оценки для направления своих действий в сторону победы. Но как программа может определять, какой ход наиболее перспективен? В шахматах нет счета как такового, однако играющий в шахматы человек может, взглянув на доску, приблизительно оценить, выигрывает он или проигрывает, и прикинуть, поможет ли ему данный ход или нет. Для выбора ходов Шеннон снабдил свою программу встроенной функцией оценки, заменяющей человеческое суждение.
Такая функция оценки стала ключевым компонентом ранних игровых систем. Она требовала от авторов интроспекции – анализа того, как они сами ориентируются в игре, осознания анатомии своего внутреннего процесса рассуждений и оценки позиции. Исследователи составляли сложные математические формулы, суммирующие факторы, которые считались важными шахматными экспертами: количество оставшихся фигур, их положение на доске, уязвимость короля, изолированность пешек и т. д., причем каждый фактор получал коэффициент в соответствии с его относительной важностью. Например, слон мог стоить как три пешки, но вдвое меньше ферзя. Предложенная Шенноном программа вычисляла бы такое значение для всех допустимых следующих ходов, а затем повторяла бы эту оценку для ответных ходов противника. Можно было предположить, что противник захочет минимизировать показатель первого игрока, и программа соответствующим образом предсказывала его ход. Так программа продолжала бы оценивать исходы для всех возможных последовательных реакций на протяжении нескольких ходов, а затем выбирала бы ход, наиболее вероятно ведущий к победе, исходя из предположения, что оба игрока захотят минимизировать успех друг друга.
Учитывая вычислительные возможности техники той эпохи, Шеннон подсчитал, что полный обсчет всех возможных шахматных партий занял бы времени гораздо больше, чем известный возраст Вселенной. Но его задачей было создать программу, способную играть в шахматы не идеально, а лишь умело. В своей статье, посвященной этому проекту, Шеннон пошутил, что, если бы игроки действительно обладали идеальной дальновидностью, предполагаемой теорией игр, шахматы едва ли походили бы на игру:
Партия между двумя такими титанами мысли, господином А и господином Б, протекала бы следующим образом[375]. Они садятся за шахматную доску, определяют цвет фигур и затем мгновение изучают расположение фигур. Затем либо:
(1) господин А говорит: «Я сдаюсь», либо
(2) господин Б говорит: «Я сдаюсь», либо
(3) господин А говорит: «Предлагаю ничью», а господин Б отвечает: «Согласен».
На практике программа могла бы неплохо играть, просчитывая всего лишь несколько будущих ходов. В конце концов, даже шахматные мастера признаются, что заглядывают вперед только на считаные ходы. В качестве доказательства принципиальной возможности такой программы Шеннон описал простой алгоритм, перечисляющий все допустимые последующие ходы, а затем случайным образом выбирающий один из этих вариантов. Шеннон сыграл со своим алгоритмом, просчитывая его действия вручную. Он выиграл за пять ходов, добросовестно зафиксировав, что «решения алгоритма при такой стратегии невероятно убоги»[376]. Тем не менее он понимал, что компьютеры будут совершенствоваться и со временем научатся производить мгновенные, безошибочные и непрерывные вычисления для анализа игровых позиций. «Именно такие машины и нужно будет сравнивать с гибкостью и воображением человеческого разума, а также с его способностями к индукции и обучению», – писал он[377].
По другую сторону Атлантики Алан Тьюринг размышлял над той же проблемой. К концу 1940-х гг. он и его коллега Дэвид Чампернаун разработали программу Turochamp, основанную, как писал Тьюринг, «на интроспективном анализе моих мыслительных процессов во время игры»[378]. Подобно разработке Шеннона, Turochamp обсчитывала все потенциальные ходы и реакции на них. Затем она присваивала им баллы на основании безопасности и свободы маневра важных фигур, а потом использовала минимакс для выбора хода, дающего наивысшее ожидаемое значение. Однако заставить такую программу работать на компьютерах того времени было невозможно, поэтому Тьюринг и Чампернаун выполняли свой алгоритм вручную. В 1952 г. они выставили Turochamp, ходы которой обсчитывались на бумаге, против своего коллеги Элика Гленни. Turochamp показала себя лучше, чем программа Шеннона, проиграв после 29 ходов, на вычисление каждого из которых уходило по полчаса.
Игры позволили обойти серьезную проблему в изучении интеллекта: необходимость дать ему строгое определение. Тьюринг, как известно, предложил для оценки разумности какой-либо программы «Игру в имитацию», более известную как тест Тьюринга. В таком тесте человек, играющий роль судьи, общается с языковой программой или другим человеком посредством напечатанного текста. По мнению Тьюринга, компьютерная программа, способная убедить судью в том, что она человек, должна считаться разумной. Но уязвимость этого метода состоит в субъективности интерпретации: разные судьи могут выносить разные вердикты под влиянием собственного опыта и предположений о собеседнике. Игры же, подобные шахматам, однозначны. Они обладают четкими исходами, не оставляющими места для интерпретаций. Ты либо выигрываешь, либо проигрываешь. Наделяя компьютерную программу целью – выиграть партию, исследователи могли понятным образом отслеживать прогресс в своих попытках определить интеллект. Это казалось чрезвычайно привлекательным в ненадежном мире академических исследований, который по определению требует от ученого браться за неизвестное, но в то же время и формулировать ясные критерии будущего успеха для грантодателей и инвесторов. Конкурирующие исследовательские группы вступили в гонку, стараясь создать первую программу, которая превзошла бы людей в популярных настольных играх. Использование игр в качестве основы для искусственного интеллекта геймифицировало саму эту область исследований. С другой стороны, излишняя сосредоточенность на играх вредит нашему пониманию того, что представляет собой интеллект.
Теория игр продолжала оказывать мощное влияние на ИИ. Десятилетиями исследователи использовали минимакс для управления выбором своих игровых движков. Однако это сводит интеллект к экономическому расчету. В теории игр цель агента – максимизировать свой выигрыш. Схожим образом одно из известных определений интеллекта, предложенное специалистом по ИИ Джоном Маккарти и гласящее, что это «вычислительная часть способности достигать целей в мире», перекликается с целеустремленностью агента в теории игр[379]. Исследователи сосредоточились на создании систем, способных достигать четко определенных целей. Анализ затрат и выгод, задавший очертания экономической теории, к определенному сожалению, стал своего рода суррогатом мышления, что привело к тому, что интеллект начали путать с прямолинейным стремлением к измеримой материальной выгоде. Другие формы одаренности – физическая, эмоциональная, лингвистическая, музыкальная – трудно измерить или смоделировать, и поэтому они вызывали гораздо меньше интереса. Самосознание и эмпатия также выпали из рассмотрения. Прямо сейчас исследователи начинают осознавать опасности, неразрывно связанные с созданием систем, которые безоглядно сосредоточены на целях и не способны рассуждать о возможных побочных эффектах. Врач, стремящийся вылечить рак, не должен при этом убивать своего пациента.
Несмотря на десятилетия работы над игровыми программами, к 1980-м гг. компьютеры превзошли людей лишь в самых простых дисциплинах, таких как крестики-нолики. Но эти поиски привели к значительному прогрессу в кибернетике, а выработанные тогда подходы и по сей день остаются стандартными в этой области. Например, Артур Сэмюэл начал работу над своей программой для игры в шашки еще до появления общепринятых языков программирования, поэтому он изобрел под свои задачи новый язык. Исследователи игр также разработали методы поиска по дереву решений, способные предвидеть все возможные ходы в игре, – методы, оказавшиеся полезными и для других примеров сложного анализа данных. Поскольку игры требуют прочесывания огромного пространства поиска, их изучение привело к формированию основополагающих идей о том, как сделать вычисления более эффективными.
Однако в большинстве игр люди по-прежнему оставались вне конкуренции. Cамообучающаяся программа для игры в шашки Сэмюэла все еще не могла сравниться с лучшими игроками-людьми даже после десятилетий работы над ней. Мастер-шашист, сыгравший с этой программой, посоветовал Сэмюэлу добавить библиотеку первых ходов и задач для эндшпиля. Сэмюэл отказался: «Я не могу этого сделать. Это сведет игру в шашки к простому поиску в таблице. Я не учил компьютер играть в шашки; я учил его, как научиться играть в шашки»[380]. Такое отношение к делу теперь было редкостью среди исследователей ИИ. Проблема с геймификацией работы над пониманием интеллекта заключалась в том, что многие ученые стали больше заботиться не о понимании интеллекта, а о победе в играх, пусть даже с помощью грубого перебора вариантов. Сэмюэл не стремился создать систему, которая могла бы выигрывать в шашки; он мечтал об обучающейся системе, принципы работы которой были бы применимы при решении более важных задач. «Представляется разумным предположить, – писал он в опубликованном в 1960 г. обзоре состояния машинного обучения, – что эти новейшие методы будут все чаще применяться в реальных жизненных ситуациях, а на игры и другие развлекательные вопросы будет затрачиваться все меньше усилий»[381].
Демонстрации играющих компьютеров превратились в имитацию прогресса: это были теперь рекламные трюки, используемые организовывающими их корпорациями и университетами для привлечения внимания или инвестиций. Подобные системы были заточены только под игры, для которых их создали, представляя собой сложное сплетение зависимых параметров, которое могло легко обрушиться из-за неожиданного входящего значения. По этой причине исследователи вроде Маккарти отказывались от исследований компьютерных шахмат. Он писал:
К сожалению, соревновательные и коммерческие аспекты создания шахматных компьютеров взяли верх над использованием шахмат в качестве научного объекта. Это как если бы генетики после 1910 г. начали организовывать гонки дрозофил и сосредоточили все свои усилия на выведении особей, способных побеждать в этих забегах[382].
Хотя Сэмюэл отказался использовать в своей программе для игры в шашки справочную таблицу, другие исследователи полностью решили игру с помощью такого подхода. Шашки достаточно просты, чтобы их можно было от начала до конца просчитать на компьютере, превратив в чисто математическую задачу. И все же на это ушли десятилетия работы. В конце 1980-х гг. кибернетик Джонатан Шеффер получил лабораторию в Университете провинции Альберта в Канаде и решил сосредоточиться на шашках. Если интеллект можно свести к процессу поиска разумных решений в массе прочих возможностей, шашки поддаются анализу в гораздо большей степени, чем шахматы. В шахматах для одного хода существует около 35 возможных вариантов; в шашках – около трех. Чтобы на три хода вперед оценить все возможные исходы в шахматах, нужно обсчитать более 43 000 вариантов. В шашках это число ближе к 27. На шашечной доске возможно «всего лишь» 1020 позиций по сравнению с 1044 в шахматах.
Программа Шеффера Chinook двигалась по дереву возможных решений с помощью минимакса; она оценивала качество позиции, используя функцию оценки, разработанную на основании знаний мастеров игры. В отличие от программы Сэмюэла, Chinook не могла учиться самостоятельно. Ее действия были заранее расписаны, строго определяясь функцией оценки и базой данных начальных и конечных ходов. В шашках вероятность выигрыша сильно коррелирует с простыми показателями, такими как число оставшихся у каждого игрока шашек, наличие дамок и т. д. Чтобы сделать поиск по дереву всех возможных ходов более эффективным, Шеффер задействовал используемый теперь повсеместно метод сокращения под названием «альфа-бета-отсечение», открытый независимо несколькими группами, работавшими с играми. Этот метод позволял программе не оценивать ходы, которые приводили к исходам хуже, чем уже проанализированные. Например, просчитав на несколько ходов вперед, программа обнаруживала, что такое-то решение может привести к потере шашки. Этот вариант далее не исследовался, а предпочтение отдавалось более глубокому изучению вариантов повыгоднее. Альфа-бета-отсечение, однако, приводит к тому, что программы демонстрируют консервативный и материалистичный стиль игры. Поскольку они прекращают поиск по ветвям, ведущим к какой-либо потере, они не могут находить стратегии, в которых временная жертва приводит к большему выигрышу в дальнейшем.
Однако программу Chinook нельзя было упрекнуть в отсутствии дальновидности: она могла просчитывать позиции на десятки ходов вперед. Ей досталась победа на Компьютерной олимпиаде 1989 г. в Лондоне. Там Шеффер познакомился с экспертом по шашкам Хершелом Смитом, который с большим интересом наблюдал за партиями Chinook. Десятилетиями ранее Смит играл с программой Сэмюэла и теперь был поражен достигнутым Шеффером прогрессом. Шеффер, как понял Смит, почти ничего не знал о самых передовых шашечных стратегиях. Это делало достижения Chinook еще более впечатляющими. Если Шеффер действительно хотел доказать состоятельность своего детища, посоветовал Смит, его программе нужно было сыграть против Мариона Тинсли. Тинсли, которому к тому времени было за шестьдесят, по праву считается величайшим шашистом всех времен. За сорок лет участия в соревнованиях – в тысячах турниров и показательных выступлений – он проиграл партий меньше чем пальцев на одной руке и ни разу дважды одному и тому же человеку. Тинсли утверждал, что в свою бытность студентом-математиком провел за изучением шашек около 10 000 часов (и в основном, признавался он, вместо занятий математикой). Он обладал поразительной памятью и мог вспомнить любой ход в каждой когда-либо сыгранной им партии.
Тинсли был набожным христианином. Он опрятно одевался в строгие костюмы и носил очки в темной оправе, хотя его любимую булавку для галстука украшало выложенное самоцветами слово «ИИСУС». Он жил со своей матерью до самой ее смерти и никогда не был женат. «Я не знаю ни одного удачного брака с шашистом. Очень редко встречаются женщины, способные жить с настоящим исследователем шашек», – серьезно сообщал Тинсли[383]. Игра была его единственной земной любовью. «Шахматы – это как бескрайняя панорама океана, – говорил он. – Шашки – это как взгляд в бездонный колодец»[384].
В начале 1990-х гг. Тинсли согласился сыграть с Chinook несколько показательных матчей. Он сохранял безмятежную уверенность в себе. «У меня программист лучше, чем у нее, – сказал он репортеру. – Ее программист – Джонатан, мой – Господь Бог»[385]. Позже он признавался: «Я не хочу подвести своего программиста, и я уверен, что не подведу»[386]. Хотя Тинсли выиграл эти матчи, стало ясно, что Chinook намного сильнее программ, существовавших до нее. Большинство партий закончилось вничью. Chinook проиграла лишь одну и была близка к победе над Тинсли в другой.
После того как в дебюте одной из партий Шеффер сделал очередной указанный Chinook ход, Тинсли удивленно поднял глаза и сказал: «Вы об этом пожалеете»[387]. Шеффер вспоминал, как подумал тогда: «О чем он вообще говорит? У нас нет никаких проблем»[388]. Chinook прогнозировала, что партия закончится вничью, и этот ход не изменил ее оценки. 46 ходов спустя, просчитывая на 19 ходов вперед, машина начала прогнозировать проигрыш. «Неужели Тинсли может заглядывать на 65 ходов вперед?» – удивился Шеффер, но сразу отбросил эту мысль. Тем не менее Chinook проиграла эту партию. После матча Шеффер проанализировал произошедшее и обнаружил, что, при условии отсутствия ошибок со стороны обоих игроков, любое развитие событий после отмеченного Тинсли хода приводило к проигрышу сделавшего его игрока. Глубина понимания игры Марионом Тинсли превосходила любые возможности компьютера. Лихорадочно разбирая партии Тинсли, Шеффер был потрясен тем, насколько близко к теоретически возможному совершенству тот играл.
Chinook сыграла с Тинсли еще несколько матчей, всегда почти равных по уровню мастерства, но так и не сумела его одолеть. Перед их последним матчем-реваншем в 1994 г. Тинсли получил тревожное знамение. На следующее утро он сообщил Шефферу: «Прошлой ночью мне во сне явился Бог и сказал, что любит и тебя тоже»[389]. На второй день матча Тинсли отказался от продолжения игры из-за болей в животе, которые, как вскоре выяснилось, были вызваны раком. Он умер в следующем году.
Победить Тинсли было единственной целью Шеффера. Выставлять Chinook против любого другого чемпиона по шашкам казалось бессмысленным. Лишившись цели, Шеффер сменил направление своих исследований. Chinook больше не будет играть против людей на турнирах. Chinook найдет полное решение для шашек. В начале партии, когда на доске 24 шашки, существует около 1020 возможных последующих позиций. К эндшпилю, когда шашек остается всего 10, таких позиций около 39 трлн. Сотрудники Шеффера сначала смоделировали и описали весь спектр возможных эндшпилей, а затем Chinook начала поиск траекторий, связывающих все возможные дебюты с этой библиотекой эндшпилей, – задача, потребовавшая более десяти лет вычислений методом полного перебора.
Работа Chinook наконец завершилась в 2007 г. «Готово, – сообщил Шеффер своей дочери. – Шашки решены»[390]. Она вспоминала, что «он держался так, словно это было самое знаменательное событие в истории, а фотография этого момента должна была бы стоять рядом со снимком первых людей на Луне». Шеффер и его команда обнаружили, что, если оба игрока играют идеально, партия в шашки всегда заканчивается вничью. Хотя это и впечатляло, полученное методом полного перебора решение Шеффера нисколько не приблизило науку к пониманию природы интеллекта. Оно свело шашки к каскаду возможностей, определяемых правилами игры и логическими следствиями из них.
В отличие от шашек, в шахматной партии вариации слишком многочисленны, чтобы их можно было полностью просчитать. Чтобы одолеть шахматы, потребовалось создание значительно более мощной компьютерной техники. Для тех, кто во времена холодной войны не видел дальше железного занавеса, даже непрактичные интеллектуальные занятия стали ареной технологического соревнования сверхдержав. Советский Союз десятилетиями доминировал в мировых шахматах, за исключением чемпионата мира 1972 г., когда американец Бобби Фишер выиграл у Бориса Спасского. Игра была настолько политизирована, что Генри Киссинджер, тогдашний советник президента Никсона по национальной безопасности, лично позвонил Фишеру перед матчем, чтобы подбодрить его: «Америка хочет, чтобы ты отправился туда и побил русских»[391]. Гроссмейстер Гарри Каспаров[392] позже подчеркивал политический символизм этой победы, утверждая, что она «рассматривалась людьми по обе стороны Атлантики как решительный момент в разгар холодной войны»[393].
Какое-то время казалось, что советские исследователи будут доминировать и в компьютерных шахматах. Гонка за создание ИИ, разумеется, велась не только ради позерства: военные и политические лидеры надеялись переложить на машины сложные в моральном отношении решения. Бывший чемпион мира по шахматам Михаил Ботвинник десятилетиями совершенствовал свою шахматную программу «Пионер», которая, как он надеялся, однажды станет достаточно разумной, чтобы управлять советской экономикой лучше, чем несовершенные специалисты по планированию или несправедливая близорукость свободного рынка. Столкнувшись с ограниченностью вычислительных мощностей той эпохи, Ботвинник задействовал свой опыт, чтобы строго ограничить круг ходов, которые «Пионер» рассматривал на каждом этапе своего поиска. К началу 1980-х гг. поползли слухи о новом впечатляющем американском претенденте под названием Belle, созданном исследователем из Bell Labs Кеном Томпсоном. Ботвинник пригласил Томпсона в Москву для демонстрации его детища, и Томпсон с радостью согласился.
Демонстрация не состоялась. По прибытии в Москву Томпсон узнал, что Belle была конфискована американскими властями и так и не покинула США. Belle была не просто программой, а компьютерной системой. Вместо того чтобы ограничивать способность программы к поиску, как это сделал Ботвинник, Томпсон разработал более мощное аппаратное обеспечение. Уже прославившись как создатель операционной системы UNIX, Томпсон был постоянным участником турниров по компьютерным играм. Шеффер вспоминал, как во время одного из его первых матчей одетый в футболку c «простым изображением большого толстого кота»[394] Томпсон взял его под свое крыло, с безграничной щедростью раздавая мудрые советы. По возвращении домой из СССР Томпсону грозил арест по подозрению в незаконном экспорте передовых технологий. Репортер, освещавший эту историю, спросил Томпсона, имеет ли Belle какое-либо военное применение. Томпсон на мгновение задумался, а потом ответил: «Может быть… Если сбросить ее с самолета, она могла бы кого-нибудь прибить»[395].
В 1983 г. Belle стала первой компьютерной системой, получившей звание мастера США по шахматам, что побудило других исследователей активизировать свою работу. Фэн-Сюн Сюй, будучи старшекурсником в Университете Карнеги – Меллона, изучил архитектуру Belle и разработал новый чип, который был в 20 раз быстрее и в 1000 раз дешевле[396]. Батарея таких чипов могла параллельно рассматривать миллионы ходов. Работа Сюя и его коллег, несмотря на свой мизерный университетский бюджет, дала настолько впечатляющие результаты, что в 1989 г. IBM переманила всю его группу для продолжения проекта.
Их шахматный суперкомпьютер стал известен как Deep Blue («Глубокий синий») – так его назвали в честь компьютера Deep Thought («Глубокая мысль») из книги Дугласа Адамса «Автостопом по галактике»[397]. Программа, заложенная в Deep Blue, качественно не отличалась от своих предшественниц. Его главным отличием была огромная вычислительная мощность. Deep Blue выбирал ходы на основании все того же принципа минимакса, предложенного Шенноном в 1950 г. Он не мог учиться самостоятельно и добивался успеха за счет скорее грубой силы, чем изящества. Он анализировал до 200 млн возможных позиций в секунду. Тогда это был гигантский суперкомпьютер, размещавшийся в нескольких двухметровых шкафах, но сегодня программное обеспечение Deep Blue могло бы работать на смартфоне.
Определить, что является перспективным ходом, в шахматах гораздо сложнее, чем в шашках. Тут нужно учитывать типы оставшихся фигур, их возможные ходы, позиционную силу и мириады потенциальных взаимодействий между собой, а также бесчисленное множество других факторов. В своем окончательном виде функция оценки Deep Blue содержала более 8000 параметров – гигантскую паутину условных зависимостей. Исследователи подбирали коэффициенты для каждой переменной: насколько высоко следует ценить коня и каким образом эта оценка зависит от его положения на доске? Как все это соотносится с оставшимися фигурами другого игрока и их относительным местоположением?
Программа была способна «видеть» лишь то, что могли вообразить себе ее авторы. Все возможные шахматные партии не были сыграны и никогда не будут. Шахматы – это историческое и культурное явление: миллионы игроков изучали одни и те же знаменитые партии, подражая преобладающим стилям и повторяя определенные гамбиты. Deep Blue и другие шахматные программы проходили такое же обучение. В отличие от людей, которые обычно могут сообразить, что делать, столкнувшись с чем-то новым, решения этих программ были жестко предопределены, отчего у них случались сбои при столкновении с необычными ходами или редкими конфигурациями на доске. Игроки-люди пользовались этим, применяя манеру, ставшую известной как «антикомпьютерные шахматы». Например, соперники традиционно борются за контроль над центром доски, но мастер антикомпьютерных шахмат мог переместиться ближе к краю, чтобы сбить с толку своего запрограммированного оппонента. Эта тактика может работать и против людей: начальные стадии шахматной партии настолько безжалостно оптимизированы, что игроки, как правило, придерживаются стандартных дебютов. Чемпион мира Магнус Карлсен известен тем, что открывает игру нестандартными ходами, чтобы заставить своих противников отказаться от хорошо отработанных начальных маневров. Чтобы усовершенствовать функцию оценки и выявить легко эксплуатируемые ошибки, IBM предлагала мастерам шахмат особое вознаграждение за то, чтобы они нешаблонно играли против Deep Blue.
В 1996 г., после 10 лет разработки и обучения, Deep Blue сразился в матче с тогдашним действующим чемпионом мира Гарри Каспаровым[398], который до сих пор считается одним из величайших игроков в истории шахмат. Хотя Deep Blue проиграл тот матч, он стал первой компьютерной программой, выигравшей у чемпиона-человека хотя бы одну партию, и это ему удалось благодаря дерзкому и тонкому гамбиту. Deep Blue взял одну из пешек Каспарова[54], временно оставив своего короля незащищенным. Поскольку он мог просчитывать позиции на 15 ходов вперед, Deep Blue определил, что хоть и с трудом, но сможет закрыть эту брешь. Это был ход, на который, как утверждали комментаторы, не отважился бы ни один человек. «В позициях определенного типа, – заметил Каспаров[54], – он видит так глубоко, что играет как бог»[399]. Кибернетик Дуглас Хофштадтер был ошеломлен этой победой:
Боже мой, раньше я думал, что шахматы требуют мыслей. Теперь я понимаю, что это не так. Это не значит, что Каспаров[54] не глубокий мыслитель, просто в шахматах можно обойтись без глубокого мышления[400].
В 1997 г. Deep Blue выиграл у Каспарова[54] матч-реванш. Во второй партии он сделал настолько красивый ход, что Каспаров[54] был убежден: компьютеру такое не под силу. Он полагал, что тут вмешался один из экспертов по шахматам, консультировавших IBM: «Это напоминает мне знаменитый гол, который Марадона забил Англии в 1986-м, – заявил Каспаров[54]. – Он тогда сказал, что это была рука Бога»[401]. Аргентинский футболист Диего Марадона, как установили после того матча с Англией, действительно сжульничал, направив мяч в сетку рукой, а не головой. Жульничество не было чем-то неслыханным и на турнирах с участием компьютеров. Человек-оператор обычно двигал фигуры за своего подопечного. Некоторые, как это точно известно, подменяли ход компьютера своим собственным, чтобы спасти честь своей стороны после особенно досадной программной ошибки. Каспаров[54] потребовал предъявить ему логи Deep Blue. Команда IBM отказалась, заявив, что это в слишком большой мере раскроет «внутренние мысли» машины. Программа фиксировала ход своих рассуждений рядом с каждым выбранным ходом. Каспаров[55] еще больше уверился в нечестной игре, хотя позже IBM передала распечатанные логи нейтральному арбитру. Справедливости ради, Каспаров[55] находился в невыгодном положении: Deep Blue изучил всю его карьеру, и каждый когда-либо сделанный им ход был занесен в необъятную машинную память. Каспарову[55] же не позволили изучить ни одной из партий Deep Blue, и поэтому у него не было возможности подготовиться к матчу.
Впервые чемпион-человек проиграл шахматный матч компьютерной программе. Шахматный комментатор Мигель Ильескас посетовал, что Каспаров[55] играл так, будто чего-то боялся, на что Каспаров[55] ответил ему:
Я не боюсь признать, что боюсь, и не боюсь сказать, почему я боюсь. Это больше, чем любой шахматный компьютер в мире. Я ведь человек, знаете ли… Когда я вижу то, что находится далеко за пределами моего понимания, я пугаюсь[402].
Команда IBM была потрясена обвинениями в мошенничестве и очернением в прессе. Зрители освистывали победы Deep Blue – человечество хотело, чтобы победил Каспаров[55]. Сюй находил это странным: «Этот матч на самом деле никогда не был соревнованием "человек против машины". Скорее, "человек как художник против человека как создателя инструментов"»[403]. В то время как широкая публика была открыто враждебна к Deep Blue, шахматные эксперты пребывали в восторге и хвалили программу за демонстрацию нового подхода к эндшпилям.
Хотя для своего времени он был одновременно и поразительным инженерным достижением, и прорывом в информационных технологиях, не очень понятно, какой вклад Deep Blue – узкоспециализированный, вычурный аппарат, пригодный исключительно для игры в шахматы – в конечном итоге внес в наше понимание интеллекта. Подобно программе Chinook, Deep Blue продемонстрировал, что определенные аспекты планирования можно сымитировать с помощью грубой вычислительной силы, прокладывая путь по множеству ветвей гигантского дерева решений к благоприятному исходу. После матча репортер спросил Джо Хоана, одного из программистов Deep Blue, пытались ли он и его коллеги подражать человеческому мышлению. Хоан ответил:
Это никак не входило в нашу задачу. Deep Blue – ни в коем случае не проект в области искусственного интеллекта… Мы играем в шахматы за счет чистой скорости вычислений – просто перебираем варианты и выбираем одну строку[404].
Deep Blue мог лишь отражать знания, заложенные в его функцию оценки; он не мог превзойти человеческое понимание. Как и Chinook, он мог выдавать только игровые ходы. Мюррей Кэмпбелл, еще один из создателей Deep Blue, десятилетия спустя вспоминал об этой работе с некоторым сожалением:
В последние несколько лет я начал по-другому относиться к таким играм, как го, шахматы и, конечно, шашки. Как бы трудно человеку ни было в них играть, они, оглядываясь назад, не так уж интересны с точки зрения ИИ… Думаю, вопрос стоит так: «Являются ли игры для двух игроков с нулевой суммой и полной информацией оптимальными сферами для продолжения исследований в области ИИ?» Я так не считаю. Если вы спросите меня, какое решение, выработанное для Deep Blue, мы применили в других задачах, то такого не было[405].
Однако игры как минимум продолжали оставаться для инженеров непревзойденным средством привлечения внимания и финансирования. В месяцы после матча цена акций IBM выросла примерно на 40%. Deep Blue был демонтирован после матча с Каспаровым[406], но он вдохновил создание множества программ, которые его превзошли. Stockfish, проект с открытым исходным кодом и десятками разработчиков, теперь занимает место Deep Blue в качестве действующего чемпиона мира по компьютерным шахматам. На протяжении многих лет оставаясь лучшей на свете шахматной программой, она стала доказательством потенциала сообщества разработчиков открытого ПО. Добровольцы бесплатно тратили ресурсы своих процессоров для параллельного обучения модели и обходились без всяких суперкомпьютеров. По архитектуре Stockfish похожа на Deep Blue: сложная структура с десятками отдельных рабочих компонентов и функцией оценки, заточенной под конкретные позиции на доске. Как и Deep Blue, она хороша только в одном – в шахматах. Прогресс в области предназначенных для игр компьютеров не имел предполагаемого побочного эффекта в виде более глубокого понимания интеллекта, хотя игры и информатика непрерывно взаимно обогащали друг друга. Только позднее эти достижения все же повлияли на разработку более интеллектуальных компьютерных программ – причем совершенно неожиданным образом.
В 1962 г. трое аспирантов Массачусетского технологического института создали инструмент для демонстрации возможностей нового мощного компьютера. Результатом стала Spacewar!, первая в мире видеоигра. В ней нужно было управлять участвующим в воздушном бою космическим кораблем, не способным выбраться из гравитационного поля огромной звезды. Spacewar! оказалась настолько популярной, что компьютерным лабораториям Стэнфордского университета пришлось запретить ее использование в рабочее время, чтобы студенты хотя бы иногда занимались исследованиями. Нолан Бушнелл впервые сыграл в нее, будучи студентом инженерного факультета Университета Юты, и был мгновенно очарован. Чтобы оплачивать учебу в колледже, Бушнелл, по собственному выражению, подрабатывал «ярмарочным зазывалой», рекламируя игровые автоматы в местном парке развлечений, так что он сразу же разглядел коммерческий потенциал Spacewar!. «Я знал, что, если к этой игре приделать монетоприемник, она принесет сколько-то денег в одном из моих игровых залов», – вспоминал он[407]. Бушнелл не особенно рассчитывал на этом разбогатеть, поскольку компьютеры в то время стоили сотни тысяч долларов. Впрочем, они постоянно дешевели.
В 1972 г., через несколько лет после окончания колледжа, Бушнелл основал компанию Atari Games, по термину, используемому японскими игроками в го и аналогичному шахматному «шах». Первая игра компании, Computer Space, была вдохновлена Spacewar! и представляла собой отдельное устройство в сияющем темно-синем корпусе. Бары закупили несколько тысяч таких автоматов для пьяных посетителей, желающих заменить дартс чем-то более футуристическим, но сложная игра так и не стала популярной. Бушнелл и его коллеги постарались сделать свою следующую игру как можно более простой – и так появился Pong. Двум своим сотрудникам, Стиву Джобсу и Стиву Возняку, Бушнелл поручил разработку однопользовательской версии Pong – ставшей теперь классической игры Breakout.
Параллельно два Стива работали над проектом, которым они надеялись поразить своего босса: домашней компьютерной системой, собранной ими из лишних микропроцессоров. Когда они показали Бушнеллу Apple I, тот был слишком занят, чтобы проявить интерес: Atari выводила на рынок домашние консоли, а Бушнелл вел переговоры о продаже своей компании корпорации Warner Communications. Несколько месяцев спустя его не привлекла идея вложить средства в их стартап под названием Apple – Джобс предложил ему треть акций за 50 000 долларов. (Сегодня эта доля стоила бы около 1 трлн долларов.) В 1977 г., освободившись наконец от всех обязательств перед Atari, Бушнелл смог со всей целеустремленностью заняться своей настоящей мечтой, которая не давала ему покоя с юных лет, когда он работал ярмарочным зазывалой, – сетью семейных игротек-пиццерий Chuck E. Cheese's Pizza Time Theatre («Пиццотеатр мышонка Чака Чиза»). Он верил, что Chuck E. Cheese – его самое грандиозное изобретение, истинный храм хаоса, – станет тем начинанием, которое откроет видеоигры для широкой публики.
Ранее игровые автоматы были прерогативой баров и бильярдных, где вокруг них толпились угрюмые подростки и где, по мнению Бушнелла, их порочило соседство с механическими пип-шоу. Учитывая их первоначальную среду обитания, игровые машины Atari были подчеркнуто простыми и в основном обходились без текста, чтобы в них мог играть «любой пьяница в любом баре»[408]. Поэтому они также идеально подходили для детей, и именно эту аудиторию Бушнелл больше всего хотел привлечь. Сенсорным изобилием Chuck E. Cheese он стремился удовлетворить то, что считал первичной потребностью человека: «Говорите ли вы о летнем солнцестоянии для первобытных людей или о цирках в Риме, во всем всегда присутствовал элемент развлечения»[409]. Бушнелла предал его партнер Роберт Брок, который, сбежав с лучшим инженером по аниматронике, нарушил их соглашение и использовал все то, что он узнал об управлении Pizza Time Theatre, чтобы в 1979 г. основать конкурирующую сеть ShowBiz Pizza Place. Случившийся в 1983 г. крах отрасли видеоигр, вызванный перенасыщением рынка новыми компаниями и посредственными играми, оставил Chuck E. Cheese's Pizza Time Theatre в огромных долгах, а цена ее акций упала на 90% от пика. К 1985 г. ShowBiz Pizza завершила корпоративное поглощение многострадальной мечты Бушнелла, хотя его империя видеоигр и оставила неизгладимый след в истории вычислительной техники и искусственного интеллекта.
Догадка Бушнелла оказалась верной: дети станут главной движущей силой развития рынка видеоигр. Однако каналом массового распространения этой новой технологии стала не сеть пиццерий, а персональные компьютеры и игровые консоли. Пока Бушнелл бился в паутине корпоративных интриг, в 1970-х гг. – во многом благодаря двум Стивам – появились персональные компьютеры, а кроме того, получили распространение более удобные для пользователей языки программирования, такие как бейсик. В 1978 г. бестселлером неожиданно стала книга «Компьютерные игры на бейсике» (BASIC Computer Games), которая знакомила молодое поколение с принципами программирования. Она содержала описание сотни простых игр и инструкции по их запуску. Дети теперь привыкали программировать еще до поступления в колледж. Молодежь, набившая руку в программировании на играх, впоследствии основала важнейшие технологические компании. Одной из самых ранних программ Билла Гейтса была игра в крестики-нолики. Юный Сундар Пичаи разрабатывал шахматный движок; двенадцатилетний Илон Маск написал клон Space Invaders под названием Blastar. Прежде чем стать генеральным директором Salesforce, Марк Бениофф продал Atari свои игровые разработки, включающие Crypt of the Undead («Склеп ходячих мертвецов») и King Arthur's Heir («Наследник короля Артура»). Виталик Бутерин, создавший Ethereum в неполные 20 лет, тоже учился программировать на играх. Видеоигры стали полномочными представителями информатики, привлекшими в разработку миллионы юных игроков.
Потребительский спрос на видеоигры также стимулировал разработку графических процессоров (graphics processing unit, GPU). Для рендеринга все более сложной игровой графики требовались высококачественные дисплеи. В начале 2010-х гг. исследователи осознали, что GPU в сотни раз эффективнее обычных центральных процессоров (Central processing unit, CPU) для обучения нейронных сетей, поскольку они предназначены для параллельной обработки больших массивов данных. Инженеры использовали эту непредвиденную удачу для обучения AlexNet, созданной в 2012 г. программы для маркировки изображений, которая ознаменовала собой переломный момент в технологиях компьютерного зрения. Сейчас считается, что ранние исследования в области ИИ сдерживались скорее техническими ограничениями, чем концептуальными сложностями. Сегодня компании вроде OpenAI исходят из предположения, что интеллект возникнет просто за счет масштабирования обучающих программ благодаря использованию достаточной вычислительной мощности.
Большинство определений интеллекта включают указание на его универсальность: интеллектуальный агент должен хорошо справляться с широким кругом задач. Deep Blue мог победить чемпиона мира по шахматам, но был совершенно не способен играть в гораздо более простые игры, такие как шашки или крестики-нолики. Если инженеры хотели воссоздать интеллект, им нужно было работать над более общими программами, которые были способны к обучению, а не просто следовали заранее сформулированным для них правилам. Видеоигры предлагали более разнообразную учебную программу. В 2012 г. кибернетик Майкл Боулинг и его коллеги выпустили стандартизированный каталог игр Atari в качестве «тренировочной площадки» для обучения программ ИИ[410]. Игры Atari просты, поскольку рассчитаны на ограниченную вычислительную мощность компьютеров своей эпохи. Но их десятки, и каждая требует разных наборов навыков. В Breakout не обойтись без быстрой реакции. В Asteroids игрок должен построить интуитивную модель физики транспортного средства для успешного маневрирования среди астероидов. В Pitfall набрать какие-либо очки можно только после тщательного исследования мира. Удобно и то, что эти видеоигры были специально разработаны так, чтобы люди осваивали их просто в ходе игрового процесса.
В 2013 г. тогда еще никому не известный лондонский стартап DeepMind использовал наработки Боулинга для создания способного к обучению с подкреплением агента, который мог научиться играть в десятки различных игр Atari на уровне, не уступающем человеческому или превосходящем его. Исследователи ставили перед программой задачу наращивать свой рейтинг, а затем направляли в нее поток необработанных изображений игрового интерфейса и оставляли ее обучаться на протяжении тысячелетий ускоренной игры. Программа научилась подбирать правильные стратегии управления своим аватаром без формулирования ее целей в явной форме (вроде фразы «Ты – подводная лодка, похожая на желтый прямоугольник с выпуклостями, которая должна поражать вражеские корабли, похожие на серые прямоугольники с выпуклостями»). Это вызвало возрождение интереса к системам, основанным на обучении. Впоследствии компании начали испытывать свои программы на более сложных видеоиграх вроде Dota и StarCraft II, которые в большей степени приближены к сценариям, встречающимся в реальной жизни.
Игры остаются впечатляющим способом оценки возможностей любой программы. В начале 1980-х гг. аспиранты Шафи Гольдвассер и Сильвио Микали изобрели новую мощную форму математического доказательства, пытаясь придумать не допускающую жульничества партию в покер по телефону. Созданный ими метод, получивший название «интерактивная система доказательства», состоит из двух компонентов: доказывающего и проверяющего. Они обмениваются сообщениями до тех пор, пока проверяющий не будет «убежден» в правильности ответа. Интерактивные доказательства стали основополагающим подходом в информатике и криптографии. Они также являются метафорической сутью того, чего мы надеемся добиться при проверке интеллекта с помощью игр. Традиционные математические доказательства предопределены, каждый новый шаг в них – это вывод, неизбежно вытекающий из предыдущего. Интерактивные же доказательства верны вероятностно. Проверяя утверждение доказывающего снова и снова, проверяющий все больше убеждается в его правоте. В этих терминах можно, например, математически выразить тест Тьюринга. Игры принимают ту же форму: эксперты-люди многократно тестируют играющую в игры компьютерную программу, чтобы убедиться в ее возможностях. Для интеллекта или его механического аналога не существует никакой единой меры. Его оценка будет интерактивной по своей природе – результатом многократного зондирования системы.
Основанные на теории игр программы, использующие стратегию минимакса, были достаточно хороши, чтобы одолеть лучших игроков-людей в нескольких настольных играх, но их мало кто назвал бы осмысленно разумными. Однако игры способствовали развитию самых передовых процессоров и графических интерфейсов, что, в свою очередь, сделало возможным создание более мощных программ и игр. В отсутствие языка, необходимого для точного анализа анатомии мысли, исследователи использовали игры как средство для выражения определенных аспектов интеллекта, таких как планирование и поиск. Они создавали и оценивали обучающиеся системы, используя игры как тренировочную площадку для них. Игры устраняют необходимость в вычурных определениях, сводя сложнейшую философскую проблему к бинарному исходу: победа или поражение. Предполагаемый интеллект программы мог быть проявлен в ее превосходстве над противниками-людьми. Реагируя на ходы другого игрока, она должна была демонстрировать адаптивность и дальновидность. После зарождения теории вероятностей люди начали мечтать о том, чтобы принимать более обоснованные и разумные решения. Теперь компьютеры, казалось, могли помочь нам сориентироваться в изначально невероятно сложном пространстве возможностей, тщательно перечисляя все потенциальные исходы и вычисляя ожидаемую выгоду от них. Однако всем было ясно, что человеческое мышление нисколько не походит на эти замысловатые уравнения, описывающие скольжение по сложному ландшафту минимаксных градиентов.
Игры позволяют легко фиксировать прогресс. Поэтому они идеально подходят для научных групп и коммерческих компаний, желающих предъявлять четкие результаты грантодателям и инвесторам. Но является ли это прогрессом в поисках подлинного интеллекта? Игры ограничены четкими правилами, которых не существует в реальном мире. У них есть границы, которых нет у жизни. Игры были созданы для имитации определенных абстрактных представлений о реальности, но реальность не имитирует игры. Даже случайность в азартных играх упорядочена: игральная кость принимает одно из шести возможных значений, карты – одно из пятидесяти двух. Реальный мир вовсе не так аккуратен. В старинном анекдоте пьяный ищет ключи под уличным фонарем – не потому, что он их там уронил, а потому, что там лучше видно. Он может найти там много чего, но он никогда не найдет там своих ключей. Интуитивно, по умолчанию, овладение играми и набор очков кажутся прогрессом. Но является ли умение играть в игры тем, что действительно имеет значение, или просто тем, что легче всего подсчитать? Интеллект не ограничивается простым поиском по дереву знаний. Системы машинного обучения способны осуществлять поиск в пространствах, где все возможные исходы можно предвидеть – например, противник может сделать в игре лишь определенное число допустимых ходов. Но эти системы не в состоянии уловить беззаконную случайность реального мира, где правила иногда меняются посреди хода, а враг может к чертям разбомбить игровое поле. Следующим номером программы исследователям ИИ предстояло сделать реальность более похожей на игру.