Человек играет только тогда, когда он в полном значении слова человек, и он бывает вполне человеком лишь тогда, когда играет[530][531].

В своем рассказе «О строгой науке» Хорхе Луис Борхес описывает империю, географы которой довели искусство картографии до совершенства[532]. Они создали карту настолько подробную, что она в точности совпадает по размерам с самой территорией. Карта растет и ужимается по мере расширения и распада империи в результате военных походов и поражений. Когда последующие поколения приходят к пониманию бесполезности этой карты, ее оставляют истлевать в клочья под открытым небом. В начале 1980-х гг. философ Жан Бодрийяр заявил, что в современной жизни все обстоит наоборот. Мы все в большей степени обитаем на наших картах реальности, а не в самой реальности. На смену территории пришли многослойные нагромождения абстракций: суверенные нации, государства, регионы, частная собственность, купчие, ипотечные кредиты, облигации с ипотечным покрытием, кредитные дефолтные свопы на них и т. д. «Теперь клочья территории медленно тлели бы на пространстве карты»[533], – писал Бодрийяр[534].

Это вдвойне верно в отношении игр, лежащих в основе столь многих наших технологий. Игры – это особенно опасная фикция, поскольку они определяют поступки и решения своих игроков. Игры подобны картам, которые перекраивают мир по своему образу и подобию. Правила и вознаграждения в игре диктуют поведение ее участников. Игра способна подменять подлинные предпочтения людей теми, что поощряются ее системой подсчета очков. С помощью игр можно даже наделять иллюзией намерения лишенные сознания компьютерные программы. Эти программы, по сути, являются математическими функциями, однако может создаваться впечатление, будто они говорят, хотят и действуют так, как предусмотрено их авторами, – просто потому, что перед ними поставлена задача максимизации некоей желаемой величины. Люди, в отличие от этих математических функций, – нечто гораздо бо́льшее, чем просто оптимизаторы вознаграждения. И все же мы поддаемся влиянию игр. Теория игр не слишком хорошая модель для описания людей, однако она достаточно хороша, чтобы грозить нам неприятностями.

Теория игр, говорили нам, поможет решать насущные коллективные проблемы вроде распространения ядерного оружия, изменения климата и вспышек пандемий. Эти посулы укладывались в фантастические представления о том, что разум – продукт биологии – работает упорядоченно и поддается строгому математическому анализу. Если направить наши усилия в нужное русло, мы, как казалось, можем усовершенствовать человеческую природу и сделать наше мышление более четким. Но люди не просто игроки, действующие ради максимизации заранее определенных предпочтений. То, что экономисты долгое время определяли как искажения в поведении человека, на самом деле не изъяны в вычислительных способностях нашего мозга. Во многих случаях это и есть сами вычислительные способности. Люди усваивают информацию неидеальным способом, и экономистам необходимо всерьез считаться с этой реальностью. Понятие когнитивного искажения особенно опасно тем, что как бы намекает: человек не способен надежно приходить к решениям, которые соответствуют его собственным интересам. В результате экономисты, технологи и политики порой считают оправданным подменять выбор людей своим собственным.

Мало того, теория игр должна была полностью автоматизировать процесс принятия решений: мы бы просто следовали указаниям ее синтетической рациональности. Эта перспектива казалась соблазнительной в эпоху ядерной дипломатии, когда решения нескольких человек могли погубить весь мир. Никто не был бы виноват, если бы модели потерпели неудачу, ведь они просто подчинялись бы неумолимой логике ситуации. Они действовали бы рационально. Но как бы выглядел наш мир, если бы больше облеченных властью людей не боялись брать на себя ответственность за свои решения? Что, если бы право принимать решения не было сосредоточено в руках столь немногих? Что, если бы больше систем работало на основе подлинно демократических практик, а не подменяло выбор людей моделями этого выбора?

Теорию игр использовали как прикрытие для ни на чем не основанных и порой вредных идеологий, которые часто ошибочно выдавались за объективную истину. Ни игры, ни какие-либо модели не бывают по-настоящему нейтральными в отношении своих ценностей. Некоторые важные понятия теории игр обрели широкую популярность благодаря умелому маркетингу. Агенты в теории игр – «рациональные», а не «алчные». Экономические излишки переименовываются в «общественное благосостояние». «Когнитивные искажения» порождаются несовершенством людей, а не их экономическими моделями. Постулаты теории игр брались на вооружение корпорациями для оправдания политики, направленной против профсоюзов и госрегулирования, для манипулирования общественным мнением и для рационализации повсеместной эксплуатации. В том виде, в каком она обычно используется, теория игр исходит из допущения, что игроки целенаправленно максимизируют некое измеримое вознаграждение. Десятилетиями экономисты утверждали, что рост ВВП излечит все общественные недуги. Но, судя по многим социологическим показателям – продолжительности жизни, уровню самоубийств, распространенности наркомании и алкоголизма, положение американцев отнюдь не улучшилось. Безудержная максимизация – это логика раковой опухоли, а не здорового организма. Внедрение теории игр в реальные системы привело к тому, что мы исподволь отказались от этики. В таких системах все, что не поддается количественной оценке, попросту перестает быть видимым.

Если бы теория игр была полноценным описанием человеческой агентности, ее агенты не были бы беспомощными перед своими желаниями. Они могли бы менять свое мнение и ставить себе новые цели. Но теория игр – это не описание человеческого поведения. Она не раскрыла и не может раскрыть, чего на самом деле хотят люди. Сосредоточенность теории игр на принятии индивидуальных решений отвлекает от более масштабных социальных, политических и исторических факторов, которые определяют поведение человека. В ходе эволюции игра возникла как форма обучения и способ укрепления социальных связей. Ради математической простоты специалисты по теории игр часто исключают из рассмотрения нашу социальную природу, а также тот факт, что мы учимся желать того или иного друг у друга и под влиянием обстоятельств. Мы всегда должны осознавать, каким образом игры, закодированные в наших социальных и технологических системах, искажают наши предпочтения, навязывают нам желания, отравляют наше отношение друг к другу и в конечном итоге влияют на наш жизненный выбор.

Экономисты высоко ставят стимулы, видя в них двигатель инноваций, но упускают из виду, что сам по себе игровой процесс тоже мощный внутренний мотив. Помимо денег, человека стимулирует многое: радость первооткрывательства, ощущение созидательного труда, чувство безопасности, стабильность семейной жизни, общение с коллегами. Настоящие люди не так скованы в своих действиях, как игроки в моделях. В шахматной вселенной агентность игрока ограничена разрешенными ходами. Но истинная агентность зиждется на свободной игривости. Настоящий агент может изобретать новые ходы, новые правила, даже совершенно новые игры. В разгар игры он может понять, что хочет чего-то иного, чем предполагал сначала, и соответствующим образом изменить свою стратегию. Люди меняются. Даже игры меняются – современные шахматы сильно отличаются от своего древнего аналога. Нам нужны модели, которые лучше отражают эту реальность.

Хотя теория игр не идеальный микроскоп для препарирования человеческого поведения, исследователям, возможно, больше повезет, если они начнут использовать сами игры. В романе Орсона Скотта Карда «Игра Эндера» офицеры исследуют психологию своих подопечных с помощью иммерсивной «игры воображения»[535]. Продвинутый искусственный интеллект этой программы реагирует на уникальный выбор игрока, в зависимости от его реакций предлагая ему персонализированные исходы и способы взаимодействия с персонажами. Используя автоматически генерируемые сценарии, программа подталкивает пользователя к интеллектуальным и эмоциональным прорывам. Сейчас работающие с ИИ игровые компании надеются воплотить эту вымышленную технологию в реальность.

Игры произведут переворот в технологиях обучения: они прекрасная модель того, как мы учимся естественным образом. Игроки делают выбор и испытывают его последствия, приобретая знания из первых рук, а не теоретически. Разработчики игр и новаторских пользовательских интерфейсов, таких как Dynamicland Брета Виктора, задействуют инстинктивные подходы человека к обучению для создания революционных форм медиа. Вместо того чтобы требовать от людей подстраиваться под неуклюжие когнитивные системы, например громоздкие языки программирования, мы можем создавать программные интерфейсы, которые более естественно сочетаются с нашим процессом познания и способствуют появлению новых типов мышления.

Видеоигры в наши дни совершенны как никогда. Некоторые энтузиасты предрекают, что они даже сгладят тоскливую рутину современного офиса и смягчат одиночество, терзающее столь многих из нас. Другие беспокоятся, что генеративный ИИ приведет к появлению еще более затягивающих и иммерсивных развлечений. Игры могут перестать быть коллективными пространствами и вместо этого обернутся индивидуальными мирами, подогнанными под каждого игрока и расколотыми по восьми миллиардам линий разлома. Игры, возможно, будут писаться на лету, адаптивно перестраиваясь во взаимодействии с интересами и настроениями игроков. Текстовые программы будут порождать адресные повествования. Программы генеративного искусства будут изобретать среды обитания, точно подогнанные под эстетические предпочтения каждого пользователя. Дизайнеру-человеку останется лишь протирать зеркала в салонах этих машин солипсизма.

Однако такие игры будут полупрозрачными зеркалами. Игры можно использовать для сбора огромных массивов сведений о поведении человека – ценнейшего ресурса для жадных до данных современных технологов. Программы могут применяться для определения внутреннего состояния игроков по их решениям и физиологическим показателям. Раньше ученые использовали для изучения предпочтений пользователей такие зашумленные данные, как соотношение кликов и показов или закономерности покупательской активности, но новые технологии виртуальной реальности и носимые устройства открывают невиданные прежде возможности для слежки. Компании будут собирать данные о движениях глаз, частоте пульса, электропроводности кожи, выражении лица, осанке и походке. Методики, которые когда-то были доступны только для лучших психологических лабораторий, теперь могут в промышленных масштабах применяться частными корпорациями. Анализу будет подвергаться почти каждый аспект входящего сенсорного и исходящего физиологического потоков любого пользователя. Открыто декларируемая цель надзорного капитализма – удерживать внутри системы как можно больше количественно оцениваемого контента. Аналогичным образом, открыто декларируемая цель метавселенной – превратить как можно бо́льшую часть жизни в игру. Потенциальные решения будут предлагаться самой системой и существовать исключительно внутри ее. Карта территории разрастется до размеров самой территории. Но она все равно не станет территорией. Игры самодостаточны и основаны на правилах, чего нельзя сказать о реальности. Нам не стоит обменивать свою самостоятельность на возможность развлечься.

Тысячелетиями люди стремились прояснить свое мышление в процессе игры. Мудрецы приспосабливали игры для выведения принципов познания, морали, торговли и военной стратегии. Безусловно, в осознании того, какие игры мы для себя создали и как целенаправленно создавать игры получше, есть огромные преимущества. Однако, изобретая системы, построенные на функциях алчной максимизации, мы создали новых чудовищ, которых теперь нам предстоит сразить. Проблема не в том, что когда-то в будущем появится максимизирующий объемы производства скрепок ИИ, который превратит всю Вселенную в эти самые скрепки. Максимизаторы уже здесь. Любые с трудом поддающиеся измерению последствия – экологические издержки, гражданские раздоры, испорченные дипломатические отношения – просто не учитываются при подсчете очков. Хищнический коммерческий интерес ради собственной прибыли пожирает приносящие пользу компании, а из работников и потребителей безжалостно выжимаются все соки. Военные стратеги задвигают мораль на второй план ради убедительного бравирования. Сторонники расового превосходства ошибочно принимают эволюцию за оптимизацию. Интернет-платформы максимизируют внимание своих пользователей. Эти функции уже встроены в наши социальные системы и культурные представления. Они запрограммированы побеждать любой ценой.