Каждый из нас имеет базовое представление о том, как устроен физический мир. В школе мы изучаем физику и химию, что позволяет нам объяснять происходящее вокруг с помощью таких понятий, как сила, ускорение и гравитация, — Законов природы. Однако мы не обладаем такой же легкостью в обращении с понятиями, необходимыми для понимания мира внутри нас, — Законов мышления. Вы наверняка слышали о всемирном законе тяготения Ньютона. Но вполне возможно, что вы никогда не слышали об универсальном законе обобщения Шепарда — простом принципе, который описывает поведение любого разумного организма в любой точке Вселенной. И если история о том, как математика помогла раскрыть тайны внешнего мира, знакома каждому, кто хоть немного интересовался наукой, то история её применения для изучения нашего внутреннего мира остается практически неизвестной. Эта книга призвана её рассказать.
Чуть более трехсот лет назад небольшая группа философов и математиков начала связывать воедино нити, из которых соткана современная наука. Они развили в себе острую наблюдательность, талант к проведению экспериментов и создали новый набор инструментов для выражения математических теорий. В последующие века наблюдения, эксперименты и математика объединились, позволяя со все большей точностью описывать как мельчайшие, так и величайшие объекты физической Вселенной. Однако этих философов и математиков интересовала не только физическая Вселенная. Их привлекал и разум, и они хотели использовать те же математические инструменты для его изучения. Томас Гоббс писал о возможности понимать «рассуждение» как «вычисление», задаваясь вопросом, можем ли мы представить сложение и вычитание мыслей. Рене Декарт воображал, как мыслям присваиваются числа — точно так же, как они присваиваются группам физических объектов. Готфрид Вильгельм Лейбниц посвятил жизнь попыткам — в конечном счете безуспешным — найти способ применить арифметику для описания человеческого разума.
Первый успех в использовании математики для анализа мышления пришел лишь в середине девятнадцатого века, когда Джордж Буль решил задачу, оказавшуюся не под силу Лейбницу, создав новый вид алгебры. Этот первый триумф имел далеко идущие последствия, приведшие к развитию формальной логики и компьютеров. Первые же попытки оценить математические теории мышления путем сопоставления их с поведением человека появились лишь в середине двадцатого века, в ходе Когнитивной революции, которая положила начало когнитивной науке — междисциплинарной науке о разуме. С тех пор когнитивисты осознали ограниченность формальной логики как модели человеческого познания и разработали совершенно новые математические подходы: искусственные нейронные сети, демонстрирующие силу непрерывных репрезентаций и статистического обучения, и байесовские модели, показывающие, как учитывать априорные знания и справляться с неопределенностью. Каждому из этих подходов есть что предложить для понимания работы разума.
В двадцать первом веке знание Законов мышления так же важно для научной грамотности, как и знание Законов природы. Системы искусственного интеллекта ежедневно доказывают, что машины способны имитировать все новые аспекты мышления и языка, заставляя нас переосмыслить то, как мы воспринимаем самих себя. Понимание человеческого разума и того, в какой степени он поддается автоматизации, становится критически важным, когда мы планируем карьеру и размышляем о мире, в котором предстоит жить нашим детям. К концу этой книги вы будете знать основные принципы работы современных систем искусственного интеллекта и точно поймете, в каких областях они, скорее всего, по-прежнему будут уступать человеческим способностям.
Термин «Законы мышления» пришел к нам из девятнадцатого века: именно так ученые вроде Джорджа Буля называли математические принципы, описывающие работу разума. В этой книге мы вместе совершим путешествие сквозь три столетия научных поисков, которые позволили открыть некоторые из этих принципов.
Между изучением внешнего и внутреннего миров есть существенные различия. В отличие от физики, когнитивная наука еще не пришла к единому, общепринятому описанию своего предмета, с которым согласился бы каждый ученый. Собственно говоря, именно это отсутствие консенсуса и подтолкнуло меня к тому, чтобы стать когнитивистом. Когда я учился в старших классах школы (в Австралии в 1990-х годах), физику и химию преподавали как набор формул, которые нужно применять в конкретных ситуациях. Мне нравилась сама идея того, что математику можно использовать подобным образом, но казалось, будто большинство вопросов, которые мы могли бы задать о физическом мире, уже решены. Поэтому, когда пришло время выбирать специальность в университете, я остановился на областях, которые все еще казались по-настоящему загадочными, и стал изучать философию, психологию, антропологию и древнюю мифологию. Философия может показаться белой вороной среди всех этих «-логий», но однажды лето, прочитав главу в самом конце одной из моих книг по философии, я познакомился с концепцией искусственных нейронных сетей — математических систем, имитирующих работу мозга. Я был поражен: оказывается, с помощью математики можно понять разум! Остаток лета я провел, жадно изучая все, что мог найти по этой теме, и рисуя безумные схемы гигантских нейросетей (если для этого киношного «монтажа тренировок» нужен саундтрек, то аккомпанементом того лета служила музыка группы Smashing Pumpkins). В первый же день семестра я зажал в углу профессора, чьи исследования казались наиболее близкими к теме, и спросил, могу ли я работать в его лаборатории. Не знаю, было ли это со стороны профессора мудрым решением или просто инстинктом самосохранения, но он ответил «да». Дальше я продолжил изучать математику и разум в аспирантуре Стэнфорда (добавьте Филипа Гласса в саундтрек) и MIT (The Shins), прежде чем стать профессором в Брауновском университете (The Decemberists), Беркли (Зои Китинг), а теперь — в Принстоне (где мои дочери слушают очень много Тейлор Свифт).
И загадки никуда не делись: когнитивисты до сих пор не пришли к единому мнению относительно того, как устроен разум. Вместо этого мы разработали несколько теоретических подходов, каждый из которых описывает важные аспекты человеческого познания. Однако за последние несколько лет выводы, полученные в рамках этих разных подходов, начали складываться в более полную картину. После трехсот лет упорных усилий мы, возможно, наконец-то сможем наметить контуры Законов мышления.
Когнитивисты сталкиваются с уникальной проблемой: как применить научные методы к мышлению — чему-то такому, что нельзя ни увидеть, ни потрогать? У психологов первой половины двадцатого века было решение этой проблемы: никак. Вместо этого они применяли научные методы к тому, что мы можем увидеть и потрогать, а именно к внешнему поведению и стимулам окружающей среды, которые его вызывают. Господствующее теоретическое направление, бихевиоризм, утверждало, что строгая наука о разуме вообще не должна упоминать разум.
В 1950-х годах исследователи вернулись к мысли, которая когда-то впервые пришла в голову Гоббсу, Декарту и Лейбницу. Они поняли, что к науке о разуме можно подойти иначе, используя те же методы, с помощью которых физики строят теории о недоступных прямому наблюдению сущностях: математические теории, дающие точные предсказания о наблюдаемых явлениях. Формальная логика наглядно показала, как простая система правил и символов способна описывать сложное, разумное поведение, а недавнее появление цифровых компьютеров продемонстрировало всю силу этой идеи. Важнейшей частью когнитивной революции стало осознание того, что математика дает возможность строго формулировать гипотезы о разуме, которые затем можно проверить на поведении людей.
Первый теоретический подход к созданию математических моделей познания позаимствовал идеи логики и применил их к широкому спектру когнитивных задач: рассуждению, категоризации, решению проблем и языку. В некотором смысле язык стал лучшим примером эффективности такого подхода: Ноам Хомский показал, как с помощью простых формальных грамматик можно генерировать сложные предложения, и использовал суждения, которые мог вынести любой носитель английского языка, чтобы обосновать выбор одного типа грамматики перед другим. Способность порождать бесконечное множество вариантов поведения на основе конечного набора правил выглядела убедительно, как и возможность описывать структуры — иерархии и комбинации, — которые кажутся ключевыми для разумного поведения. Главным стал вопрос: «Каковы же правила, лежащие в основе человеческого познания?»
Однако у этого подхода обнаружились и серьезные недостатки. Человеческое мышление кажется более расплывчатым, чем того требует логика (Является ли лампа мебелью? Относится ли оливка к фруктам?), а усвоение сложных систем правил оказалось настолько трудным делом, что некоторые исследователи (включая Хомского) стали утверждать, будто это почти невозможно. Это подтолкнуло к разработке второго теоретического подхода, в котором объекты наших мыслей представляются в виде точек в психологическом пространстве, меняющихся по непрерывным измерениям. Полученные математические модели могли учитывать расплывчатость понятий, но преобразование точек в пространстве в сложное поведение требовало принципиально нового типа вычислений. Исследования семантических сетей в психологии пересеклись с работами по искусственным нейронным сетям в компьютерных науках, что привело к созданию новой модели разума.
Искусственные нейронные сети сочетают в себе непрерывные репрезентации с мощными универсальными методами обучения на основе данных. Этот подход позволял улавливать многие закономерности, которые ранее заставляли исследователей отдавать предпочтение языковым моделям на основе правил, но при этом отпадала необходимость постулировать, что люди используют какие-то явные правила. Кроме того, он решал проблему обучения: при наличии достаточного объема данных нейросеть потенциально могла научиться чему угодно. Искусственные нейронные сети лежат в основе современного искусственного интеллекта — от систем вроде AlphaGo, умеющих обучаться играм, до систем вроде ChatGPT, способных вести (по большей части) содержательные беседы. При таком подходе главным вопросом стал следующий: «Какую часть человеческого познания мы можем объяснить исключительно на основе входных данных?»
Слабое место искусственных нейросетей заключается в том, что способность научиться чему угодно имеет свою цену: для обучения может потребоваться колоссальный объем данных. В отличие от этого, способность учиться на малом количестве данных — одна из ключевых характеристик человеческого интеллекта: ребенок может запомнить новое слово, услышав его всего один раз. Байесовские модели познания — наш третий теоретический подход — предлагают способ понять этот феномен. Опираясь на принцип, восходящий к восемнадцатому веку, — правило Байеса, — мы можем описать, к какому выводу должен прийти рациональный агент на основе данных при различных предположениях о предустановках, которые этот агент привносит в решение задачи. Байесовские модели познания также позволяют объединить логические правила со статистическим обучением, демонстрируемым нейросетями, давая нам новые инструменты для ответа на вопрос о том, как формируется сложное разумное поведение. Этот подход ставит перед нами новый вопрос: «Как мы можем охарактеризовать предустановки человека в процессе обучения?»
Эти три подхода — правила и символы, нейросети и байесовские модели — предлагают взаимодополняющие точки зрения на разум. Каждый подход опирается на свой раздел математики, который в конечном счете окажется критически важным для понимания Законов мышления. В оставшейся части книги мы поочередно исследуем каждый из них. Я объясню ключевые идеи, те глубокие выводы, которые они позволяют сделать, и те трудности, с которыми они сталкиваются, — причем именно эти трудности будут приводить нас к следующему подходу. Я затрону не только математику, но и саму науку — остроумные эксперименты, с помощью которых эти модели сопоставлялись с реальным поведением людей. И я покажу, как эти три разных подхода должны объединиться, чтобы дать нам более полное представление о человеческом познании.
Попутно я буду указывать на некоторые различия между человеческим разумом и современными системами ИИ. Хотя мы и создали машины, способные решать все более широкий спектр задач, для этого им требуются колоссальные объемы данных. Понимая, как люди учатся на малом количестве данных, мы сможем увидеть, чего именно не хватает этим машинам — что по-прежнему остается уникально человеческим.
Итак, начнем…