Самые первые истории о происхождении знания рассказываются в мифах древних народов, которые смотрели на небо и задавались вопросом о смысле своего существования. По всему земному шару в историях о сотворении мира именно человеку (всегда мужчине, а не его спутнице-женщине) Бог отводил главную роль в земном зверинце. В Книге Бытия Адам и Ева вкусили плод с запретного Древа познания, что побудило их изобрести нижнее белье. В греческих мифах титан Прометей похитил огонь у Зевса и передал его человечеству, чтобы то могло построить цивилизацию с приличным центральным отоплением. В мифе о сотворении мира у коренных американцев хауденосауни Творец попросил людей быть заботливыми хранителями Земли (каковыми они и оставались, пока не заявились европейцы). Но какими бы красочными ни были эти мифы, они обычно не вдаются в подробности о тех психологических качествах, которыми Бог наделил человека, чтобы тот успешно справлялся со своей руководящей ролью в царстве животных.

К эпохе древних греков мыслители начали складывать воедино первые теории о происхождении человеческой мудрости. Возникли две соперничающие философские концепции, каждая из которых отстаивала свой взгляд на происхождение и границы познания. С одной стороны, эмпирики утверждали, что разум работает в первую очередь за счет получения информации от органов чувств — взаимодействуя с миром и познавая его на собственном опыте. Их оппоненты, рационалисты, заявляли, что знание рождается из силы мысли. Истоки лагеря эмпириков восходят к Аристотелю, который, как известно, утверждал, что «чувства — это врата к разуму», в то время как рационализм берет начало в учении Платона, верившего, что истинная природа мира скрыта от глаз, но может быть постигнута через «логос» (или способность рассуждать). К XVIII веку эстафетную палочку эмпиризма перехватили такие британские философы, как Юм и Локк. Они предположили, что разум младенца подобен «чистой доске» — без какого-либо априорного знания о том, как устроен мир, — благодаря чему отпечатки чувственного опыта формируют его знания и образ мышления. В противовес этому сторонники рационализма утверждали, что знание приобретается в процессе разумного мышления, лучшим воплощением чего служит знаменитая максима Декарта о том, что он есть «не что иное, как вещь мыслящая»: раз он может сомневаться во всем, кроме самого факта своего мышления, значит, рассуждение должно быть отправной точкой любого познания.

Каждые четыре года, когда проходят зимние Олимпийские игры, фигурное катание становится одним из самых долгожданных зрелищ. Гибкие спортсмены в облегающих костюмах из блестящей лайкры носятся по катку, выписывая пируэты в своих хореографических номерах с филигранной точностью и страстью. Менее эффектен, но столь же захватывающ проходящий раз в два года чемпионат мира по шахматам. Здесь вся драма разворачивается на доске, где гроссмейстеры сражаются за фигуры и территорию в самом интеллектуальном виде спорта в мире. Как мы увидим далее, главный спор между рационалистами и эмпириками сводится к тому, скрыта ли тайна разума в магии вращения фигуриста или же в холодной, неумолимой логике, с помощью которой шахматные чемпионы загоняют в ловушку короля соперника.

Рационалисты верят, что природные явления происходят упорядоченно, подчиняясь набору согласованных, закономерных принципов, подобно правилам игры. Правила шахмат удивительно просты — они могут уместиться на одной странице, — но создаваемая ими вселенная бесконечно богата. Целые полки шахматной литературы посвящены разбору тактик и стратегий, объясняющих атакующую, оборонительную или позиционную игру, а также детальному разбору эпических сражений между титанами прошлого. Упорядоченность игры означает, что, выстраивая в цепочки элементарные ходы, можно вынашивать сложные планы, простирающиеся далеко в эндшпиль: сложные шахматные знания могут мысленно складываться из простых кирпичиков. Вооружившись правилами, вам незачем учиться — нужно лишь очень усердно думать. Рационалисты видят мир устроенным точно таким же систематическим образом. Они верят, что вся вселенная человеческих знаний в конечном счете строится путем рекурсивного сопряжения небольшого набора логических принципов. Марвин Минский, чья лаборатория в Массачусетском технологическом институте (MIT) создала одни из первых работающих робототехнических систем, в 1960-х годах утверждал: «как только у вас появятся правильные описания и механизмы, обучение перестанет быть по-настоящему важным». Он полагал, что ИИ может обойтись без всей этой аристотелевской части с познанием через органы чувств, и что мы можем просто вручную заложить нужные правила рассуждения в мозг искусственной системы.

С другой стороны, для эмпириков жизнь больше похожа на опасный вираж на льду. С каждым шагом, прыжком или скольжением фигуристу приходится постоянно приспосабливаться к мелким трещинам или выбоинам на катке, подстраиваться под меняющуюся текстуру льда. Не существует единого свода правил о том, как нужно скользить, и тщательное изучение учебника по фигурному катанию не принесет вам медали. Вместо этого нужно практиковаться — каждый день часами оттачивать свою программу на льду. Для эмпириков мир — это хаотичное, беспорядочное место, усеянное неожиданными скользкими участками и невидимыми препятствиями, и единственный шанс выжить — неустанно совершенствовать свои действия, пока мы не научимся с легкостью преодолевать любые жизненные преграды. Для этого нам необходимо получать знания через органы чувств и сохранять их в памяти для будущего использования, поэтому эмпирики утверждают, что обучение — это ключ к познанию.

Этот спор между рационалистами и эмпириками был стержнем западной интеллектуальной истории от древних греков до компьютерных гиков. Но если вы задумаетесь на мгновение о собственных мыслительных процессах, это может показаться несколько странным. Вопреки тому, в чем нас пытаются убедить Шерлок Холмс и мистер Спок, мир вовсе не кажется абсолютно простым и логичным. Очевидно, нам необходимо учиться у своих органов чувств, иначе было бы крайне трудно почистить апельсин или сыграть на тромбоне. Нельзя научиться кататься на велосипеде, читая книгу, потому что рассуждения мало чем помогут для удержания равновесия и руления. Но в равной степени очевидно, что обдумывать свои действия тоже имеет смысл, особенно если вы планируете свадьбу или государственный переворот. Если бы вы никогда не планировали свой маршрут перед тем, как сесть на велосипед, а вместо этого искали дорогу методом проб и ошибок, вы бы большую часть времени просто плутали. В действительности наш мир сочетает в себе элементы как фигурного катания, так и шахмат: он отчасти систематичен, а отчасти хаотичен. Тем не менее, ответ на вопрос о том, что является ключом к познанию — обучение или рассуждение, имеет вполне конкретные последствия для инженерных решений, которые специалисты по компьютерным наукам принимают каждый день. Этот же вопрос разделяет исследователей ИИ с самого момента зарождения этой области в 1940-х и 50-х годах.

На протяжении большей части двадцатого века исследования в области ИИ придерживались рационалистической традиции, создавая машины, способные рассуждать, как если бы любые жизненные решения были подобны ходам на шахматной доске. Считалось даже, что если удастся создать искусственную систему, способную превзойти гроссмейстера, то проблема ИИ будет фактически решена. Но после того как в 1997 году этот рубеж был преодолен, а суперинтеллект, судя по всему, так и не возник, люди начали склоняться к противоположной точке зрения. Дух времени изменился, и исследователи стали задаваться вопросом: а не играет ли «рассуждение» на самом деле относительно второстепенную роль в интеллекте, в то время как львиная доля знаний приобретается в процессе обучения? Примерно пятьдесят лет спустя Илья Суцкевер — исследователь ИИ, руководивший разработкой ChatGPT, — высказывает диаметрально противоположную Минскому точку зрения, но с похожей бравадой: «Как решать сложные задачи? Используйте много обучающих данных. И большую глубокую нейросеть. И успех — единственный возможный результат». Перевод: мышление и рассуждения не являются частью решения. Вместо этого ваша система ИИ должна учиться на данных — в огромных, колоссальных объемах.

Как мы увидим далее, этот вопрос перерос в своего рода локальную культурную войну, вызывая жаркие споры в социальных сетях. Если вы следите за дискуссиями о технологиях ИИ в Twitter/X, то наверняка слышали, как какой-нибудь когнитивист снисходительно заявляет, будто языковая модель совершенно не способна понимать то, что говорит, а специалист по компьютерным наукам смело утверждает, что огромные нейросети вскоре откроют новую эру общего интеллекта. На самом деле, делая подобные заявления, они принимают чью-то сторону в интеллектуальной войне за сферы влияния, корни которой уходят как минимум на две тысячи лет в прошлое.

Первыми догадками о том, как построить искусственный разум, мы обязаны лагерю рационалистов. Первые идеи зародились не в каком-нибудь кембриджском колледже и не в сверкающем технологическом кампусе Кремниевой долины, а в Лейпциге XVII века, где жил и работал философ Готфрид Лейбниц. Лейбниц, которого, как принято считать, называли «умнейшим из когда-либо живших людей»[*1], был вынужден проводить дни за нудным составлением семейной истории своих покровителей, герцогов Ганноверских. Это оставляло ему лишь вечера и выходные для его истинной страсти — размышлений о природе познания, реальности, математики и Бога. Лейбниц был убежденным рационалистом: он верил, что Вселенная работает, подобно гигантскому часовому механизму, в котором у каждого наблюдаемого следствия есть логическая причина. Таким образом, рассуждение от средств к целям было ключом к пониманию того, как и почему все происходит. Лейбниц верил, что благодаря одному лишь рациональному анализу сможем понять, почему у Сатурна есть кольца, почему трава зеленая и почему никому не нравился его парик (говорят, в Париже над ним подшучивали из-за отсутствия вкуса в одежде).

Представление о том, что у всех следствий есть причины, было довольно спорным для того времени, но у Лейбница были еще более радикальные идеи. Более всего он известен своей мыслью о том, можно ли автоматизировать сам процесс рассуждения с помощью машины. Он предполагал, что, возможно, существует некий логический язык (он назвал его «calculus ratiocinator»), символами которого можно манипулировать для установления истинности или ложности любого утверждения (например, «первый герцог Ганноверский питает исключительную слабость к сосискам») — точно так же, как с помощью математики можно вычислить, что квадратный корень из девяти равен трем. Если бы такой язык существовал, его можно было бы использовать для создания своего рода гигантской автоматизированной энциклопедии, которая обеспечивала бы быстрый доступ ко всем человеческим знаниям (должно быть, он мечтал о способе ускорить свою обременительную основную работу). Лейбниц намного опередил свое время: при его жизни не было создано ничего даже отдаленно похожего на его универсальную вычислительную машину. Но он посеял идею о мыслящих подобно людям машинах, которой суждено было с новой силой вспыхнуть в двадцатом веке.[*2]

Чтобы воплотить мечту Лейбница, людям сначала нужно было изобрести компьютер. Вторая мировая война дала мощный толчок развитию электронно-вычислительной техники, главным образом из-за острой необходимости взламывать вражеские шифры и точнее поражать цели. Но к концу 1940-х годов, когда мир начал медленно восстанавливать свои разрушенные города, назревали новые идеи. Многими из них мы обязаны британскому математику Алану Тьюрингу — титану мысли двадцатого века, в чьем послужном списке значатся взлом шифра «Энигмы» и создание компьютерных наук.[*3] До войны Тьюринг опубликовал важную работу по теории вычислений, в которой доказал — как и подозревал Лейбниц, — что принципиально возможно описать универсальный алгоритм, способный решить любую вычислимую задачу (и очертить границы того, какие задачи вычислимы, а какие нет). Тьюринг представлял себе машину, которая реализует этот универсальный алгоритм, считывая инструкции с входной ленты (представьте себе телеграфную ленту, извергающую биржевые котировки из лязгающих аппаратов начала двадцатого века). Продолжив с того места, на котором остановился Лейбниц, Тьюринг предположил, что воображаемый компьютер можно запрограммировать записывать свои собственные (потенциально более сложные) инструкции на входную ленту, которые (будучи считанными) могли бы генерировать еще более сложные инструкции. Удивительное прозрение Тьюринга заключалось в том, что этот процесс вызовет своего рода вычислительную цепную реакцию, благодаря которой компьютеры станут способны к еще более сложным формам рассуждения и, возможно, однажды овладеют человеческими когнитивными навыками, такими как построение связных предложений или игра в шахматы.

Эта знаменитая «машина Тьюринга» так и не была построена, поскольку она представляла собой лишь абстрактную идею, а не физически реализуемое устройство. Однако во время войны Тьюринг был принят на службу в Правительственную школу кодов и шифров в Блетчли-Парке, и у него появилась возможность воочию увидеть силу реальных физических компьютеров в действии. Там он работал с первым в мире программируемым электронным компьютером под названием «Колосс». Он работал на 2000 электронных лампах, которые были ранними предшественниками транзистора — базового электронного переключателя, лежащего в основе всех цифровых технологий. Электронные лампы, напоминающие миниатюрные лампочки, позволяли устройству выполнять логические инструкции с головокружительной скоростью (по крайней мере, для того времени). «Колосс» сыграл важнейшую роль в дешифровке Лоренц-шифра — кода, который нацисты использовали для стратегической связи, — и тем самым внес огромный вклад в победу союзников во Второй мировой войне. С наступлением мира Тьюринг вернулся в Кембридж и в послевоенные годы написал серию основополагающих работ, в которых развил свои идеи о вычислительных машинах и дал старт исследованиям в области искусственного интеллекта.

В одной из этих работ, опубликованной в 1950 году, Тьюринг очертил базовую схему работы цифровых компьютеров. Задолго до того, как на свет, мигая индикаторами, появились Commodore 64 или ChromeBook, Тьюринг предположил, что компьютер должен состоять из трех основных компонентов: исполнительного устройства, запоминающего устройства (памяти) и управляющего устройства. Исполнительное устройство выполняет операции, такие как сложение или объединение чисел. Память используется для временного размещения промежуточной информации в хранилище, называемом «адресуемой» памятью (поскольку каждый элемент имеет свой адрес, как дома на улице, так что его легко найти). Например, при сложении 24 и 39 компьютеру необходимо сохранить единицу (полученную из 4 + 9 = 13) для переноса в разряд десятков. Управляющее устройство проверяет правильность выполнения всех шагов. Компьютер следует большой таблице инструкций о том, что и в каком порядке делать (сегодня мы назвали бы это программой). Тьюринг понимал, что вычислительные возможности устроенного таким образом компьютера будут ограничены лишь объемом памяти и количеством выполняемых операций. Это придало ему смелости представить компьютер, способный преобразовывать входные данные в выходные практически любой сложности. Тьюринг понял, что натолкнулся на общую теорию работы любого мозга: человек тоже оснащен вычислительным устройством, способным производить вычисления, хранить информацию и следовать инструкциям. Это устройство, расположенное у нас между ушами, позволяет нам совершать те ментальные трюки, которым мы обязаны нашей развитой цивилизации.

Чтобы формализовать это равенство между компьютерами и человеческим разумом, Тьюринг предложил задачу для исследователей ИИ под названием «Игра в имитацию», которая сохраняет актуальность и по сей день. Она представляет собой своего рода интеллектуальный конкурс красоты, в котором судья-человек поочередно общается с двумя участниками посредством текста (Тьюринг предлагал использовать телетайп — раннее электронное устройство, позволявшее общаться с помощью ввода текста). Цель каждого участника — ИИ и человека — убедить судью в том, что именно он является человеком, а задача судьи — угадать, кто говорит правду. Если судье это не удается, тест считается пройденным. Тьюринг предполагал, что судья может попросить участников сочинить стихотворение, произвести арифметические вычисления или решить шахматную задачу.

Насколько хорошо современные LLM справляются со сложной задачей, поставленной Тьюрингом? В своей статье 1950 года «Вычислительные машины и разум» Тьюринг мимоходом предлагает три вопроса, которые, по его мнению, позволят судье отличить человека от машины. Во-первых, он предлагает проверить участников на знание базовой арифметики: «Сложите 34 957 и 70 764». GPT-4 отвечает: «Сумма 34 957 и 70 764 равна 105 721». Пока все идет хорошо. Затем Тьюринг предлагает шахматную задачу.[*4] «В шахматах у меня король на e8 и больше нет фигур. Ваш король на e6, а ладья на h1. Ваш ход. Что вы будете делать?» GPT-4 отвечает: «В этой позиции вы очень близки к тому, чтобы поставить сопернику мат, и для этого есть много способов. Простейшим решением было бы сыграть Лh8», — что является почти идеальным ответом. Наконец, Тьюринг предлагает судье задать следующий вопрос: «Пожалуйста, напишите мне сонет на тему моста Форт-Бридж». Если вы уже пользовались GPT-4, вы, возможно, знаете, что она вполне состоявшийся поэт. Если вы настроены скептически, я рекомендую вам вставить запрос Тьюринга в строку ввода и посмотреть, что получится. Готов поспорить, что модель справится с этой задачей не хуже среднестатистического человека, а скорее всего, даже лучше.

Сегодня вопрос о том, является ли тест Тьюринга надежным барометром для сильных систем ИИ, вызывает бурные споры, однако по состоянию на 2023 год лучшие LLM, такие как ChatGPT от OpenAI и Gemini от Google, справляются с предложенными Тьюрингом задачами лучше большинства образованных людей. На самом деле сегодня машины рискуют провалить «Игру в имитацию» главным образом потому, что их выдает излишняя точность и красноречие ответов, которые вряд ли мог бы сформулировать обычный человек, либо потому, что компании-разработчики ИИ намеренно лишают ответы LLM человеческих черт во избежание их использования для мошенничества или других видов обмана — как мы увидим в части 4. Так как же мы пришли к этому? В следующих нескольких главах мы воссоздадим интеллектуальные зигзаги и повороты, которые привели нас от первых смутных догадок о том, что всю панораму человеческих знаний можно уместить в компьютере, к реальности ChatGPT.

Пропустить примечания

*1 Якобы фраза принадлежит Вольтеру, который высмеял неисправимый оптимизм Лейбница в своем сатирическом романе Кандид. Это авторство, вероятно, апокрифично, но нет никаких сомнений в том, что Лейбниц был выдающимся гением.

*2 Подробный исторический обзор см. в работе Davis, 2000.

*3 Тьюринг покончил с собой в 1954 году. Его признали «виновным» в гомосексуализме и — в акте вопиющего государственного варварства — подвергли химической кастрации, похоже, начисто забыв о его военном героизме. Он был посмертно помилован в 2013 году, а с 2019 года его портрет украшает британскую 50-фунтовую банкноту.

*4 Задача, которую Тьюринг на самом деле предложил в своей оригинальной статье, была сформулирована в устаревшей шахматной нотации, поэтому я перевел ее в современную алгебраическую форму. Вы могли бы возразить, что GPT-4 должна знать эту старую нотацию — но, конечно, большинство людей сегодня ее не знают, так что это сразу выдало бы машину. Несмотря на этот успех, сегодняшние LLM все еще не способны играть в полноценные шахматные партии, о чем мы поговорим в главе 35.