Раздается дверной звонок. Вы открываете дверь и видите мужчину и женщину в деловых костюмах с серьезными лицами. Они протягивают вам телефонную трубку, и голос президента Соединенных Штатов сообщает, что ваша помощь необходима в сверхсекретном проекте. Агенты в костюмах сопровождают вас в местный университет, где вы проходите через несколько контрольно-пропускных пунктов и оказываетесь перед запертой охраняемой комнатой. Внутри вы встречаете коллегу-ученого, который объясняет суть дела: на археологических раскопках обнаружили загадочный объект. Объект имеет приблизительно сферическую форму, около шести дюймов в поперечнике, и, судя по всему, появился около ста тысяч лет назад. Никто толком не знает, что это такое, но ничего подобного они прежде не видели. По результатам предварительных исследований кажется, что это устройство для обработки информации: когда в определенные точки («входы») подается электрическая стимуляция, она вызывает различные паттерны электрической активности в других точках («выходах»). Ваша задача — понять, как устроен этот объект, и в вашем распоряжении все оборудование и ресурсы университета. Единственное ограничение — объект нельзя повреждать. Как вы поступите?

Все это может напоминать завязку посредственного научно-фантастического рассказа, но я попрошу вас на мгновение отнестись к этому серьезно. Хорошенько подумайте, как бы вы стали изучать этот загадочный объект. Если возможно, запишите несколько шагов, которые вы бы предприняли. Когда будете готовы, переверните страницу.

Я провожу это упражнение всякий раз, когда читаю курс по когнитивистике, и вот самые распространенные ответы моих студентов:

Поместить его в МРТ-сканер или просветить рентгеном.

Попытаться выяснить, из какого материала он сделан.

Посмотреть, сколько времени требуется для появления выходных сигналов при различных входах.

Проверить, всегда ли одинаковы выходные сигналы при одних и тех же входах.

Записать выходные сигналы, полученные при различных входах, и поискать в них закономерности.

Поискать на месте раскопок другие предметы и посмотреть, как этот объект с ними взаимодействует.

Возможно, вы записали нечто подобное или придумали что-то совсем иное. Но что бы вы ни написали, готов поспорить, что это укладывается в одну из трех категорий.

Первая категория сосредоточена на физической структуре объекта. Ответы 1 и 2 из моего списка относятся именно к ней: в них предлагается использовать сложные научные инструменты для тщательного исследования его физического строения. Вторая категория фокусируется на процессе, который происходит внутри объекта. Ответы 3 и 4 попадают сюда — их авторы пытаются определить, сколько времени занимают эти внутренние процессы при различных обстоятельствах, а также являются ли они стабильными или же меняются систематически. Третья категория сосредоточена на функции объекта. Ответы 5 и 6 относятся к этой группе — они направлены на поиск закономерностей в соотношении входов и выходов, а также на поиск подсказок о контексте такого поведения.

Почему нас так волнует этот загадочный объект? На самом деле, никак не волнует. Но нас волнует другой загадочный объект, имеющий приблизительно сферическую форму, около шести дюймов в поперечнике, и появившийся примерно сто тысяч лет назад — человеческий мозг. И когда мы пытаемся понять человеческий мозг — и разум, — вопросы, которые мы задаем, укладываются в те же три категории. Вопросы о физической структуре лежат в области нейробиологии; вопросы о внутренних процессах — в области психологии; а вопросы о функции традиционно не играют большой роли ни в той, ни в другой дисциплине, хотя, возможно, именно в них кроется ключ к обеим.

Эти два наблюдения — о том, что системы обработки информации можно анализировать на нескольких разных уровнях и что при этом мы, возможно, уделяем недостаточно внимания функции, — связывают с именем вычислительного нейробиолога Дэвида Марра. Марр родился в 1945 году, вырос в Эссексе (Англия) и благодаря стипендии учился в престижной школе Рагби. Еще будучи школьником, он точно знал, чем хочет заниматься, и как-то признался другу, что мечтает разработать «математическую теорию мозга». Именно ради этого он поступил в Кембриджский университет, где изучал сначала математику, а затем физиологию, и опубликовал серию из трех влиятельных статей, в которых изложил математические теории ключевых структур мозга (мозжечка, неокортекса и архикортекса). Его пригласили в MIT, чтобы он рассказал об этой работе, что переросло в более длительное пребывание в Лаборатории искусственного интеллекта и в конечном счете привело к его зачислению в штат преподавателей.

Марр создал исследовательскую группу по изучению зрения — того, как мозг осмысляет свет, попадающий на сетчатку. Восприятие окружающего мира обычно происходит без малейших усилий, но на самом деле, как обсуждалось в главе 5, это невероятно сложная индуктивная задача. Трехмерный мир проецируется на двумерное изображение на задней стенке наших глаз — паттерн, передающий различную интенсивность световых волн разной длины в разных точках пространства. Наш мозг принимает этот сигнал, очищает его и выдает информацию, необходимую для совершения действий. Марр хотел понять, как это происходит, и вместе со своими студентами и коллегами начал разрабатывать новый подход к изучению зрения (а со временем — и всего остального мозга).

Уровни Марра

Марр и его коллега Томазо Поджо, который в то время работал в Институте Макса Планка в Тюбингене, а сегодня сам является профессором MIT, изложили ключевую идею своего подхода в статье, опубликованной в 1976 году: «Сложные системы, такие как нервная система или развивающийся эмбрион, необходимо анализировать и осмыслять на нескольких различных уровнях». Каноническая версия этих уровней приводится в книге, которую Марр опубликовал в 1982 году под весьма подходящим названием Зрение. Марр предложил три уровня анализа: вычислительная теория, репрезентация и алгоритм, а также аппаратная реализация. Для удобства я буду называть их вычислительным и алгоритмическим уровнями, а также уровнем реализации.

Эти три уровня соответствуют трем категориям стратегий из моего списка выше. Вычислительный уровень касается функции системы, которую Марр связывал с вопросами: «Какова цель вычисления, почему она целесообразна и в чем заключается логика стратегии, с помощью которой ее можно реализовать?» Алгоритмический уровень ориентирован на внутренние процессы: «Как можно реализовать эту вычислительную теорию? В частности, каково представление входных и выходных данных и каков алгоритм преобразования?» Уровень реализации фокусируется на физической структуре: «Как представление и алгоритм могут быть реализованы физически?»

Чтобы прочувствовать, как выглядят ответы на эти вопросы, рассмотрим один из примеров, приведенных Марром: понимание принципа работы кассового аппарата. Давайте перевернем сюжет моей археологической истории: представьте, что тысячи лет спустя археологи раскапывают на удивление хорошо сохранившийся механический кассовый аппарат. (Если это кажется маловероятным, возможно, вас удивит тот факт, что нечто подобное уже происходило в реальности: двухтысячелетний предмет, поднятый со дна океана близ греческого острова Антикитера, считается сложнейшим астрономическим вычислителем, содержащим более пятидесяти внутренних шестеренок). Понимание этой системы обработки информации потребует поиска ответов на всех трех уровнях анализа.

На вычислительном уровне наши археологи будущего могут начать с составления таблицы, показывающей соотношение между входными и выходными данными — тем, что отображается в окошке кассового аппарата после нажатия различных комбинаций кнопок. Внезапное озарение — и они понимают, что странные символы в окошке и на кнопках соответствуют цифрам в десятичной системе счисления. Расшифровав эти цифры, они обнаруживают, что операция, выполняемая системой, судя по всему, представляет собой сложение. Археологи описали систему математически!

Но это лишь часть ответа на вычислительном уровне: нам также необходимо понять, почему система имеет именно такую математическую структуру. Узнав больше об эпохе, к которой принадлежит данный предмет, археологи открывают для себя концепцию торговли. У людей, совершающих коммерческую сделку — например, покупающих продукты в супермаркете, — есть определенные ожидания: если вы не принесли товар на кассу, вы не должны за него платить. Порядок, в котором вы выкладываете товары на кассовую ленту, не должен влиять на их общую стоимость. Если вы оплатите сначала один набор товаров, а затем вернетесь и оплатите другой, общая сумма должна быть такой же, как если бы все это было совершено в рамках одной покупки. Если вам возвращают деньги за товар, его стоимость вычитается из общей суммы. Именно эти ожидания и определяют, что именно делает кассовый аппарат.

Мы можем перевести ожидания людей от торговли на язык простых математических правил: прибавление нуля к числу не меняет этого числа. Изменение порядка слагаемых не меняет сумму. Прибавление суммы одной группы чисел к сумме другой — это то же самое, что и простое сложение всех этих чисел вместе. Прибавление числа с его последующим вычитанием равносильно прибавлению нуля. Эти математические правила, возможно, вам знакомы: это аксиомы, характеризующие сложение — в том смысле, что любая операция, подчиняющаяся этим аксиомам, математически эквивалентна привычному нам сложению чисел. Таким образом, понимание функции кассового аппарата (цель которого — расчет суммы, причитающейся с покупателей в соответствии с их ожиданиями от сделки) показывает, что решением является устройство, выполняющее математическую операцию сложения.

На алгоритмическом уровне мы задаемся вопросом, как именно реализуется это решение. Существует множество способов представления чисел: привычные цифры в десятичной системе (так, оплата в размере 12 долларов будет представлена цифрой 1, за которой следует 2, что означает 10 + 2), в двоичной (12 превращается в 1100, то есть 8 + 4 + 0 + 0) или даже римскими цифрами (XII). Каждое из этих представлений облегчает одни операции и затрудняет другие (например, проверить, делится ли число на 10, легко в десятичной системе счисления и гораздо сложнее в двоичной). Алгоритм сложения может существенно отличаться в зависимости от способа представления. Теория на этом уровне анализа должна детально описывать способ представления данных и алгоритм, используемые кассовым аппаратом.

Наконец, на уровне реализации мы спрашиваем, как этот алгоритм реализуется физически. Подобно тому как для выполнения одного и того же математического решения может существовать множество алгоритмов, для конкретного алгоритма может быть множество физических реализаций. Данный конкретный кассовый аппарат может быть механическим, но те же самые операции могут выполняться на кремнии или даже с помощью нейронов. Теория на этом уровне анализа призвана объяснить, как абстрактная процедура воплощается в конфигурации шестеренок, пружин и других механических компонентов.

Хотя кассовые аппараты — отличная отправная точка для понимания значения этих уровней, истинная ценность осознания данных различий заключается в том, что они могут служить нам ориентиром в попытках понять гораздо более сложную систему обработки информации — человеческий разум.

Держа в уме наши цели

Математику можно использовать для формулирования теорий на всех трех уровнях Марра. Как следствие, всякий раз, когда мы пытаемся с помощью математики объяснить тот или иной аспект работы разума, полезно задаваться вопросом, на каком уровне анализа мы находимся. Теории на разных уровнях преследуют разные цели, и понимание этих целей может помочь нам сориентироваться, на какие типы данных следует обращать внимание и к какого рода выводам мы, скорее всего, придем.

К примеру, допустим, мы хотим понять человеческую память. На уровне реализации мы могли бы определить математическую модель памяти, проанализировав, как нейронная система способна хранить, удерживать и извлекать информацию (собственно, именно этим занимался Дэвид Марр в своей теории архикортекса). На алгоритмическом уровне математическая модель описывала бы то, как люди представляют информацию и какие стратегии используют для её извлечения. Например, Линн Редер из Университета Карнеги — Меллона утверждала, что решение человека о том, пытаться ли извлечь факты из памяти, зависит от степени их доступности. На вычислительном уровне мы стремимся объяснить, почему память устроена именно так. Например, коллега (и муж) Редер, Джон Андерсон, описал человеческую память как оптимальное решение задачи прогнозирования того, какие фрагменты информации с наибольшей вероятностью понадобятся в будущем (см. главу 4 книги Алгоритмы для жизни).

Важно отметить, что теории, сформулированные на этих разных уровнях, не обязательно конкурируют друг с другом. Когнитивные механизмы, выявленные Редер, могут порождать поведение, соответствующее теории Андерсона (что гарантирует семейную гармонию), и, в свою очередь, могут быть реализованы в мозге таким образом, который согласуется с идеями Дэвида Марра об архикортексе. Когда разные люди предлагают разные объяснения одного и того же феномена, мы обычно предполагаем, что верным может быть только одно из них. Но когда эти теории находятся на разных уровнях, они вполне могут быть совместимы друг с другом.

Стоит также отметить, что если мы заинтересованы в создании мыслящих машин, вдохновленных человеческим разумом, мы потенциально можем сделать это, опираясь на идеи, сформулированные на всех этих уровнях. Математические модели нейронов могут дать представление о том, как разумное поведение может возникать в результате глубоко параллельных вычислений. Понимание алгоритмов, которые люди используют для решения задач, может подсказать эффективные стратегии, переносимые на машины. А размышления об абстрактных проблемах, которые приходится решать людям, и описание их решений могут служить ориентиром, когда мы хотим, чтобы машины решали те же самые задачи.

Какой уровень важнее всего?

Разграничив типы вопросов, которые мы можем задать о разуме, на следующем шаге необходимо решить, на каких именно из них нам следует сосредоточиться. На практике ученые посвящают всю свою профессиональную жизнь вопросам на всех этих уровнях, выбирая методы, которые, по их мнению, с наибольшей вероятностью приведут к открытию. Но самому Дэвиду Марру один уровень казался более перспективным, чем остальные.

Марр начинал свою карьеру с изучения нейронов, но по мере того, как он все больше размышлял о зрении, он пришел к убеждению, что необходим другой подход. Эта идея отчетливо прослеживается в трудах Марра об уровнях анализа: «Пытаться понять восприятие, изучая одни лишь нейроны, — все равно что пытаться понять полет птицы, изучая одни лишь перья: это просто невозможно. Чтобы понять полет птицы, мы должны понять аэродинамику; только тогда структура перьев и различная форма птичьих крыльев обретут смысл».

Марр отлично разбирался в аэродинамике — он получил лицензию пилота, чтобы побороть страх полетов, и в итоге страстно увлекся пилотированием легкомоторных самолетов. Он и Поджио часто летали вместе, обсуждая научные идеи, при этом и самолет, и беседа взмывали на головокружительную высоту. (К счастью, Клод Шеннон уже создал прецедент, когда гениям из MIT разрешалось рисковать жизнью в воздухе.) Так что же является эквивалентом аэродинамики для понимания разума? Для Марра этим эквивалентом должна была стать математическая теория, сформулированная на вычислительном уровне, — набор принципов, объясняющих действие фундаментальных сил, которые возникают из абстрактных задач, решаемых человеческим разумом. Законы мышления.

Аргумент Марра был логичен для его времени, когда огромное внимание уделялось нейронам, но практически не велось исследований, ориентированных на функции. В действительности же для полного понимания человеческого разума (и мозга) потребуется разработка теорий на всех трех уровнях анализа. Как выразился друг Марра, Фрэнсис Крик: «Работу Дэвида можно разделить на два этапа. „Марр I“ занимался нейронными цепями и тем, что они могут вычислять. „Марр II“ (этап искусственного интеллекта) был более функциональным. Основное внимание уделялось теории процесса и возможным алгоритмам, тогда как реалистичной реализации уделялось гораздо меньше внимания. Я верю, что, если бы он остался жив, он перешел бы к синтезу этих двух подходов».

Но этого шанса у него не оказалось. Дэвид Марр умер от лейкемии в 1980 году в возрасте тридцати пяти лет. Зрение стало его последним даром когнитивистике. Он провел последние годы жизни за работой над этой книгой, одновременно проходя химиотерапию и другие процедуры. В письме к своей жене, Лучии Вайна, написанном в 1979 году, он писал: «Я думал о книге, введение к которой набросал вчера, и почувствовал ее силу внутри себя. Я приложу все усилия, чтобы книга получилась хорошей. Я уверен, что то, о чем в ней говорится, важно: моя задача — раскрыть ее потенциал». Книга была опубликована посмертно.

Задаваясь вопросом «почему»

Марр оставил после себя важное наследие — понимание того, что простое создание моделей, определяющих алгоритмы человеческого разума и способы их реализации в мозге, может не дать исчерпывающего объяснения. Теории на алгоритмическом уровне и уровне реализации говорят нам, как работают человеческий разум и мозг. Теории на вычислительном уровне объясняют нам, почему они работают именно так.

В последних нескольких главах мы увидели, как искусственные нейронные сети могут воспроизводить ключевые аспекты человеческого интеллекта. Они также демонстрируют, что они способны формировать сложные представления на основе данных. Но даже если бы нам удалось создать искусственную нейросеть, идеально имитирующую человеческое познание, у нас все равно остались бы вопросы о разуме. По мере того как эти нейросети становятся больше и сложнее, становится все труднее понять, почему они ведут себя именно так, просто анализируя их веса и представления. Перефразируя Марра, пытаться понять человеческое познание, изучая лишь искусственные нейроны, — все равно что пытаться понять полет птицы, изучая только перья. Нам нужна аэродинамика.

В чем же состоит аэродинамика разума? До сих пор мы видели лишь один вариант: логику. Логика отвечает описанию теории вычислительного уровня, данному Марром, будучи математической системой, которая решает стоящую перед людьми задачу — выведение новых истин из уже установленных нами. Но логика спасовала, когда дело дошло до индуктивных задач. Нейронные сети показали, как можно обучаться на основе данных и работать с нечеткими представлениями, но они не помогают нам ответить на вопрос Милля о том, почему единичного факта порой достаточно для полноценной индукции. Более того, чтобы научиться хоть чему-то, им требуются колоссальные объемы данных. Чтобы понять, почему нейросети способны осваивать язык и почему для этого им требуется так много данных, нам нужна теория вычислительного уровня, способная объяснить индуктивный вывод.

И оказывается, что такая теория существует: это теория вероятностей.