Спустя чуть более трехсот лет после начала нашей истории мы, наконец, имеем четкое представление о Законах Мышления. Эта картина представляет собой гобелен, сотканный из трех нитей: правил и символов, нейронных сетей и теории вероятностей. Этот гобелен многослоен, и каждый его слой соответствует разным уровням, на которых мы можем анализировать системы обработки информации. Признание Дэвидом Марром того, что подобные системы можно понимать на разных уровнях анализа, крайне важно, поскольку это означает, что различные теоретические подходы не обязаны конкурировать друг с другом. Вместо того чтобы спорить в пользу правил и символов или нейронных сетей или теории вероятностей, мы можем признать, что все три подхода играют свою роль в понимании человеческого разума.
На том уровне, который Марр назвал вычислительным — уровне абстрактных задач, которые должен решать разум, и их идеальных решений, — мы находим логику и теорию вероятностей. Логика объясняет нам, как решать дедуктивные задачи, переходя от истины к несомненной истине, а теория вероятностей — как решать индуктивные задачи, переходя от данных к вероятностным гипотезам. Эти математические принципы действительно являются Законами Мышления, указывающими, как должны вести себя разумные агенты, будь то биологические организмы или умные машины, на Земле или в любом другом уголке Вселенной.
Логика также служит основой для выражения ключевых аспектов решения задач и языка — продуктивности, иерархичности и композициональности. Тот факт, что язык обладает этими свойствами хотя бы приблизительно, делает его эффективным инструментом для выражения и генерации идей. Удивительные способности больших языковых моделей наглядно показывают, насколько мощным субстратом для разумного поведения является язык. Но то, что люди способны усваивать язык на гораздо меньшем объеме данных, чем искусственные нейронные сети, указывает на наличие у них определенной предрасположенности к усвоению феноменов, структурированных подобно человеческим языкам, — предрасположенности, которую эти модели в настоящее время не улавливают.
Теория вероятностей дает нам инструмент для изучения этих предрасположенностей, позволяя описывать обучение в терминах байесовского вывода и исследовать последствия выбора различных априорных распределений. Использование символических репрезентаций вроде логических формул и грамматик может быть полезно для определения априорных распределений, отражающих индуктивные предпочтения людей, однако это не обязательно означает, что люди действительно осуществляют байесовский вывод или на самом деле используют символические гипотезы.
На алгоритмическом уровне Марра находится все то, что делает наш мозг, пытаясь приблизиться к оптимальным решениям, предлагаемым логикой и теорией вероятностей. Мы рассуждаем, совершая ошибки при применении правил логического вывода или формулы Байеса, решаем задачи, в меру своих возможностей исследуя деревья вариантов, и полагаемся на эвристики или генерацию выборок из распределений вероятностей. Помимо этих эксплицитных стратегий — процессов, требующих сознательного мышления, — наш мозг также неявно приближает байесовские решения задач, которые ставит перед нами окружающая среда, наделяя нас интуитивным чувством сходства между вещами, структуры категорий или выбора подходящих слов.
На уровне реализации Марра — до самого основания одни лишь нейросети. Искусственные нейросети показали, что системы простых нейронов способны аппроксимировать логические и статистические выводы достаточно хорошо, чтобы воспроизводить многое из того, что делает человеческий разум. Каковы именно границы этих аппроксимаций — и совпадают ли они с теми, что использует человеческий мозг, — все еще остается открытым вопросом. Создание искусственных нейронных сетей, способных формировать абстракции и кодировать богатые модели мира, подобные тем, какими пользуются люди, по-прежнему является важнейшей темой исследований. Другой вопрос, которого мы практически не касались в этой книге, заключается в том, как именно эти абстракции и модели мира могут воплощаться в нейронах. Как расшифровать репрезентации, используемые как естественными, так и искусственными нейронными сетями, и связать их с их поведением? Как отмечал Марр, понять системы нейронов чрезвычайно трудно, и нам предстоит проделать еще много работы.
Но как быть с искусственным интеллектом? Наши Законы Мышления должны быть полезны не только для понимания человеческого разума. Они также призваны помочь нам в осмыслении того, как создавать интеллектуальные системы. Аэродинамика не просто помогает понять полет птицы — она позволяет строить реактивные самолеты.
Аналогия с птицами и самолетами помогает задуматься о том, как знания, полученные при изучении людей, могут быть перенесены на машины. Подобно тому как реактивные самолеты летают быстрее и выше птиц, наши устремления в области искусственного интеллекта в конечном счете превосходят наши собственные возможности.
Снова обращаясь к уровням анализа Марра, следует ожидать, что вычислительный уровень будет одинаковым как для человека, так и для систем ИИ: логика и теория вероятностей определяют, как выглядит интеллект. Разница лишь в том, что к слабостям человеческого мышления мы относимся с относительным снисхождением, тогда как от наших машин требуем большего. Достижение этой цели означает, что современные системы ИИ на базе нейронных сетей, которые способны научиться аппроксимировать логические рассуждения и байесовский вывод, возможно, придется дополнить явными символическими процессами, такими как алгоритмы символьного вывода или поиска. У машин гораздо больше возможностей выбора алгоритмов и аппаратной реализации, чем у человека, что открывает перед нами огромное пространство для исследований.
Еще одно ключевое отличие человека от современных систем ИИ заключается в объеме необходимых данных. Человек обладает индуктивными предпочтениями, тщательно настроенными на мир, в котором мы живем, — от нашей физической среды до структуры языка. Искусственные нейронные сети лишены этих преимуществ. Если мы хотим создавать системы, способные обучаться так же эффективно, как люди, нам необходимо понять эти индуктивные предпочтения и разобраться, как воспроизвести их в машинах. Это остается важнейшей задачей для когнитивной науки, требующей того же бережного балансирования между изучением человеческих выводов и попытками их формализовать, которое послужило ключом к когнитивной революции.
Наконец, люди остаются уникальными благодаря широкому спектру выполняемых нами задач. Мы используем один и тот же мозг, чтобы надевать подгузники на младенцев, играть в шахматы, доказывать теоремы, готовить ужин, писать романы и сочинять симфонии. Наши системы ИИ обычно обучаются делать что-то одно — вы можете спросить у ChatGPT совета о подгузниках, но он неспособен нежно держать извивающегося младенца. Человеческий мозг способен на все эти разнообразные вещи, потому что наши индуктивные предпочтения сформировались в процессе эволюции в мире, который ставит перед нами все эти задачи, делая нас достаточно хорошо подготовленными, чтобы мы могли научиться всему, что от нас может потребоваться за одну человеческую жизнь. С инженерной точки зрения, возможно, мало стимулов пытаться воспроизвести этот эволюционный процесс для машин — безусловно, проще создавать более специализированные системы. Реактивные самолеты не ловят червей, не строят гнезда, не ищут пару, не откладывают яйца и не заботятся о потомстве, но они прекрасно справляются со своей задачей — летать из одного места в другое.
Машины не подчиняются тем же ограничениям, что и люди, — наша конечная жизнь, ограниченный мозг и лимитированные возможности для общения сформировали саму природу человеческого интеллекта. Поэтому можно ожидать, что человеческий разум сохранит свою исключительность, даже если мы продолжим создавать всё более умные машины.
Когнитивная наука добилась огромного прогресса в понимании законов мышления, причем большая его часть пришлась на те три десятилетия, что прошли с тех пор, как меня увлекла эта область. Но у нас все еще остается множество загадок, способных вдохновить новые поколения когнитивистов: Каковы именно те индуктивные предпочтения, которые позволяют людям так многому учиться на основе столь малых данных? Как мозг на самом деле реализует человеческий интеллект? Как нейроны представляют символы и вероятности? Какую роль во всем этом играет сознание?
Впрочем, вам не обязательно верить мне на слово. Чтобы понять, что движет следующим поколением ученых-когнитивистов, я спросил нескольких своих знакомых исследователей, находящихся в начале своей карьеры, какими им видятся самые важные вопросы в вычислительной когнитивной науке на ближайшие три десятилетия.
Анна Шапиро выросла в пригороде Бостона; когнитивная наука заинтересовала ее после уроков психологии в старшей школе и чтения книги Дугласа Хофштадтера «Гёдель, Эшер, Бах». Сейчас она работает доцентом кафедры психологии Пенсильванского университета. Для нее самый важный вопрос заключается в том, нашли ли мы правильную структуру для наших искусственных нейронных сетей: «Какова правильная архитектура или сочетание архитектур, которые позволят моделям нейронных сетей симулировать человеческий разум?»
Ишите Дасгупте, способной к математике студентке Индийского технологического института в Бомбее, советовали заниматься инженерным делом и физикой. Но уже после того как она поступила в аспирантуру Гарварда по физике, Ишита открыла для себя когнитивную науку. Сейчас она работает исследователем в Google DeepMind и воодушевлена тем, какие новые возможности открывает ИИ для поиска ответов на вопросы о разуме: «Во-первых, в качестве системы подтверждения концепции, в которой мы можем детально разобраться и использовать ее как источник вдохновения для создания новых теорий возникающего интеллектуального поведения. Во-вторых, чтобы понять, как наилучшим образом расширить когнитивные способности человека с помощью искусственных систем, одновременно защищая людей от манипуляций».
Келси Аллен тоже начинала свой путь как физик, но в конечном итоге поняла, что лучший способ ответить на интересующие ее больше всего вопросы — о том, как люди и животные достигают сложных целей, — лежит через вычислительную когнитивную науку. Сейчас она работает доцентом кафедры психологии и компьютерных наук в Университете Британской Колумбии, вернувшись в город, где она выросла. По ее мнению, когнитивная наука все еще слишком сосредоточена на простых явлениях, которые можно изучать в лаборатории: «Мне хотелось бы, чтобы наша область определила, какие сочетания опыта, врожденных представлений и алгоритмов необходимы для обеспечения такого более сложного поведения у людей. Каковы математические основы, позволяющие людям играть в такие игры, как Minecraft? Можем ли мы объяснить глубинный когнитивный процесс, благодаря которому кто-то смог создать первый в мире микроскоп?»
Изучая математику в бакалавриате Мичоаканского университета Сан-Николас-де-Идальго в Мексике, Хулиан Хара-Эттингер разочаровался в ограниченном круге задач, которые, как казалось, способен решать ИИ, и открыл для себя область когнитивной науки благодаря одной из глав в своем учебнике. Сейчас он работает доцентом психологии в Йельском университете и задается вопросом, окажется ли вычислений достаточно, чтобы объяснить все свойства разума: «Хотя многие теории пытаются связать вычисления с сознанием, все они в конечном счете предполагают, что вычисления на каком-то уровне абстракции порождают феноменологический опыт. Можем ли мы построить полную теорию разума, основанную исключительно на языке вычислений?»
Джессика Хэмрик работает ведущим исследователем в Google DeepMind и сейчас живет в Великобритании, а выросла она в Шарлотсвилле, штат Вирджиния. Она начинала изучать компьютерные науки с интересом к робототехнике и обработке естественного языка, но разрыв между ИИ и человеческим познанием привел ее в когнитивную науку. Для нее байесовские модели познания оставляют важный открытый вопрос: «Откуда берутся априорные предпосылки?» Однако прогресс в области ИИ может наметить путь к ответу: «Большие языковые модели используют относительно недифференцированные архитектуры, обученные на всем Интернете, что приводит к созданию систем с огромным количеством очень детальных знаний о множестве вещей. Человеческое познание, напротив, программировалось в ходе эволюции, что привело к формированию высокоструктурированного мозга, содержащего сильные общие априорные предпосылки, но без большого объема конкретных знаний при рождении. Согласование этих двух вариантов когнитивных априорных предпосылок общего назначения и полное понимание сильных и слабых сторон каждого из них — важнейшая задача для когнитивной науки».
Родители Джуди Фан переехали из Тайваня в пригород Финикса, штат Аризона, где ее начали привлекать фундаментальные вопросы. В поисках ответов она изучала космологию и эволюционную биологию, прежде чем прийти к когнитивной науке. Сейчас она работает доцентом психологии в Стэнфорде. Глобальные вопросы, которые занимают ее сегодня, отражают эти ранние поиски: «Как получилось, что у людей развилась способность создавать символьные системы — основу для письменности, математики, искусства и всей кумулятивной культуры? Почему именно мы, почему именно так? И почему не другие виды — по крайней мере, насколько мы можем судить?»
Эти ответы показывают, что впереди нас ждет еще немало загадок, которые займут нас надолго. Они также иллюстрируют, что следующее поколение когнитивистов привносит разнообразие взглядов в разгадку этих тайн. Постижение человеческого познания требует участия мыслителей самого разного склада, помогающих нам увидеть не только сходства между нашими умами, но и их различия. По мере того как мы вступаем в эпоху, когда эти проявления человеческого разума дополняются новыми видами искусственного интеллекта, у нас появляется уникальная возможность по-настоящему понять Законы Мышления.