Наш мозг состоит из колоссальных ансамблей клеток, называемых нейронами, оживляемыми паттернами электрической и химической активности, то нарастающими, то затухающими, то возникающими вновь. Наше восприятие, мысли, решения и действия — процессы, которые мы будем называть разумом, — рождаются из этих паттернов активности.
Как? Как вообще разум может рождаться из паттернов активности мозга?
Для нас это один из самых вечных и волнующих вопросов человечества. Он затрагивает саму нашу суть и наше место во Вселенной. Он также касается возможности — и, если это возможно, самой природы — искусственного разума. Мы написали «Эмерджентный разум», чтобы предложить новый вариант ответа на этот вопрос «как».
Мы — практикующие ученые, посвятившие свою карьеру постижению человеческого разума. Когда мы только начинали свои научные поиски — поначалу независимо друг от друга, — каждый из нас стремился исследовать, можно ли понять работу разума механистически — так же, как мы пытаемся понять устройство, скажем, самолета или то, как вирус вызывает болезнь. Существующие подходы к интересующим нас вопросам казались нам расплывчатыми и зачастую слишком далекими от реальных фактов о лежащей в их основе активности мозга. Мы полагали, что, если основывать наши объяснения на механистических принципах работы мозга, это поможет нам найти более точные ответы на вопросы о самих себе.
На доске в кабинете физика Ричарда Фейнмана после его смерти осталась надпись: «Чего я не могу создать, того я не понимаю». Это высказывание отражает суть нашего подхода. Мы стремимся создавать подобные мозгу системы, которые воссоздают явления разума, подлежащие нашему изучению. Однако воссоздать мозг во всех деталях практически невозможно. Вместо этого мы строим модели, которые абстрагируются от множества подробностей, помогая нам двигаться вперед.
Используемые нами модели — так называемые нейросетевые модели — вдохновлены обширными сетями нейронов в мозге. Они позволяют нам исследовать, как человеческие способности могут рождаться из нейронной активности. В этих моделях намеренно игнорируются многие сложности мозга, чтобы сосредоточиться на базовых процессах, помогающих нам понять работу нашего разума. В этой книге мы опишем нейронные сети, которые проливают свет на то, как люди воспринимают информацию, принимают решения, формируют концепты и идут к своим целям.
Эти модели также помогают нам находить ответы на вопросы о нас самих, которые издавна озадачивали как нас, так и многих других людей. Эти вопросы часто начинаются со слов «почему», «что» и «откуда». Почему нам порой не удается реализовать свои намерения? Почему нам и окружающим свойственна глубоко укоренившаяся предвзятость? Что в нас позволяет нам иногда с легкостью видеть истину, а в других случаях — совершенно не понимать очевидного? Откуда берутся наши интуитивные догадки и почему они так часто оказываются ошибочными?
Примечательно, что нейронные сети, реализованные в виде компьютерных программ, легли в основу искусственного интеллекта. Модели, которые мы и другие исследователи изначально создавали для понимания человеческого разума, оказались базой для построения разума искусственного. Таким образом, понимание того, как нейросети воспроизводят наши мыслительные способности, также проливает свет на современные системы ИИ. В этой книге мы обсудим ключевые принципы нейросетевых моделей нашего собственного разума, которые лежат в основе систем ИИ, приближающихся к человеческим когнитивным способностям, а порой и превосходящих их в некоторых аспектах. Хотя основное внимание мы уделяем идеям, которые считаем непреходящими, мы также выборочно рассматриваем некоторые стремительно развивающиеся инновации в системах ИИ середины 2020-х годов — особенно в последних двух главах. Эти инновации, хотя они интересны и плодотворны, в ближайшие годы могут получить гораздо большее развитие. Везде, где возможно, мы описывали подобные идеи таким образом, чтобы подчеркнуть их основополагающие принципы, а не их временную реализацию. Наша цель — дать читателям прочную основу, которая останется полезной даже по мере развития конкретных технологических воплощений.
Книга разделена на четыре части. В части 1 мы начнем с описания того, как система может обладать свойствами, которых нет ни у одной из ее частей. Это явление, называемое эмерджентностью, занимает центральное место в нейросетевой концепции разума, согласно которой разум возникает в результате взаимодействия простых вычислительных элементов, подобных клеткам мозга. Сами по себе клетки мозга думать не умеют, но их взаимодействие делает возможным появление мыслящей системы. В части 2 мы покажем, как нейросетевая концепция разума помогает объяснить самые разные аспекты человеческого поведения. Сначала мы рассмотрим нейросетевые механизмы памяти — в том числе ее несовершенство. Затем мы обратимся к нашей зависимости от контекста при осмыслении окружающего мира, включая то, как наши ожидания формируют наши мысли. Далее мы проанализируем процесс принятия решений — в том числе то, почему наш выбор порой рационален, а порой иррационален. В части 3 мы подробно расскажем о том, как нейронные сети — как биологические, так и искусственные — учатся на опыте. Мы опишем, как обучение формирует наши знания об объектах и их свойствах и как оно обеспечивает владение языком, особенно на примере больших языковых моделей (LLM). Наконец, в части 4 мы расширим и применим нейросетевой взгляд на разум. Мы опишем, как нейросети могут помочь в понимании таких явлений, как формальные рассуждения, мотивированное поведение и сознание — аспектов разума, которые пока еще не удалось полностью воспроизвести в рамках нейросетевого подхода. В завершение мы обсудим некоторые следствия нейросетевого взгляда на мир — как для нас, людей, так и для созданных нами машин.
На протяжении всей книги мы вставляем интерлюдии, которые, если не указано иное, представляют собой причудливые и вымышленные беседы. Например, в одной из таких бесед Зигмунд Фрейд разговаривает с Адамом Смитом, а в другой — редактор этой книги беседует с (вымышленным) клиентом в одном из баров Нью-Йорка. Мы сами придумали эти диалоги, и все слова, приписываемые собеседникам — будь то исторические личности или вымышленные персонажи, — являются плодом нашего воображения. Надеемся, что эти интерлюдии оживят ваши размышления над затронутыми вопросами так же, как они оживляли нашу работу над этой книгой.
Мы написали эту книгу для всех, кто интересуется устройством разума — как человеческого, так и искусственного. Мы не предполагаем у читателя сложной математической подготовки. За исключением простого умножения и сложения, в книге нет ни одного уравнения. Мы также не требуем никаких предварительных знаний в области когнитивных наук, психологии, нейробиологии или компьютерных наук. В конце книги мы приводим примечания со ссылками на источники для тех, кто захочет узнать больше.
Наше понимание механизмов разума продолжает развиваться. Нам еще многое предстоит открыть — но то, что уже известно, по-настоящему будоражит воображение и имеет глубочайшее значение.
Мы приглашаем вас отправиться в это путешествие вместе с нами. Возможно, оно обогатит ваше восприятие самих себя и своего места во Вселенной, в которой мы живем.
—Гаурав и Джей