Для нас стремление понять собственный разум – возвышенная цель сама по себе, которая не требует дополнительных стимулов помимо внутренней ценности самопознания. Но оказалось, что изучение разума через нейронные сети дает полезный и неожиданный бонус: понимание современных систем искусственного интеллекта, которые основаны на тех же принципах нейронных сетей, что изначально разрабатывались для понимания человеческого разума.

Современные системы ИИ намного превзошли ранние попытки создать машины, способные распознавать изображенные объекты. Они могут переводить с одного языка на другой, улавливая тончайшие смысловые оттенки, превосходят человека в глубоко интуитивных играх вроде го и ведут естественную, похожую на человеческую беседу на практически неограниченный круг тем. Этот список впечатляющих достижений наверняка будет расти в ближайшие годы.

На волне восторгов по поводу этих прорывов потерялось важное понимание: системы машинного обучения, демонстрирующие такие способности, – это, по сути, нейронные сети, во многом похожие на модели, которые мы и другие исследователи используем для изучения ключевых аспектов человеческого разума уже более 50 лет. Их интеллект основан на заимствованной у мозга концепции: совокупности нейроноподобных элементов, которые возбуждают и тормозят друг друга через связи. Несмотря на десятилетия усилий, предыдущие версии ИИ, опиравшиеся на символы, обозначающие объекты и отношения в соответствии с системами правил, не достигли уровня интеллекта, который теперь воплощен в нейросетевом ИИ.

Более того, нейронные сети в ИИ также демонстрируют эмерджентные свойства – свойства, присущие системе в целом, но отсутствующие у ее отдельных компонентов. Например, они действуют в соответствии с правилами, которым их никогда явно не обучали, и улавливают языковые нюансы, которые никому не удавалось формализовать с помощью явных систем правил или алгоритмов, напрямую запрограммированных людьми. Иногда они могут создавать у людей впечатление, что перед ними разумные человекоподобные существа.

У этих систем все еще много недостатков, но, вероятно, они будут продолжать совершенствоваться. Чтобы понять эти новые разумоподобные системы среди нас, полезно иметь представление о нейронных сетях и их эмерджентных свойств.

Мы подробнее рассмотрим концепцию эмерджентности и более детально изучим свойства реальных и искусственных нейронных сетей. Мы покажем, как эти сети позволяют воспроизвести многие аспекты человеческого опыта, мышления и поведения и как они привели к созданию машин с порой сверхчеловеческими способностями. Мы рассмотрим их сильные и слабые стороны, некоторые неисследованные направления и их значение для нас самих, для наших систем искусственного интеллекта и для того, как мы можем лучше взаимодействовать друг с другом и с нашими машинами.

Путь, по которому мы вас приглашаем пойти, ведет к пониманию того, как возникает интеллект, – будь то биологический интеллект человеческого разума или искусственный интеллект машины.

Интерлюдия. «Это не я»

Июнь 2023 г. Нью-Йорк. Т. Дж. Келлехер, научный редактор издательства Basic Books, провел день в своем манхэттенском офисе за изучением заявки на книгу «Рождение разума». Теперь он зашел в бар Jimmy’s на 44-й улице выпить после работы. Другой посетитель, художник Пабло, узнав, чем занимается Т. Дж., спрашивает, попадались ли ему интересные книжные проекты.

Т. Дж. Вообще-то есть один. В этой книге утверждается, что все наши мысли и чувства порождаются клетками мозга. По мнению авторов, все, что мы собой представляем, все наши действия, по сути, вся наша личность – результат работы этих клеток. И больше ничего нет.

Пабло (энергично мотает головой). Ну уж нет, такую книгу публиковать не стоит. Ни в коем случае!

Т. Дж. Почему?

Пабло. Расскажу вам одну историю – она вас убедит. Это случилось со мной на самом деле. Я как-то был на художественных курсах, и к нам пришел нейробиолог из Нью-Йоркского университета с кучей зарисовок мозговых клеток – нейронов, как он их называл. Он хотел создать арт-проект, подчеркивающий их красоту. Даже дал нам посмотреть на них в микроскоп и…

Т. Дж. Нейроны и правда красивые. Сантьяго Рамон-и-Кахаль…

Пабло. Да-да, именно. Он показывал нам рисунки Рамон-и-Кахаля. Но знаете что? Он хотел делать искусство с нейронами именно потому, что верил: наш разум возникает из этих штук. Никому же не приходит в голову делать арт-проекты про клетки почек! Нейроны интересны и красивы именно потому, что из них якобы возникает наша личность. Ваши авторы утверждают то же самое, верно?

Т. Дж. Верно.

Пабло. Помню, я смотрел на эти рисунки, качал головой и думал: «Нет, нет и нет. Я – это нечто необъятное. Мои мысли – это гораздо больше, чем электричество в нейронах. Эти крошечные штучки не могут быть мной».

Т. Дж. А почему нет?

Пабло. Сейчас скажу то же, что сказал ему! Я задал простой вопрос: может ли он объяснить, как наш разум возникает из этих нейронов?

Т. Дж. И что он ответил?

Пабло. Ничего. Он не смог даже начать объяснять, как нейроны позволяют нам воспринимать мир, испытывать эмоции, принимать решения, понимать абстрактные концепции или заниматься математикой. Пока кто-нибудь не сможет убедительно объяснить, как разум возникает из мозга, нам следует помалкивать на эту тему.

Т. Дж. кивает и молча смотрит в свой бокал.

Пабло (разворачивается на барном стуле к Т. Дж.). О чем задумались?

Т. Дж. О том, что, если я собираюсь принять рукопись книги «Рождение разума» к публикации, авторам лучше бы подготовить план ответов на ваши вопросы.