До сих пор в этой главе мы рассматривали, как модель нейронной сети помогает сделать жизнь лучше через изменение образа мышления. Теперь обратимся к тому, как более глубокое понимание нейронных механизмов мозга может повлиять на развитие систем искусственного интеллекта.
Столетиями человечество мечтало создать машину, чей интеллект сравнится с нашим или превзойдет его. Искусственный общий интеллект (ИОИ) – современное название такой машины. Нынешний подход к созданию ИОИ, который мы назовем «инженерным подходом к интеллекту», нацелен на совершенствование искусственных нейронных сетей без оглядки на преимущества и ограничения биологического мозга. Нам такой подход представляется разумным. В конце концов, создавая самолеты, люди не копировали птиц буквально – они взяли полезные идеи вроде формы крыла, но внесли изменения, например применили жесткое крепление крыла к фюзеляжу. Точно так же, хотя нейронные сети сыграли ключевую роль в развитии ИИ, современный искусственный интеллект использует возможности компьютерного железа и вычислительные методы, недоступные человеческому мозгу. С точки зрения инженерного подхода любой метод, улучшающий ИИ – будь то достижения в обработке информации, символьных вычислениях или нейронных сетях, – заслуживает внимания.
Похоже, индустрия ИИ неизбежно продолжит следовать инженерному подходу к интеллекту. Но возникает вопрос: может ли биологический мозг предложить что-то ценное для дальнейшего прогресса? Мы рассмотрим особенности нашего познания и их нейронную основу – многие из них уже встречались в предыдущих главах, – которые могут стать отправными точками для развития ИИ. Мы убеждены: изучение умственных способностей человека и их нейронных механизмов поможет усовершенствовать искусственные системы. И наоборот, достижения в области ИИ способны пролить свет на работу этих процессов в человеческом мозге.
Прежде всего люди учатся несравненно эффективнее современных систем ИИ. Лучшие системы искусственного интеллекта середины 2020-х годов обучаются на объеме данных, который примерно в 100 000 раз превышает весь опыт человека за всю жизнь. К тому же такие сети работают по принципу «обучить – заморозить – внедрить». Сначала их обучают (иногда в несколько этапов: предварительное обучение и тонкая настройка), затем фиксируют веса связей (запрещая им меняться), после чего запускают в работу. Мозг же способен учиться непрерывно, усваивая новую информацию практически без ущерба для уже накопленных знаний. Мы полагаем, что эти функциональные различия отражают принципиальную разницу между механизмами обучения современных нейросетей и нашего мозга. Нынешние сети обучаются методом обратного распространения ошибки, который требует огромных массивов данных для выявления скрытых закономерностей. Этот метод плохо справляется с непрерывным обучением и часто демонстрирует феномен «катастрофического забывания»: например, сеть, обученная различать кошек и собак, утрачивает этот навык после обучения распознаванию лошадей и коров.
Алгоритмы обучения, которые использует мозг, лишены этих недостатков. Они меньше зависят от объема данных и более гибки, чем метод обратного распространения, хотя мы пока не до конца их понимаем. Вероятно, мозг применяет сразу несколько стратегий обучения, включая варианты хеббовского обучения (глава 9). Продолжающиеся нейробиологические исследования постепенно раскрывают эти механизмы, и по мере накопления знаний они могут способствовать совершенствованию алгоритмов обучения в системах ИИ.
Во-вторых – и это связано с первым пунктом, – наш мозг располагает мощным тандемом взаимодополняющих систем обучения: гиппокампом и неокортексом (глава 10). Гиппокамп быстро обучается и способен связывать конкретные детали опыта в ассоциации, благодаря чему становится хранилищем воспоминаний о пережитых событиях. Неокортекс учится медленнее, зато выявляет закономерности и общие принципы, объединяющие разрозненный опыт. Считается, что во время сна или покоя гиппокамп «проигрывает» паттерны пережитого опыта неокортексу. Этот процесс может иметь решающее значение для консолидации новых воспоминаний и извлечения из них общих правил и знаний, а также помогает предотвратить катастрофическое забывание. Некоторые системы ИИ уже используют раздельные модули для быстрого запоминания конкретного опыта и медленного поиска закономерностей, но такие подходы опираются на огромные компьютерные хранилища данных. Более глубокое понимание быстрых механизмов обучения гиппокампа и способов интеграции полученных знаний в медленные системы обучения неокортекса может помочь будущим системам ИИ освоить непрерывное обучение.
В-третьих, наш мозг без усилий объединяет информацию от разных органов чувств – зрения, слуха, осязания – в целостную картину мира. Хотя некоторые системы ИИ уже обрабатывают и интегрируют мультимодальную информацию – текст, изображения, звук, видео, – согласование и объединение данных из разных модальностей (например, текста и изображений) остается сложной задачей. Современные модели часто не справляются с выявлением тонких межмодальных взаимосвязей. Более полное понимание механизмов такой интеграции в мозге может дать ценные идеи для развития ИИ.
В-четвертых, мы неоднократно убеждались (главы 4–5), что двунаправленные связи между элементами искусственных нейронных сетей необходимы для моделирования всепроникающего влияния контекста на восприятие и познание. В мозге нейроны также очень часто связаны взаимными соединениями. Это указывает на то, что мозг использует двунаправленные ограничения и не работает исключительно по принципу прямой передачи сигнала, хотя детали функционирования этих двунаправленных влияний пока изучены не полностью. И хотя некоторые сети ИИ уже внедрили двунаправленные связи, многие по-прежнему их не используют, упуская потенциальные преимущества. Представляется вероятным, что именно двунаправленные влияния обеспечивают нашу способность успешно интегрировать информацию от разных сенсорных систем. Дальнейшее изучение работы этих механизмов в мозге может привести к существенным улучшениям в системах ИИ будущего.
В-пятых, согласно распространенному мнению, высшие мыслительные способности человека опираются на систематические формы рассуждений (глава 10). Они предполагают применение формальных структур и систем правил, которые используются в логике и математике. Хотя некоторые исследователи по-прежнему считают, что наш мозг обладает врожденными системами символьной обработки, идеально приспособленными к формальной структуре этих дисциплин, мы рассматриваем систематические способы мышления как человеческие изобретения, которые призваны усилить и развить наши естественные способности к рассуждению, основанные на нейронных сетях. Более того, обширные исследования показывают: наша способность использовать эти интеллектуальные инструменты напрямую зависит от погружения в культурную и образовательную среду, которая поощряет их применение. Следовательно, чтобы искусственные нейронные сети освоили подобные когнитивные навыки, им необходим сопоставимый опыт погружения в специально созданную обучающую среду. Такое погружение уже создается и дает обнадеживающие результаты. Резкий скачок производительности систем ИИ в первой половине 2020-х годов отчасти объясняется включением в обучающие данные формально структурированных материалов. Среди них – учебники и статьи, которые излагают формальные системы математических рассуждений и демонстрируют примеры решения задач. Сюда же входят компьютерные программы, которые сами по себе представляют явные системы символьной обработки. Продолжающиеся попытки понять, как подобное воздействие формирует наши способности к познанию, могут подсказать оптимальные способы внедрения таких способностей в искусственные нейронные сети.
В-шестых, в стремлении достичь человеческого уровня решения задач исследователи ИИ к середине 2020-х годов все больше внимания уделяют концептуализации рассуждения как интенсивного, протяженного во времени процесса. Примечательным достижением стало побуждение моделей к пошаговой «цепочке размышлений». Этого добиваются, демонстрируя модели примеры поэтапных рассуждений и используя обучение с подкреплением для поощрения длинных цепочек логических шагов. И действительно, люди часто решают задачи поэтапно, и стимулирование моделей действовать аналогично порой приводит к существенным улучшениям. Главная сложность, однако, в том, что выбор следующего шага зачастую крайне труден. Люди умеют разбивать сложные задачи на более простые подзадачи, но механизмы нашей порой поразительной эффективности в этой сфере остаются предметом изучения. Исследователи ИИ осознают важность декомпозиции задач и экспериментируют с широким спектром подходов. Мы полагаем, что более глубокое понимание того, как люди выбирают промежуточные шаги решения – возможно, под влиянием целей (см. наш последний пункт) и разбиения целей на подцели, – будет взаимно обогащать прогресс в этой области как в человеческой психологии, так и в ИИ.
В-седьмых, в нашем мозге есть «поисковая» система, которая активируется детекторами потребностей (например, сигналами голода) и возможностями удовлетворить эти потребности в окружающей среде (глава 10). Эта система служит источником целенаправленной мотивированной активности, обеспечивающей обучение, проактивное решение задач, приоритизацию одних действий над другими и самостоятельное формирование целей. Другие мозговые системы отвечают за эмоции, которые совершенствуют механизм принятия решений и усиливают запоминание личностно значимых событий (глава 5). Системы ИИ середины 2020-х годов лишены этих поисковых и эмоциональных механизмов.
Наконец, одно из важнейших различий между людьми и машинами состоит в том, что наш мозг располагает системами, которые позволяют целям направлять все аспекты поведения и познания – от сбора информации до планирования, решения задач и рассуждения (глава 10). Системы ИИ середины 2020-х, как правило, не имеют собственных целевых систем. Цели, организующие их поведение, – это преимущественно цели разработчиков, которые отбирают обучающие данные и создают протоколы вознаграждения для тонкой настройки. И хотя наше поведение отчасти формируется схожим образом, способность организовывать мысли и действия для достижения собственных целей имеет колоссальное значение – не только для выживания, но и для высших человеческих свершений. Наша способность создавать великие произведения искусства или разрабатывать научные теории основана на постановке и упорном преследовании целей на протяжении долгих периодов – иногда десятилетий и более.
Внедрение человекоподобных поисковых, эмоциональных и целеполагающих систем может привести к созданию более автономных искусственных систем, расширяющих и дополняющих наши собственные возможности. Однако здесь необходима предельная осторожность. Как мы обеспечиваем друг друга механизмами контроля и надзора, так и системы ИИ будущего должны – это критически важно – иметь ограничители, гарантирующие, что они будут полезны для человека и не нанесут вреда. Будущие нейробиологические исследования того, как наш мозг приходит к конструктивным и просоциальным целям и результатам, помогут определить способы достижения этой цели.
Размышляя о путях, которые открываются перед ИИ будущего в результате более глубокого понимания человеческой природы, мы видим и светлые перспективы, и долгую дорогу впереди. Более полное понимание нейронных сетей, лежащих в основе человеческих способностей, поможет расширить возможности будущих систем ИИ. Но достижение такого понимания – непрерывный процесс, в ходе которого будут возникать новые вызовы по мере устранения существующих.
Несмотря на значительные успехи, наша способность создавать искусственный разум все еще находится в зачаточном состоянии. Технологии ИИ будут развиваться и совершенствоваться, обогащаясь новыми знаниями о мозговых механизмах, которые обеспечивают наши умственные способности. По мере развития этого процесса мы должны стремиться использовать понимание собственного разума для гармоничного сосуществования друг с другом. Мы также обязаны следить, чтобы наш ИИ соответствовал человеческим интересам и ценностям. От нашей способности достичь этих целей зависят перспективы процветания человечества как вида и совместной эволюции с системами ИИ.
Эпилог. Капли росы на острове
2051 г. Сан-Франциско. Доктор Лайла Сингх-Петерсон совершила поразительный прорыв, создав новый алгоритм обучения нейронных сетей, основанный на принципах работы мозга. Ее алгоритм раскрыл механизмы человеческого обучения и проложил путь к созданию того, что многие считают первым искусственным общим интеллектом. В знак признания ее беспрецедентного вклада ей присуждают сразу две престижные награды: премию Дэвида Румельхарта в области когнитивных наук и премию Тьюринга в области информатики. Она только что завершила благодарственную речь, и члены комитета спешат ее поздравить. За стенами лекционного зала ее отец Аттикус (102 года) и сын Пракаш (32 года) пьют кофе в ожидании Лайлы.
Пракаш. Дедушка, кажется, ты доволен!
Аттикус. Так оно и есть! Картина природы нашего разума, которую нарисовала Лайла, дарит мне спокойствие и ощущение твердой почвы под ногами.
Пракаш. Спокойствие и твердая почва? А я думал, ты испытываешь гордость.
Аттикус. Гордость тоже есть, и немалая. Но это чувство глубже. Когда твоя мать рассказывала о нейронных сетях, где элементы соединяются и взаимодействуют, меня вдруг пронзило почти физическое ощущение единства со всем сущим.
Пракаш. Единства со всем сущим?
Аттикус: Мы созданы из вещества Вселенной. Из звездной пыли. Из того же материала, что камни и скалы. На краткий миг эта частица вещества, организованная в виде наших нейронных сетей, обрела жизнь и подарила нам способность чувствовать и мыслить. Как и все во Вселенной, это совершенно механистично, совершенно естественно и совершенно прекрасно. Я словно капля росы, которая возникла из влаги в воздухе и вскоре растворится снова в небе, откуда пришла.
Пракаш. И это дарит тебе спокойствие?
Аттикус. Это помогает понять: смерти не стоит бояться. Я произошел из обычной звездной пыли и скоро в нее вернусь. А по пути – о чудо! – успел увидеть столько всего! (Смеется.) По твоему лицу вижу – ты не согласен?
Пракаш. Я понимаю твою мысль о том, что мы созданы из вещества Вселенной. Но мне приходит в голову не идея нашей связи с космосом, а наоборот – нашей обособленности.
Аттикус. Обособленности?
Пракаш. Взгляни на другие миры нашей Галактики – там лишь бескрайняя пустота. Камни и газы, лишенные мысли и чувства. И тогда понимаешь, насколько драгоценны наши эмерджентные человеческие нейронные сети. Насколько мне известно, мы – единственный остров смысла во Вселенной.
Аттикус. Согласен. И никакого противоречия между моим чувством единства и твоим чувством обособленности нет. То, что произошло здесь, на Земле, прекрасно и удивительно.
Пракаш. Поэтому так важно, чтобы человечество выжило. Мы знаем, что нас подстерегают катастрофы: ядерная война, эпидемии, астероиды – любая из них может стереть нас с лица Земли в одно мгновение. А если мы переживем все это, со временем погаснет наше Солнце. Но мы должны все преодолеть. По сути, в этом наше предназначение. И мамина работа указала нам на особый инструмент, способный помочь в его осуществлении.
Аттикус. Да, мы должны продолжать путь. Мы все связаны, и успех каждого зависит от успеха всех. Нам нужно учиться доброте – к себе и друг к другу. Нужно строить общество с механизмами контроля и защиты, направляющими наше поведение – и поведение наших машин. И нужно продолжать постигать эту удивительную Вселенную, в которой мы родились.