В одном из самых знаменитых экспериментов в истории науки физиолог Иван Павлов исследовал механизмы обучения у собак. Как и любой владелец собаки, он знал: при виде или запахе пищи у животных начинается слюноотделение. Но можно ли вызвать слюноотделение с помощью постороннего сигнала? В своем эксперименте Павлов кормил собак одновременно со звуком метронома. Поначалу этот звук был для собак бессмысленным. Однако после многократного сочетания метронома с кормлением у животных начиналось слюноотделение от одного лишь звука – даже без пищи.

Собаки научились связывать звук метронома с едой. Они приобрели новое знание. Если говорить языком нейронных сетей, такое обучение можно представить как усиление связи между нейронами, кодирующими «еду», и нейронами, кодирующими «метроном», в мозге животных. На рисунке 9.1 показано, как подобная связь может формироваться в локальной нейронной сети.

Рисунок 9.1. Локальная сеть, моделирующая слюноотделение у павловских собак при звуке метронома – даже без пищи. Обучение происходит благодаря формированию новой связи (показана пунктиром) между элементом «Еда» и элементом «Метроном». Связь между элементом «Еда» и элементом «Слюноотделение» является врожденной

Согласно теории нейронных сетей, все наши «знания» заключены в связях между нейронами (глава 3). Часть этих связей существует с рождения и представляет собой врожденное «знание». К примеру, новорожденные «знают», что нужно плакать с разной громкостью, интенсивностью и мимикой в зависимости от того, какой именно дискомфорт они испытывают. Младенец вряд ли осознает это знание – оно заложено в связях между нейронами его развивающегося мозга и служит для передачи информации тем, кто о нем заботится. Другие связи формируются в процессе обучения на опыте. Под обучением мы понимаем изменения в силе связей, которые помогают организму осваивать новые действия или делать новые прогнозы. Мы, подобно павловским собакам, способны связывать между собой предметы и события, которые появляются одновременно (например, человека, который нас кормит, – с самой едой). Мы учимся на обратной связи (осваиваем удар в гольфе без подкрутки мяча). Мы закрепляем поведение, которое приносит максимум пользы при минимуме затрат (избегаем загруженной трассы, где застряли на прошлой неделе).

В этой главе мы рассмотрим, как возникают и изменяются связи в биологических и искусственных нейронных сетях, – иными словами, как эти системы обучаются. Мы заглянем «под капот» обучения с коррекцией ошибок, которое использовали в главах 7 и 8, а также изучим другие механизмы, позволяющие сетям учиться.

Прежде чем углубиться в механизмы формирования и изменения связей, сделаем важное замечание. В повседневной жизни мы часто учимся на уровне мысли. К примеру, если вам скажут, что львица Нала родила львенка Симбу, вы сразу поймете: Симба – львенок, а Нала – его мать. Подобная способность, судя по всему, возникает (и совершенствуется) в LLM. В четвертой части мы обсудим, как происходит такое обучение на уровне мысли у людей и машин.