Главная особенность хеббовского обучения в том, что оно усиливает те реакции, которые уже возникают на определенный стимул. Когда эти реакции полезны (как при запоминании имен), усиление связей работает нам на пользу. Но что, если стимул вызывает нежелательную реакцию? Хеббовское обучение будет так же упорно ее закреплять.

Этим можно объяснить, почему большинство взрослых японцев не различают звуки р и л. Например, для них слова рак и лак звучат одинаково. Почему так происходит? Дело в том, что в японском языке нет отдельных звуков для р и л. Есть один звук, находящийся где-то посередине между ними. Поэтому, когда японец слышит р или л, активируются нейроны, кодирующие знакомый промежуточный звук. Хеббовское обучение закрепляет эту тенденцию – оба звука продолжают активировать одни и те же нейроны. Такой механизм восприятия прекрасно работает для японского языка, но мешает различать звуки в других языках.

Вредные ассоциации окружают нас повсюду. Поговорка «Старую собаку новым трюкам не научишь» отражает печальный факт: со временем многие из нас застревают в окостеневших шаблонах мышления, которые поддерживают сами себя, даже будучи ложными и вредными. Историк науки Говард Марголис утверждает, что такая закостенелость мышления мешает ученым старой школы увидеть ценность новых идей. Возможно, именно это произошло с нейросетевыми моделями, которые были представлены в 1950-х, отвергнуты и заново открыты в 1980-х.

Чтобы понять другое важное ограничение хеббовского обучения, вернемся к собакам Павлова. Допустим, собака уже выучила: звук метронома означает еду. Услышав метроном, она начинает выделять слюну. А теперь изменим условия: будем не только включать метроном, но и одновременно мигать лампочкой. Проведем серию таких опытов. Как вы думаете, что произойдет?

«Элементарно, – скажете вы. – Собака все равно будет выделять слюну: метроном звучит, а она связывает этот звук с едой».

И будете правы – именно так и происходит. Но теперь проведем новый опыт: будем только мигать лампочкой, без метронома. Начнет ли собака выделять слюну?

Вопрос посложнее. С позиций хеббовского обучения, активация «световых» нейронов сопровождается активацией «пищевых» нейронов, значит, связь между ними должна усилиться. Тогда одна лишь вспышка света (без метронома) вызовет слюноотделение в ожидании еды. Но есть нюанс: во время обучения свет всегда сопровождался метрономом – сигналом, который уже зарекомендовал себя как предвестник пищи. Не помешает ли сформированная связь «метроном-еда» формированию новой связи «свет-еда»? Если помешает, то вспышка без метронома слюноотделения не вызовет.

Так что же происходит на самом деле?

Оказывается, собака не учится связывать свет с едой. Это хорошо исследованный феномен блокировки: ранее усвоенная связь с одним стимулом блокирует формирование связей с новыми стимулами, которые действуют одновременно с первым.

Эффект блокировки трудно объяснить через хеббовское обучение, зато легко – через обучение с коррекцией ошибок. Как мы увидим, для такого обучения необходима ошибка – расхождение между ожиданием и реальностью. Нет расхождения – нет обучения. В нашем примере собака, связав метроном с едой, уже может предсказать появление пищи. Когда еда появляется, ошибки нет, поэтому новая связь со светом не формируется. Получается, что в данной ситуации хеббовское обучение дает неверный прогноз, а обучение с коррекцией ошибок – верный.

Из-за подобных ограничений многие ученые и инженеры, которые создают эффективные обучающие системы, предпочитают алгоритмы с коррекцией ошибок – мы уже видели их возможности в главах 7 и 8. Скоро мы рассмотрим эти алгоритмы подробнее. Впрочем, у них тоже есть свои ограничения, поэтому важно продолжать изучать хеббовские и хеббоподобные правила обучения, способные давать надежные результаты в масштабных нейронных сетях. Это активно развивающаяся область, которая наверняка позволит по-новому посмотреть на механизмы обучения мозга.