Представьте молодого сомелье Винченцу. На вводном курсе ей нужно научиться определять цену вина по вкусу. Преподаватель советует обращать внимание на «свежие абрикосовые ноты» и «богатый букет каберне» как признаки качества и высокой цены. Но, к несчастью, Винченца понятия не имеет, как применить эти инструкции. Поначалу ее оценки катастрофически неточны. Бутылку за $35 она оценивает в $200, а вино стоимостью более $400 – всего в $15. Винченца в отчаянии. Все эти красивые слова ей не помогают. Как понять, чувствует она благородную кислотность дорогого вина или несбалансированность дешевого?
Проходит несколько недель. После множества проб и ошибок оценки Винченцы начинают улучшаться. Она все увереннее отличает дорогое вино от дешевого. Объяснить, как именно, она не может, но прогресс налицо. Мало того, что она научилась различать ценовые категории, – теперь ее конкретные оценки гораздо точнее, часто в пределах 5–10% от реальной цены. Что же изменилось?
Винченца научилась. Наше объяснение начинается с того, что в ее мозге изменилась сила связей между нейронами, кодирующими различные характеристики вина, и нейронами, отвечающими за оценку цены. Логично предположить, что эти изменения служили одной цели – уменьшить ошибку, то есть разницу между предполагаемой и настоящей ценой каждой бутылки. Этот процесс мы называем обучением с коррекцией ошибок. Как мы уже знаем, система обучается, сравнивая свой результат с эталоном и корректируя силу связей так, чтобы свести расхождение к минимуму.
И житейский опыт, и научные данные (вроде эффекта блокировки) указывают на то, что люди учатся именно через коррекцию ошибок. В этом разделе мы рассмотрим один из таких алгоритмов – обратное распространение ошибки. Почему мы уделяем ему особое внимание? Потому что он оказался невероятно эффективным для обучения на данных и стал фундаментом современного ИИ. Обратное распространение часто объясняют через устрашающие математические формулы, но основные идеи удивительно понятны, изящны и даже красивы. Наша задача – дать интуитивное понимание ключевых принципов, не углубляясь в технические детали.