К книге
Рациональность: от ИИ до зомби188. Поиск байесовской структуры.
57%
188. Поиск байесовской структуры.
202

Гномьи горнила не должны работать. Сама их конструкция, кажется, противоречит законам тауматургии. На самом деле они невозможны. Как и большинство творений гномьего разума, они снабжены кучей всяких свистелок и погремушек при полном отсутствии содержания. В тех, что всё-таки работают, обычно спрятано малое горнило — тщательно замаскированное, чтобы казаться безобидным и несущественным.

— Из описания сеттинга Spelljammer

Мы уже видели, что знание подразумевает взаимную информацию между разумом и окружающей средой, и мы видели, что эта взаимная информация является негэнтропией в самом что ни на есть физическом смысле: если вы знаете, где находятся молекулы и насколько быстро они движутся, вы можете превратить тепло в работу с помощью демона Максвелла или двигателя Силарда.

Мы видели, что формирование истинных убеждений в отсутствие свидетельств — это невероятность того же порядка, что и спонтанное разделение стакана горячей воды на кубики льда и электричество. Рациональность требует «работы» в термодинамическом смысле, а не просто ментальных усилий; разум должен излучать тепло, если только его эффективность не идеальна. Эта когнитивная работа управляется теорией вероятностей, частным случаем которой является термодинамика. (Статистическая механика — частный случай статистики.)

Если бы вы увидели машину, которая непрерывно вращает колесо, явно не будучи подключенной к розетке или любому другому источнику энергии, вы стали бы искать скрытую батарею или находящийся поблизости беспроводной источник питания — что-то, что объясняло бы совершаемую работу, не нарушая законов физики.

Поэтому если разум приходит к истинным убеждениям — и мы предполагаем, что второй закон термодинамики при этом не нарушается, — этот разум должен совершать нечто хотя бы смутно байесовское (по крайней мере, где-то должен идти хотя бы один процесс с чем-то вроде байесовской структуры), иначе он просто не мог бы работать.

В самом начале, в момент времени T = 0, разум не имеет взаимной информации с подсистемой S в своей окружающей среде. В момент времени T = 1 разум имеет 10 бит взаимной информации с S. Где-то в промежутке разум должен был столкнуться со свидетельством — в байесовском понимании свидетельства, поскольку любое байесовское свидетельство есть взаимная информация, а любая взаимная информация есть байесовское свидетельство (это просто два разных взгляда на одно и то же), — и обработать по крайней мере часть этого свидетельства (пусть даже неэффективно), хотя бы в некоторых случаях направив процесс в верную, с точки зрения теоремы Байеса, сторону. Разум должен был хоть немного двигаться в гармонии с Байесом на этом пути — либо же нарушить второй закон термодинамики, создав взаимную информацию из ничего.

На самом деле любая часть когнитивного процесса, которая вносит полезный вклад в поиск истины, должна иметь хотя бы немного байесовской структуры — должна в той или иной точке гармонировать с Байесом, должна частично соответствовать байесовскому потоку, пусть даже с кучей шума и под маской бесчисленных свистелок и погремушек, — даже если эта байесовская структура заметна только в контексте окружающих процессов. Иначе она не смогла бы даже помочь.

Как только философы не размышляли над природой слов! Сколько чернил было пролито на истинные определения слов, на истинное значение определений и на истинный смысл самого смысла! Какие нагромождения шестерёнок и колёс они выстраивали в своих объяснениях! А ведь всё это время за этим скрывался лишь замаскированный байесовский вывод!

Я был даже немного разочарован тем, что никто в аудитории не вскочил и не воскликнул: «Да! Да, именно! Конечно! Всё это время это действительно был Байес!»

Но, возможно, не так уж захватывающе видеть, как нечто, не выглядящее байесовским на первый взгляд, оказывается Байесом в хитрой маскировке, если: (а) вы не распутали эту тайну сами, а лишь прочитали о том, как это сделал кто-то другой (Ньютону явно было веселее, чем большинству студентов, изучающих математический анализ), и (б) вы не осознаёте, что поиск скрытой байесовской структуры — это масштабный, трудный и вездесущий квест, подобный поискам Святого Грааля.

Для каждой грани познания этот квест свой, но Грааль в итоге всегда оказывается одним и тем же. Однако это должен быть тот самый Грааль — и притом весь Грааль, целиком, без утерянных фрагментов. Поэтому каждый раз вам нужно отправляться на поиски в надежде найти полный ответ, какую бы форму он ни принял, а не пытаться искусственно соорудить смутные, притянутые за уши «граалеподобные» аргументы. Тогда в конце вы обязательно найдёте тот самый Святой Грааль.

Ранее мне уже указывали на то, что длинными эссе я могу растерять часть читателей, поскольку «не обозначил чётко, к чему клоню» . . .

. . . но не так-то просто взять и сказать людям, куда вы направляетесь, когда ваш путь лежит в подобные края.

Мало пользы в том, чтобы просто знать, что некая форма познания является байесовской, если вы не знаете, как именно она ею является. Если вы не видите детальных потоков вероятности, у вас нет ничего, кроме пароля — или, выражаясь мягче, намёка на то, какую форму примет ответ, но уж точно не самого ответа. Вот почему существует Великий Квест в поисках скрытой байесовской структуры, а не так, что выкрикнул «Байес!» — и дело сделано. Байесовская структура может быть зарыта под любыми личинами, скрыта за дебрями колёс и шестерёнок, замаскирована свистелками и погремушками.

Чтобы начать понимать суть Квеста в поисках Святого Байеса, представьте, что вы узнаёте о когнитивном феномене XYZ, который кажется невероятно полезным. При этом существует куча философов, которые веками спорят о его истинной природе и продолжают спорить по сей день, а также группа специалистов по ИИ, пытающихся заставить компьютер делать то же самое, но они тоже не могут сойтись во мнениях касательно философии —

И — хм, как странно! — этот когнитивный феномен на первый взгляд ни капли не походил на байесовский, но под ним обнаруживается неочевидная глубинная структура, имеющая байесовскую интерпретацию... но постойте, там всё ещё совершается какая-то полезная работа, которую нельзя объяснить в байесовских терминах... нет, погодите, она тоже байесовская! БОЖЕ МОЙ, а вот этот совершенно другой когнитивный процесс, который тоже не выглядел байесовским на первый взгляд, ТОЖЕ ИМЕЕТ БАЙЕСОВСКУЮ СТРУКТУРУ! Секунду, а делают ли эти небайесовские части вообще хоть что-нибудь?

Да: вау, они тоже байесовские!

Нет: боже правый, какая нелепая конструкция. Да я мог бы сожрать ведро аминокислот и выблевать архитектуру мозга получше этой.

Стоит этому случиться с вами несколько раз, как вы начинаете улавливать этот ритм. Именно о нём я здесь и говорю — о ритме.

Пытаться говорить о ритме — всё равно что танцевать об архитектуре.

Это ставило меня в довольно затруднительное положение, когда дело доходило до попыток заранее объяснить, к чему я клоню. Я знаю по опыту: если я скажу: «Байес — это тайна Вселенной», одни ответят: «Да! Байес — тайна Вселенной!», а другие фыркнут: «Как же ты узколоб; посмотри на все эти другие ситуативные, но потрясающе полезные методы вроде регуляризованной линейной регрессии, которые есть у меня в арсенале».

Я надеялся, что имея на руках конкретный пример «чего-то, что на первый взгляд не кажется байесовским, но в итоге им оказывается» — а также объяснение разницы между паролями и знанием — и объяснение разницы между инструментами и законами — быть может, тогда мне удастся передать хотя бы ту часть ритма, которую можно уловить, не отправляясь в этот квест лично.

Разумеется, это не вся Тайна Байесовского заговора, но это всё, что я могу передать на данном этапе. К тому же, секрет целиком известен лишь Совету Байеса, и если бы я вам его рассказал, мне пришлось бы нанять вас.

Видеть сквозь поверхностную бессистемность когнитивного процесса байесовскую структуру под ней — воспринимать вероятностные потоки и знать, как именно, а не просто знать, что это познание тоже байесовское — как всегда и бывает — как всегда и должно быть — уметь чувствовать Силу, лежащую в основе любого познания, — это и есть Байесовское зрение.

«…И королева Кашфы видит Оком Змея».

— Не знаю, видит ли она им, — сказал я. — Она всё ещё оправляется после операции. Но это интересная мысль. Если бы она могла видеть им, что бы она узрела?

— Полагаю, чистые, холодные линии вечности. Под всеми Тенями.

— Роджер Желязны, «Принц Хаоса»1

*

1. Роджер Желязны, «Принц Хаоса» (Thorndike Press, 2001).

Предыдущая главаГлава 202 из 354Следующая глава