В эссе «Где рекурсивное обоснование упирается в дно» я пришел к выводу, что вполне допустимо использовать индукцию для рассуждений о вероятности того, что индукция будет работать в будущем, на основании того, что она работала в прошлом; или использовать бритву Оккама, чтобы прийти к выводу, что простейшее объяснение того, почему работает бритва Оккама, заключается в том, что сама Вселенная устроена фундаментально просто.

Разумеется, я далеко не первый, кто задумался о рефлексивном применении принципов мышления. Крис Хибберт сравнил мой подход с панкритическим рационализмом Бартли (мне было интересно, случится ли это). Так что, пожалуй, стоит изложить то, что я считаю отличительными чертами моего взгляда на рефлексию, — чертами, которые другие философы могут разделять, а могут и не разделять.

Вся моя философия в данном вопросе в действительности проистекает из попыток понять, как построить самомодифицирующийся ИИ, который применяет собственные принципы мышления к самому себе в процессе переписывания своего исходного кода. Поэтому всякий раз, когда я говорю об использовании индукции для обоснования индукции, я на самом деле думаю об индуктивном ИИ, который размышляет над тем, стоит ли переписать ту свою часть, которая отвечает за индукцию. И если вы не хотите, чтобы ИИ переписал свой исходный код так, чтобы отказаться от индукции, вашей философии лучше бы не объявлять индукцию необоснованной.

Один из самых мощных известных мне принципов создания ИИ вообще заключается в том, что истинный Путь обычно оказывается натуралистическим — что для рефлексивного мышления означает отношение к транзисторам внутри ИИ точно так же, как к транзисторам, находящимся во внешней среде, а не как к какому-то специальному, созданному для данного случая исключению. Именно в этом кроется истинная причина моего упорства в «Рекурсивном обосновании»: вопросы вроде «Насколько хорошо работает моя версия бритвы Оккама?» следует рассматривать точно так же, как любые обычные вопросы — или, по крайней мере, как обычные, но очень глубокие вопросы. Я сильно подозреваю, что правильно построенному ИИ, размышляющему об изменениях в той части своего исходного кода, которая реализует оккамовское мышление, не придется делать ничего особенного в процессе этих размышлений — в частности, ему не придется прилагать особых усилий, чтобы избегать использования оккамовского мышления.

Я не считаю, что «рефлексивную когерентность» или «рефлексивную согласованность» следует рассматривать как самостоятельную цель. Как я писал в «Двенадцати добродетелях» и «Простой истине», если вы сделаете пять точных карт одного и того же города, то эти карты неизбежно будут согласованы друг с другом; но если вы нарисуете одну карту из головы, а затем сделаете четыре копии, все пять будут согласованы, но не точны. Точно так же никто сознательно не стремится к рефлексивной согласованности, и сама по себе она не является особым залогом надежности; цель — победить. Но любой, кто стремится к победе, руководствуясь своим текущим пониманием победы и модифицируя собственный исходный код, в итоге придет к рефлексивной согласованности как к побочному эффекту — подобно тому, как у человека, постоянно стремящегося улучшить свою карту мира, ее части как побочный эффект будут становиться все более согласованными между собой. Если надеть «очки ИИ», то окажется, что ИИ, переписывающий свой исходный код, вовсе не пытается сделать себя «рефлексивно согласованным» — он пытается оптимизировать ожидаемую полезность своего исходного кода, и делает это, опираясь на то, как его нынешний разум предвидит последствия.

Один из способов, которым я обосновываю правомерность использования индукции и бритвы Оккама для рассмотрения «индукции» и «бритвы Оккама», — это апелляция к принципу Э. Т. Джейнса, согласно которому при вычислениях мы всегда должны использовать всю доступную нам информацию (если позволяют вычислительные мощности). Если вы считаете, что индукция работает, то вам следует использовать ее, чтобы задействовать свои возможности по максимуму, в том числе и тогда, когда вы размышляете о самой индукции.

В целом, я считаю полезным отличать оборонительную позицию, когда вы придумываете, как оправдать свою философию перед сомневающимся философом, от наступательной позиции, когда вы просто пытаетесь подобраться как можно ближе к истине. Таким образом, дело вовсе не в том, что подозрительность к бритве Оккама при использовании вашего нынешнего разума и интеллекта для ее проверки показывает, будто вы поступаете честно и обоснованно, подвергая сомнению свои фундаментальные убеждения. Скорее, причина, по которой вы стали бы исследовать бритву Оккама, заключается в том, чтобы понять, можете ли вы улучшить ее применение, или же в том, что вы опасаетесь, что она действительно ошибочна. Я склонен скептически относиться к дежурным сомнениям.

Если уж вы беретесь за инспекцию своих оснований, то я ожидаю, что вы действительно улучшите их, а не просто будете исследовать их «для галочки». Наш мозг устроен так, что оценивает «простоту» определенным интуитивным образом, из-за чего Тор в качестве объяснения молнии кажется более простым, чем уравнения Максвелла. Но, получше присмотревшись к тому, как на самом деле устроена Вселенная, мы пришли к выводу, что дифференциальные уравнения (которыми владеют немногие люди) на самом деле проще (в информационно-теоретическом смысле), чем героическая мифология (с помощью которой объясняет мир большинство племен). И раз уж дело обстоит именно так, мы попытались перенести наши представления о бритве Оккама и в математику.

С другой стороны, улучшенные основания все равно должны приводить к нормальности; 2 + 2 все равно должно в итоге равняться 4, а не чему-то новому, удивительному и захватывающему, вроде «рыбы».

Я считаю очень важным различать вопросы «Почему индукция работает?» и «Работает ли индукция?» Причина, почему сама Вселенная закономерна, для нас пока остается загадкой. Странные спекуляции здесь на какое-то время могут быть необходимы. Но с другой стороны, если вы начнете утверждать, что Вселенная на самом деле не закономерна, и что ответом на вопрос «Работает ли индукция?» будет «Нет!», то вы забредаете на территорию «2 + 2 = 3». Вы слишком стараетесь сделать свою философию интересной, вместо того чтобы сделать ее правильной. Индуктивный ИИ, прикидывая распределение вероятностей для следующего раунда, по сути спрашивает: «Работает ли индукция?», и это именно тот вопрос, на который он может ответить с помощью индуктивного рассуждения. Если же вы спросите: «Почему работает индукция?», то ответ «Потому что индукция работает» будет порочным кругом, а ответ «Потому что я верю, что индукция работает» — магическим мышлением.

Я не думаю, что блуждание по кругу обоснований через метауровень — это то же самое, что порочный круг. По-моему, понятие «порочного круга» применимо внутри объектного уровня, и на этом объектном уровне это определенно нечто плохое и запретное. Запрещать рефлексивную когерентность не кажется хорошей идеей. Но я еще не садился формализовать точное различие — свою рефлексивную теорию я еще только пытаюсь разработать, а не держу под рукой в готовом виде.

*