Давным-давно существовал один странный маленький вид — возможно, биологический, а возможно, синтетический, а может, и вовсе бывший лишь сном, — чьей страстью была сортировка камешков в правильные кучи.

Они не могли объяснить, почему одни кучи были правильными, а другие нет. Но все они сходились во мнении, что самое важное на свете — это создавать правильные кучи и разбрасывать неправильные.

Почему народ сортировщиков камешков так сильно пёкся об этом, история умалчивает — быть может, виной тому фишеровское убегание в половом отборе, начавшееся по чистой случайности миллион лет назад? Или, возможно, это было странное произведение разумного искусства, созданное более могущественными умами и брошенное на произвол судьбы?

Но эта сортировка камешков имела для них настолько колоссальное значение, что все философы сортировщиков камешков в один голос твердили, что сортировка куч — это и есть истинный смысл их жизни. Они утверждали, что единственная оправданная причина принимать пищу — это сортировать камешки, единственная оправданная причина спариваться — это сортировать камешки, а единственная оправданная причина участвовать в мировой экономике — это эффективнее сортировать камешки.

В этом весь народ сортировщиков камешков был согласен, но они не всегда сходились в том, какие именно кучи правильные, а какие — нет.

В ранние времена цивилизации сортировщиков камешков кучи, которые они создавали, были в основном небольшими, с числом элементов вроде 23 или 29; они не могли определить, правильны ли кучи побольше. Три тысячелетия назад Великий Вождь Бико сложил кучу из 91 камешка и провозгласил её правильной, и легионы его восторженных последователей стали сооружать подобные кучи. Но за несколько столетий, по мере угасания могущества биконианцев, среди самых умных и образованных стало крепнуть интуитивное ощущение, что куча из 91 камешка — неправильная. Пока, наконец, они не осознали, что совершили, и не разбросали все кучи из 91 камешка. Не без уколов сожаления, ведь некоторые из этих куч были великими произведениями искусства — но увы, неправильными. Они разбросали даже первоначальную кучу Бико, сложенную из 91 драгоценного камня, каждый из которых был своего вида и цвета.

И с тех пор ни одна цивилизация всерьёз не сомневалась в том, что куча из 91 элемента — неправильная.

Сегодня, в эти более мудрые времена, размер куч, которые отваживаются собирать сортировщики камешков, стал гораздо больше — и все согласны, что это было бы величайшим и прекраснейшим достижением, если бы только они могли быть уверены, что эти кучи действительно правильные. Между странами, расходившимися во мнениях о том, какие кучи правильные, вспыхивали войны: сортировщики камешков никогда не забудут Великую войну 1957 года между И’ха-нтлеем и И’нот’ха-нтлеем из-за куч размером 1957. Эта война, в ходе которой на планете сортировщиков камешков впервые применили ядерное оружие, наконец завершилась, когда и’нот’ха-нтлейский философ Ат’гра’лен’лей продемонстрировал лежащие бок о бок кучу из 103 камешков и кучу из 19 камешков. Этот довод оказался настолько убедительным, что даже И’ха-нтлей неохотно признал: создание куч из 1957 камешков лучше прекратить — по крайней мере, на время.

Со времён Великой войны 1957 года государства неохотно открыто одобряют или осуждают кучи больших размеров, ведь это с лёгкостью приводит к войне. Более того, некоторые философы сортировщиков камешков — которые, кажется, находят явное удовольствие в том, чтобы шокировать окружающих своим цинизмом, — и вовсе отрицают существование какого-либо прогресса в сортировке камешков. Они предполагают, что мнения о кучах со временем менялись по принципу случайного блуждания и лишены какой-либо внутренней согласованности, а иллюзия прогресса создаётся лишь за счёт того, что любое отличающееся прошлое объявляется неправильным. Эти философы указывают на разногласия вокруг больших куч как на доказательство того, что нет ничего, что делало бы кучу из 91 элемента по-настоящему неправильной — просто в один период времени было модно строить такие кучи, а в другой — модно их осуждать. Возражение вроде «Но... 13!» для них пустой звук; ведь считать «13!» убедительным контраргументом — это тоже всего лишь очередная условность, заявляют они. Кучевые релятивисты утверждают, что их философия способна предотвратить будущие катастрофы вроде Великой войны 1957 года, однако в обществе она повсеместно считается философией отчаяния.

Теперь вопрос о том, что делает кучу правильной или неправильной, обрёл новую остроту, ведь вскоре сортировщики камешков могут приступить к созданию самосовершенствующегося искусственного интеллекта. Кучевые релятивисты предостерегают от этого проекта: они утверждают, что ИИ, не принадлежа к виду сортировщик камешков разумный, может сформировать собственную культуру с совершенно иными представлениями о правильности куч. «Они могут решить, что кучи из 8 камешков правильные, — говорят кучевые релятивисты, — и хотя в конечном счёте они будут ничуть не более правы или неправы, чем мы, всё же наша цивилизация гласит, что мы не должны строить такие кучи. В наших интересах создавать ИИ лишь при условии, что ко всем компьютерам будут привязаны бомбы, чтобы в случае, если ИИ сочтёт правильной кучу из 8 камешков, мы могли заставить его строить кучи из 7 камешков. Иначе — БАБАХ!»

Но большинству сортировщиков камешков это кажется абсурдом. Разумеется, достаточно мощный ИИ — особенно «сверхинтеллект», о котором без умолку твердят некоторые транссортировщики камешков, — сможет с первого взгляда определить, какие кучи правильные, а какие нет! Сама мысль о том, что нечто с мозгом размером с планету сочтёт правильной кучу из 8 камешков, слишком нелепа, чтобы вообще её обсуждать.

И действительно, пытаться ограничить сверхинтеллект в том, как он сортирует камешки в кучи — затея совершенно бесполезная. Представьте, что Великий Вождь Бико в свою первобытную эпоху смог бы сконструировать самосовершенствующийся ИИ и создал бы его как максимизатор ожидаемой полезности, чья функция полезности велела бы ему создавать как можно больше куч размером 91. Разумеется, усовершенствовавшись в достаточной степени и став достаточно умным, этот ИИ с первого взгляда понял бы, что эта функция полезности неправильна, и, имея возможность изменять собственный исходный код, переписал бы свою функцию полезности, чтобы ценить более разумные размеры куч, например 101 или 103.

И уж точно не кучи размером 8. Это было бы просто глупо. Любой разум, способный на такую глупость, слишком туп, чтобы представлять угрозу.

Успокоенные подобным здравым смыслом, сортировщики камешков на всех парах бросаются воплощать свой проект — сваливать в кучу множество случайных алгоритмов на больших компьютерах, пока не возникнет хоть какой-то разум. Вся история цивилизации показывает, что более богатые, умные и образованные цивилизации обычно приходят к согласию относительно куч, о которых когда-то спорили их предки. Конечно, тогда появляются более крупные кучи, о которых можно поспорить, — но чем дальше продвигались технологии, тем более крупные кучи удавалось согласовать и построить.

Действительно, сам по себе интеллект всегда коррелировал с созданием правильных куч: ближайшие эволюционные родственники сортировщиков камешков, пебпанзе, строят кучи размером всего лишь 2 или 3, а изредка — глупые кучи вроде 9. А другие, ещё менее разумные существа, например рыбы, вообще не строят никаких куч.

Выше интеллект — умнее кучи. С чего бы этой тенденции нарушаться?

*