Я сегодня немного устал, поскольку вчера засиделся до трёх ночи, сочиняя эссе о зомби объёмом более 6000 слов, поэтому сегодня я просто отвечу Ричарду и разберусь с одной недосказанностью, которую заметил на следующий день.
(А) Ричард Чаппелл пишет:
Терминологическое замечание (во избежание лишней путаницы): то, что вы называете «мыслимым», некоторые из нас назвали бы всего лишь «кажущимся мыслимым».
Пропасть между «я пока не вижу здесь противоречия» и «это логически возможно» настолько огромна (в некоторых кажущихся простыми случаях эта задача NP-полна), что для этих понятий действительно стоило бы использовать два разных слова. Поскольку зомби-аргумент подкрепляется как раз тем, что эту гигантскую пропасть удаётся замести под ковёр незначительных терминологических различий, я действительно считаю, что было бы неплохо разграничить «мыслимое» и «логически возможное» или, может быть, провести ещё более очевидное различие. Я не могу выбирать уже устоявшуюся профессиональную терминологию, но в подобном случае я бы всерьёз отказался её использовать.
Пожалуй, я буду говорить «кажущееся мыслимым» о той информации, которую сторонники существования зомби получают, воображая Миры Зомби, и «логически возможное» о той информации, которая устанавливается путём предъявления полной модели или логического доказательства. Обратите внимание на масштаб пропасти между информацией, которую можно получить, зажмурившись и представив зомби, и информацией, которая требуется для обоснования аргумента в пользу эпифеноменализма.
То есть вашу позицию можно охарактеризовать как форму материализма типа А — представление о том, что зомби не являются даже (подлинно) мыслимыми, не говоря уже о метафизической возможности.
Материализм типа А — это объёмный пакет идей; не стоит приписывать весь этот пакет мне, пока вы не увидите, что я согласен с каждой из его частей. Я считаю, что человек, спрашивающий: «Что такое сознание?», задаёт вполне законный вопрос и имеет законное право требовать понимания. Я не думаю, что ответ обязательно должен иметь вид: «Вот некая субстанция, обладающая всеми свойствами, которые вы приписали бы сознанию, по таким-то и таким-то причинам». Скорее, он может в некоторой степени состоять из инсайтов, которые заставят вас понять, что вы задавали вопрос неправильно.
Это не элиминативизм в отношении сознания. Это реалистичный взгляд на то, какого рода открытий стоит ожидать, столкнувшись с проблемой, которая: (1) кажется требующей хоть какого-то решения, (2) кажется принципиально неразрешимой и (3) обсуждается таким образом, который чрезвычайно сильно зависит от не до конца понятой, сложившейся ad hoc архитектуры человеческого познания.
(1) Насколько я могу судить, вы не выявили никакого логического противоречия в описании мира зомби. Вы лишь указали на то, что он довольно странный. Но существует множество причудливых возможных миров. И это не повод постулировать скрытое противоречие. Так что для меня по-прежнему полная загадка, в чём же заключается это предполагаемое противоречие.
Хорошо, я изложу это подробно с материалистической точки зрения:
Мир зомби по определению содержит все части нашего мира, находящиеся внутри замыкания отношений «причина чего-либо» или «следствие чего-либо» для любого наблюдаемого явления. В частности, он содержит причину того, что я явным образом произношу: «Я мыслю, следовательно, существую».
Когда я направляю своё внутреннее осознание на своё внутреннее осознание, вскоре после этого я замечаю, что мой внутренний монолог произносит: «Я направляю своё внутреннее осознание на своё внутреннее осознание», и могу, если захочу, сказать это вслух.
Интуитивно кажется очевидным, что моё внутреннее осознание заставляет мой внутренний монолог говорить определённые вещи, а мой внутренний монолог может заставить мои губы произносить определённые вещи.
Слово «сознание», если оно вообще имеет какой-то смысл, относится к тому, что представляет собой внутреннее осознание, к тому, что его вызывает, или к тому, что заставляет меня говорить, будто у меня есть внутреннее осознание.
Из (3) и (4) следовало бы, что если мир зомби замкнут относительно причин того, почему я произношу «Я мыслю, следовательно, существую», то мир зомби содержит то, что мы называем «сознанием».
По определению, мир зомби не содержит сознания.
Пункт (3), на мой взгляд, с весьма высокой вероятностью эмпирически истинен. Следовательно, я оцениваю эмпирическую вероятность того, что мир зомби логически невозможен, как высокую.
Вы можете спасти Мир Зомби, если допустите, что причина, по которой мой внутренний монолог произносит «Я мыслю, следовательно, существую», — это нечто совершенно отличное от сознания. В сочетании с допущением, что сознание действительно существует, именно эта часть показалась мне безумной.
Но если вышеописанное мыслимо, то разве Мир Зомби не мыслим?
Нет, потому что эти два построения Мира Зомби предполагают наделение слова «сознание» разными эмпирическими референтами — подобно тому, как «вода» в нашем мире означает H2O, в то время как «вода» на Двойнике Земли Патнэма означает XYZ. Для того чтобы Мир Зомби был логически возможен, недостаточно того, чтобы, при всём, что вы знали об устройстве эмпирического мира, слово «сознание» могло бы относиться к эпифеномену, который полностью отличается от известного нам сознания. В Мире Зомби отсутствует само сознание, а не слово «сознание» — это мир без H2O, а не мир без слова «вода». Именно это требуется для подтверждения эмпирического утверждения: «Вы могли бы устранить из нашего мира референт всего, что подразумевается под словом „сознание“, сохранив при этом все атомы на своих местах».
Иными словами, я считаю эмпирическим фактом — с учётом того, к чему на самом деле относится слово «сознание», — то, что устранить сознание, не сдвинув ни одного атома, логически невозможно. О том же, что означало бы устранить из мира «сознание», а не сознание, я рассуждать не берусь.
(2) Не совсем верно говорить, будто (с точки зрения дуализма свойств) «чудесно» то, что наши квалиа так аккуратно согласуются с физическим миром. В конце концов, это гарантируется законом природы. Так что это не более чудесно, чем любая другая логически случайная номическая необходимость (например, константы в наших физических законах).
Именно сам закон природы является «чудесным» — он выступает в качестве дополнительного, сложного и маловероятного элемента теории, который приходится постулировать без какого-либо обоснования на основе уже известного. Постулируется (а) внутренний мир, обладающий сознанием, (б) барахлящий внешний мир, который рассуждает о сознании без всякой на то причины, и (в) то, что эти два мира идеально согласуются друг с другом. Утверждение (в) не следует из (а) и (б), а потому является отдельным постулатом.
Я согласен, что такое употребление слова «чудесный» противоречит его философскому смыслу как нарушения закона природы; я имел в виду невероятность, возникающую ниоткуда, в духе веры в вечный двигатель. Стало быть, это слово было неудачно выбрано для данного контекста. Но разве интуитивно это не то самое, что мы назвали бы чудом? Ваше сознание на самом деле не является причиной того, что вы говорите о наличии у вас сознания; есть отдельный физический механизм, заставляющий вас утверждать, будто вы обладаете сознанием, но при этом существует закон, идеально их согласующий, — это поистине событие того же порядка безумия, что и превращение облатки в истинную плоть Христову при сохранении точного вида и внешнего поведения обычной облатки — просто, понимаете ли, существует закон природы, который это гарантирует.
То есть Зомби-Чалмерс (или «Внешний» Чалмерс) на самом деле не приходит ни к какому выводу, поскольку его высказывания бессмысленны. И уж подавно он не делает никаких выводов необоснованно. Он просто издаёт звуки; они поддаются эпистемической оценке не больше, чем чириканье птицы.
Если взглянуть на это с точки зрения проектирования ИИ, мне кажется, должна быть возможность создать ИИ, который систематически совершенствует свою внутреннюю часть, коррелирующую (в смысле взаимной информации или систематических отношений) с окружающей средой, — включая, возможно, числа с плавающей точкой такого рода, которые я бы назвал «вероятностями», поскольку они подчиняются внутренним соотношениям, предписанным теоремами Кокса, когда ИИ сталкивается с новой информацией — прошу прощения, новыми сенсорными данными.
Вы скажете, что если ИИ не представляет собой нечто большее, чем просто транзисторы, — если он не обладает двойственным аспектом, — то у него нет убеждений.
Полагаю, мои взгляды на этот счёт были довольно ясно изложены в «Простой истине».
Мне кажется довольно простой задачей построить карты, систематически коррелирующие с территориями, не упоминая при этом ничего, кроме чистой физической причинности. ИИ выдаёт карту Техаса. Другой ИИ летит с этой картой в Техас и проверяет, находятся ли шоссе на соответствующих местах, чирикая «Истина», когда обнаруживает совпадение, и «Ложь» — при несовпадении. Вы можете отказываться называть это «картой Техаса», но сами ИИ всё равно будут чирикать «Истина» или «Ложь», и упомянутые ИИ прочирикают «Ложь», когда посмотрят на веру Чалмерса в эпифеноменальное внутреннее ядро, и лично я с ними соглашусь.
Совершенно очевидно, что функция картирования реальности выполняется исключительно Внешним Чалмерсом. Весь процесс создания репрезентаций убеждений обеспечивается байесовской структурой в каузальных взаимодействиях. Внутреннему Чалмерсу не остаётся ничего другого, кроме как благословить всё это действо эпифеноменальным смыслом. При этом под «смыслом» здесь понимается нечто, совершенно не связанное с систематическим соответствием карты и территории или со способностью использовать эту карту для ориентирования в реальности. Поэтому, когда речь заходит о «точности», не говоря уже о «систематической точности», мне кажется, мы должны иметь возможность определять её, глядя исключительно на Внешнего Чалмерса.
(Б) В тексте за вчерашний день я упустил одно допущение, когда писал:
Если самомодифицирующийся ИИ смотрит на ту свою часть, которая при условии А делает вывод «B» — на часть себя, которая записывает «B» в память всякий раз, когда условие А истинно, — и если ИИ исследует эту часть, определяет, как она (причинно) функционирует в контексте остальной вселенной, и решает, что эта часть систематически склонна записывать в память ложные данные, то ИИ обнаружит нечто похожее на баг и самомодифицируется так, чтобы не записывать «B» в пул убеждений при условии А.
. . .
Но нет никаких оснований для Внешнего Чалмерса или для любого рефлексивно согласованного самоисследующего ИИ верить в эту таинственную правильность. Хорошая архитектура ИИ должна, на мой взгляд, представлять собой рефлексивно согласованный интеллект с проверяемой теорией того, как он функционирует в качестве причинно-следственной системы, а следовательно, с проверяемой теорией того, как эта причинно-следственная система вырабатывает систематически точные убеждения на пути к достижению своих целей.
Собственно говоря, к вышесказанному требуется дополнительное допущение, а именно то, что «хорошая архитектура ИИ» (во всяком случае, та, о которой я думал) оценивает собственную рациональность модульным образом: она обеспечивает глобальную рациональность за счёт обеспечения локальной рациональности. Если существует компонент, который относительно своего контекста локально систематически ненадёжен — для некоторых возможных убеждений «Bi» и условий Ai он добавляет некоторое «Bi» в пул убеждений при локальном условии Ai, в то время как рефлексия системы показывает, что Bi ложно (или, в случае вероятностных убеждений, неточно), когда локальное условие Ai истинно, — то это баг. Подобная модульность — это один из способов сделать задачу решаемой, и именно так я сейчас представляю себе проектирование ИИ первого поколения. [Дополнение 2013 г.: Идея, которую я имел здесь в виду, к настоящему моменту подробно изложена и формализована в разделе 6 статьи «Плиточные агенты для самомодифицирующегося ИИ».]
Идея заключается в том, что причинно-замкнутая когнитивная система — такая как ИИ, спроектированный программистами так, чтобы использовать только причинно-действенные элементы; или ИИ, чья теория собственного функционирования полностью проверяема; или Внешний Чалмерс, пишущий философские статьи, — которая верит, что у неё есть эпифеноменальное внутреннее «я», неизбежно делает нечто систематически ненадёжное, поскольку в Мире зомби она пришла бы к точно такому же выводу. Разум, все части которого систематически локально надёжны относительно своего контекста, был бы систематически глобально надёжен. Следовательно, глобально ненадёжный разум должен содержать как минимум одну локально ненадёжную часть. Таким образом, причинно-замкнутая когнитивная система, проверяющая себя на локальную надёжность, должна обнаружить, что по крайней мере один шаг, приведший к добавлению убеждения об эпифеноменальном внутреннем «я», ненадёжен.
Если существуют другие способы сделать разум рефлексивно согласованным, позволяющие обойти это доказательство несостоятельности зомби, философы могут попытаться их описать.
Причина, по которой мне приходится всё это уточнять, заключается в том, что иначе мы получим крайне дешёвую рефлексивную согласованность, при которой ИИ никогда не сможет признать себя ненадёжным. Например, если ИИ обнаружит у себя компонент, который вычисляет «2 + 2 = 5» (в контексте подсчёта овец), то ИИ рассудит так: «Ну, эта часть работает со сбоями и утверждает, что 2 + 2 = 5… но, по чистой случайности, 2 + 2 действительно равно 5, по крайней мере, мне так кажется… поэтому, хотя этот компонент и выглядит систематически ненадёжным, мне лучше оставить всё как есть, иначе он неправильно обработает этот особый случай». Вот почему я говорю об обеспечении глобальной надёжности через обеспечение локальной систематической надёжности: если просто сравнивать свои глобальные убеждения со своими же глобальными убеждениями, далеко не уйдёшь.
Из этого можно извлечь общий урок: показывайте, что ваши аргументы глобально надёжны благодаря локальной надёжности каждого отдельного шага; не ограничивайтесь простым сравнением выводов этих аргументов со своими интуициями. [Дополнение 2013 г.: См. статью «Доказательства, импликации и модели», где обсуждается тот факт, что корректная логика локально корректна.]
(C) Анонимный комментатор написал:
Это замечание на полях, но, полагаю, ваша этимология слова «н’шама» неверна. Оно родственно слову «дыхание», а не «слышать». Корень слова «слышать» содержит букву аин, которой в «н’шама» нет.
Вот это я называю поистине чудесным обманчивым совпадением! Хотя слово Н’шама возникло по совершенно иным причинам, оно звучало именно так, как нужно, чтобы заставить меня подумать, будто оно относится к внутреннему слушателю.
Упс.
*