Давайте обратимся к этике виртуальной реальности. Мы можем начать с размышлений о технологии долговременных симуляций. Когда с точки зрения морали допустимо создавать симуляцию? Когда допустимо прекращать ее? Каковы наши моральные обязанности как создателей симуляции?
Если мы смоделируем вселенную без жизни, возникнет не много этических проблем. Космологи уже проводят симуляции истории галактик и звезд, и им не нужно разрешение совета по этике. Возможно, существуют этические вопросы о том, является ли это наилучшим использованием компьютерных мощностей, и о том, что делать со знаниями, полученными в результате симуляции, но это стандартные этические вопросы, связанные с повседневной наукой. Даже симуляции биосферы – скажем, на уровне эволюции растительной жизни – не выходят далеко за эти рамки.
Этические проблемы возникают, когда мы моделируем сознание. Начнем с экстремального случая: скажем, мы работаем на разведывательное агентство и хотим смоделировать реакции людей, которые подвергаются пыткам. Мы создаем симов с полностью функционирующим мозгом и подвергаем их (смоделированным) пыткам. С точки зрения морали – это приемлемо или ужасно?
Все зависит от психической жизни симулированных существ. Если они осознают страдания, имитация пыток ужасна с точки зрения морали. Если они не испытывают осознанных страданий, то имитация пыток, возможно, более приемлема.
Это поднимает фундаментальный вопрос: обладают ли симы моральным статусом? Существо обладает моральным статусом*, когда является объектом моральной обеспокоенности примерно так же, как люди, – то есть благополучие этого существа мы должны принимать во внимание при рассуждении о морали.
Живое существо обладает моральным статусом, когда оно важно с моральной точки зрения. Движение BLM – это движение за моральный статус. Жизни чернокожих важны так же, как и жизни любых других людей! Убивать чернокожих так же плохо, как убивать белокожих. Дурно обращаться с чернокожими так же плохо, как и с белокожими. В прошлом, да и в последние десятилетия многие люди и социальные институты относились к жизням чернокожих так, как будто они имели меньшее значение, чем жизни белых. Сейчас это повсеместно признано чудовищным.
С годами круг моральных статусов расширился. В настоящее время широко признается моральный статус многих животных. Хотя ситуация неравноценна: большинство считает, что человеческая жизнь значит больше, чем существование птицы и собаки, однако последние в какой-то степени обладают моральным статусом. К ним нельзя проявлять беспричинную жестокость. Моральный же статус, например, мух и моллюсков не так очевиден, однако некоторые полагают, что он есть. Некоторые экологи убеждены, что деревья и растения обладают своего рода моральным статусом, но это мнение меньшинства. Что касается неорганической материи, мало кто считает камни или частицы обладателями морального статуса. Вы можете обращаться с камнем как угодно, и это не будет иметь значения с моральной точки зрения. По крайней мере в том, что касается камня.
По моему мнению (которое многие разделяют), моральный статус обусловлен сознанием. Если сущность не обладает и никогда не будет обладать способностью к сознанию, то у нее нет морального статуса. К ней можно относиться как к предмету. Если сущность обладает способностью к сознанию, то у нее есть хотя бы минимальный моральный статус. Если она может что-то испытывать, это следует учитывать в наших моральных оценках. Можно утверждать, что системы с минимальной степенью осознанности (муравьи?) обладают лишь минимальной степенью морального статуса, и поэтому в наших этических рассуждениях у них гораздо меньший вес, чем у людей. Но он у них по крайней мере есть.
Мы можем использовать мысленный эксперимент, который поможет нам в рассуждениях о моральном статусе существ. Я называю его проблемой зомби-вагонетки. Представьте, что вы едете в вагонетке, у которой отказали тормоза, и если вы ничего не предпримете, то переедете сознательного человека, который лежит впереди на рельсах. Если же вы переключите стрелку на другой ж/д путь, то убьете пятерых зомби. Как вам следует поступить?
Несколько пояснений. Под зомби подразумеваются философские зомби, описанные в пятнадцатой главе: копии человеческих существ, у которых вообще нет сознательной внутренней жизни. У зомби нет субъективного опыта. Вы можете представить их лишенными сознания нашими дубликатами или лишенными сознания нашими кремниевыми версиями, если так проще. Если это по-прежнему слишком сложно, представьте себе нечто настолько близкое к нам, насколько это вообще возможно, но не обладающее при этом способностью к сознанию. Будут ли эти зомби полезны для каких-то целей или нет, в данном мысленном эксперименте не имеет значения, здесь важен именно их моральный статус.
Когда я проводил опросы о проблеме зомби-вагонетки, результаты получились довольно ясными: большинство людей считают, что вам следует переключить путевую стрелку и убить зомби. Убийство одного человека хуже, чем убийство пятерых зомби. При этом некоторые говорят, что зомби так же важны, как и люди, поэтому мы должны убить человека, но разделяет данное мнение явное меньшинство.
Убийство зомби может показаться ужасным. Недавно вышел фильм «Зомби», в котором рассказывается о жестоком обращении с сообществом зомби в человеческом мире. Но важно то, что зомби в этом фильме обладают сознанием. Философские же зомби сознанием не обладают, поэтому жестокое обращение не к кому адресовать.
Мы можем пойти дальше. Предположим, у вас есть выбор между убийством одной обладающей сознанием курицы или целой планеты гуманоидных философских зомби. На этом этапе интуитивный ответ менее очевиден. Некоторые люди придерживаются мнения «Убивайте зомби», считая, что без сознания нет и морального статуса. Другие переключаются на убийство курицы, предположительно потому, что вследствие разумных повадок допускают у зомби наличие некоторой степени морального статуса. Моя собственная интуиция в данном вопросе колеблется.
Проблема зомби-вагонетки может привести как к сдержанной позиции, так и к вполне однозначному выводу. Если вы считаете, что одно сознательное существо должно быть спасено ценой убийства пяти существ, лишенных осознанности, это говорит о том, что сознание имеет отношение к моральному статусу. Сознательные существа важнее лишенных сознания. Если вы придерживаетесь принципиальной позиции – не существует моральных причин щадить лишенных осознанности существ, – это говорит о том, что для морального статуса сознание необходимо. В таком случае с моральной точки зрения неосознанные существа вообще неважны.
Однозначный вывод согласуется с точкой зрения, которую я отстаивал в конце предыдущей главы: сознание – основа всех ценностей. Нечто является хорошим или плохим для человека только благодаря сознанию этого человека. Сознание обладает ценностью; то, что дорого сознательному существу, обладает ценностью, и отношения между сознательными существами обладают ценностью. Если существо лишено способности к сознанию, то с его же собственной точки зрения ничто не может быть для него хорошим или плохим. И естественно сделать вывод, что если для существа не существует хорошего или плохого, то у этого существа нет морального статуса.
Мнение о том, что для морального статуса необходимо сознание, занимает центральное место в дискуссиях о защите животных. Австралийский философ Питер Сингер, вдохновивший зоозащитников книгой 1975 года «Освобождение животных», утверждал, что для морального статуса важна «способность к ощущениям»*:
«Если существо не способно страдать, испытывать наслаждение или счастье, то и принимать во внимание нечего. Вот почему предел восприимчивости (использую этот термин как удобное, хоть и не совсем точное сокращение для обозначения способности страдать, испытывать удовольствие или счастье) является единственной оправданной границей заботы об интересах других».
В повседневном английском «восприимчивость» близка к «осознанности». Сингер же использует этот термин в более узком смысле для описания страдания, а также переживания удовольствия и счастья. Это разновидность осознанности: только осознанные существа могут страдать или испытывать счастье. Сингер считает, что именно это свойство сознания – достаточное условие для получения морального статуса. Требуется сознательный опыт проживания положительных или отрицательных аффективных состояний. Того же «сентиоцентризма» придерживаются многие современные теоретики, которые утверждают, что переживание положительных или отрицательных эмоций имеет значение для морального статуса. Эта идея восходит, по крайней мере, к Джереми Бентаму, который в XVIII веке сказал, что для морального статуса важно страдание.
На мой взгляд, эта точка зрения неоправданна. Сознание – больше чем переживание страдания или счастья. Мне кажется, что и другие виды осознанной деятельности имеют моральное значение. Чтобы прояснить данный момент, мы можем поразмышлять об экстремальной версии мистера Спока – вулканца из «Звездного пути».
Давайте предположим, что вулканец – это сознательное существо, которому неизвестны счастье, печаль, радость, горе и любые другие чувства. Вулканцы в «Звездном пути» не настолько безэмоциональны – каждые семь лет они испытывают вожделение, а в промежутках ощущают хотя бы умеренное удовольствие и страдание. Чтобы избежать путаницы, мы могли бы назвать нашу лишенную чувств версию философскими вулканцами – по аналогии с философскими зомби.
Насколько я знаю, ни один человек не является философским вулканцем. Известны случаи, когда люди не испытывали боли, страха или тревоги*, но все равно ощущали положительные эмоции. Данных состояний философскому вулканцу тоже будет недоставать. При этом у него все еще может быть насыщенная сознательная жизнь с мультисенсорными ощущениями и потоком осознанных мыслей о всевозможных сложных проблемах. Мы все сталкивались с эмоционально нейтральными состояниями восприятия и мышления. Я могу смотреть на здание или думать о встрече без какого-либо положительного или отрицательного чувства. У вулканца так происходит постоянно.
Жизнь вулканцев может быть в буквальном смысле безрадостной, без мотивирующего стремления к счастью. Они не станут есть в хороших ресторанах ради наслаждения едой. Но тем не менее у них могут быть серьезные интеллектуальные и моральные цели. Например, стремление к развитию науки, помощь окружающим, даже создание семьи или заработок денег. Они не испытывают удовольствия от предвкушения или достижения этих целей, но все равно ценят их и добиваются своего.
Согласно точке зрения Бентама/Сингера, философский вулканец не имеет значения с моральной точки зрений. Это выглядит неправильным. Мы могли бы это продемонстрировать на примере проблемы вулканской вагонетки. Этично ли уничтожить целую планету философских вулканцев ради спасения одного человека с обычным эмоциональным сознанием? Я думаю, что отрицательный ответ очевиден.
Или давайте упростим концепт и предположим, что вы столкнулись с ситуацией, в которой можете убить вулканца, чтобы сэкономить час своего времени по дороге на работу. С моральной точки зрения очевидно, что убивать вулканца неправильно. Даже чудовищно. И неважно, что в будущем этого вулканца не ждут ни счастье, ни страдания. Это сознательное существо с богатой жизнью. От него нельзя морально отмахнуться так, как мы могли бы отмахнуться от философского зомби или камня.
Рисунок 46. Джереми Бентам сталкивается с проблемой вулканской вагонетки. Что лучше – спасти одного человека или пятерых вулканцев?
(Есть ли у вулканца желание продолжать жить? Как мне кажется, да. Если мы не должны убивать такого вулканца, это показывает, что важны не только эмоционально окрашенные состояния сознания, но и другие ментальные аспекты. Мы могли бы рассмотреть еще более экстремальный вид вулканца – не только безэмоционального, но и безразличного как к продолжению жизни, так и к смерти. На мой взгляд, убивать этого вулканца тоже было бы чудовищно. Это говорит о том, что имеет значение не только эмоциональное сознание и удовлетворение желаний. На мой взгляд, другие аспекты сознания тоже важны.)
Лично я считаю, что вулканец так же важен, как и обычный человек. Разумеется, я рад, что родился человеком, а не вулканцем, поскольку эмоции ценны для меня. Страдание и счастье играют важную роль в жизни сознательного существа. Но не они придают существу моральный статус в первую очередь.
Однажды Бентам сказал, что, когда речь заходит о моральном статусе животных, «вопрос не в том, могут ли они рассуждать? Или могут ли они говорить? Но могут ли они страдать?» Если я прав, то важно не страдание, а сознание. Правильный вопрос не в том, «могут ли они страдать?», а «обладают ли они сознанием?».
Чтобы определить моральный статус симулированных существ, нам также необходимо задать вопрос «обладают ли они сознанием?». Мы уже задавались этим вопросом ранее в отношении некоторых видов симов и отвечали на него. В пятнадцатой главе я показал, что совершенная симуляция человеческого мозга будет ассоциироваться с тем же типом сознания, что и оригинальный биологический мозг. То есть симулированные люди будут обладать тем же типом сознания, что и обычные люди. Если сознание – это все, что имеет значение для морального статуса, то симулированные люди будут иметь тот же моральный статус, что и обычные люди.