Что такое сознание? Сознание‡ – это субъективный опыт. Мое сознание – это своего рода внутренний фильм на много дорожек, где показывают, как выглядит моя жизнь от первого лица.
Сознание состоит из множества компонентов.
У меня есть визуальный опыт восприятия цветов и форм. У меня есть слуховой опыт восприятия музыки и голосов. У меня есть телесный опыт ощущения боли и голода. У меня есть эмоциональный опыт счастья и гнева. В часы бодрствования я переживаю поток осознанных мыслей – размышляю, аргументирую, разговариваю сам с собой. Я принимаю решения, я действую. Все это каким-то образом объединяется во всеобъемлющее состояние сознания, составляющее сознательный опыт того, каково быть мной.
Почему во Вселенной существует сознание? Какие физические процессы порождают сознание? Как может существовать субъективный опыт в объективном мире? Прямо сейчас никто не знает ответов на эти вопросы.
Я стал философом, чтобы поразмыслить над проблемой сознания. Мое академическое образование было связано с математикой и физикой: я получил степень бакалавра по математике в Австралии в 1980-х годах и прошел часть пути к докторской степени в Оксфорде. Мне нравились эти области, потому что они, казалось, затрагивали действительно фундаментальные вопросы. Но постепенно мне стало казаться, что на большинство действительно сложных вопросов ответы уже даны, и основы достаточно хорошо изучены (или, по крайней мере, так я предполагал в то время). Возможно, это было неправильно, но тогда для меня все выглядело именно так.
Кроме того, мне виделась открытой по-настоящему фундаментальная проблема – проблема сознания. Наша ментальная составляющая – источник множества сложных научных вопросов, и сознание, пожалуй, труднейший из них. Сознание было самым знакомым в мире предметом, но при этом наименее понятным. Как оно вписывается в физическое пространство? Как может существовать субъективный опыт в объективном мире? Никто этого не знал.
Я стал до такой степени одержим этими вопросами, что решил оставить математику и заняться непосредственно проблемой сознания. В 1989 году я переехал из Оксфорда в Индианский университет, чтобы работать в группе исследователей в области когнитивных наук под руководством Дугласа Хофштадтера – автора «Геделя, Эшера, Баха» и других книг, которые мне нравились. Я многое узнал о когнитивных науках и проделал большую работу на тему искусственного интеллекта, но моей главной страстью оставалось сознание. Мне показалось, что наилучший путь решения самых сложных проблем, связанных с сознанием, – это философия. Итак, я стал философом и в итоге написал докторскую диссертацию о сознании, которая превратилась в мою первую книгу «Сознающий ум»*.
Примерно в то же время, в апреле 1994 года, я выступил с докладом на одной из первых международных конференций на тему сознания в Тусоне, штат Аризона. В своем выступлении я назвал проблему объяснения сознания «трудной проблемой»*. Это название прижилось быстрее, чем все то, что я когда-либо говорил. Люди писали книги о «трудной проблеме». Драматург Том Стоппард сочинил пьесу о сознании под названием «Трудная проблема» (С 2019 года Российский академический молодежный театр периодически показывает спектакль «Проблема» по пьесе Стоппарда – прим. науч. ред.). Все это происходило не потому, что идея была радикальной или оригинальной*, – совсем наоборот. Название прижилось так быстро, потому что все с самого начала знали, что такое трудная проблема. Ярлык просто выделил ее, и теперь проблемы стало сложнее избегать.
Чтобы объяснить суть трудной проблемы и ее контраст с другими, более легкими, полезно начать со взаимосвязи между двумя вопросами Пикара – сознанием и интеллектом.
Что такое интеллект? В первом приближении интеллект – это сложное и гибкое поведение, направленное на достижение цели. Если система хороша только для одной цели – скажем, выигрыша в шахматы, – то это в лучшем случае узкоспециализированный интеллект (Narrow AI). Если же система может предпринимать разумные попытки для достижения широкого спектра целей, мы называем это общим интеллектом (General AI).
Пока что многие существующие цифровые системы обладают лишь узкоспециализированным интеллектом. Программа AlphaZero, разработанная DeepMind, хороша для достижения побед в шахматах и Го. Самоуправляемые автомобили хороши в навигации. Однако ни одна из существующих цифровых систем пока не приблизилась к общему интеллекту. Насколько нам известно, только люди и, возможно, некоторые виды животных обладают общим интеллектом.
В моем понимании интеллект – это объективная характеристика системы, в основном сводящаяся к поведению. Интеллект не связан с личными переживаниями. Напротив, это конкретные процессы мышления и вызванные ими реакции.
Таким образом, мы гораздо лучше понимаем интеллект, чем сознание. Для того чтобы объяснить поведение когнитивной системы, используются стандартные методы: необходимо определить механизм и показать, как он порождает реакции. Механизмом может быть система в мозге или некий алгоритм, который, как мы полагаем, использует мозг. Вот почему я называю проблемы объяснения интеллекта и поведения в целом простыми проблемами. Сюда относятся многие вопросы. Как мы ориентируемся? Как мы общаемся? Как мы различаем объекты в нашем окружении? Как мы контролируем свое поведение для достижения целей? Простые проблемы на самом деле не так просты – на решение некоторых может уйти столетие или больше. Но, по крайней мере, у нас есть представление о том, как их решать.
Если интеллект – это вопрос объективного поведения, то сознание – это вопрос субъективного опыта. Трудная проблема – это проблема объяснения субъективного опыта. Весь такой опыт, по-видимому, привязан к сознательному субъекту. Отчасти именно эта субъективность делает проблему сознания такой сложной.
Мой коллега по Нью-Йоркскому университету Томас Нагель, как известно, определил сознание как ответ на вопрос: «каково это – быть кем-то?». В том, чтобы быть мной или вами, есть некое каково быть этим. Если так – у нас с вами есть сознание. Большинство людей считает, что быть камнем – это «никак»: у камня нет субъективного опыта. Если они правы, то камень сознанием не обладает. Если быть летучей мышью похоже хоть на что-то, то, как предположил Нагель, летучая мышь обладает сознанием*. Если бытие червем – «никаково», то червь лишен сознания.
правка
Многие люди считают сознание чем-то очень сложным, находящимся на вершине иерархии интеллекта. Некоторые думают, что для этого требуется сложная форма самосознания. Например, в телесериале «Мир Дикого Запада» сознание изображается как осознание системой того, что внутренний голос принадлежит именно ей. Согласно этой точке зрения, сознанием обладают только люди и другие рефлексирующие существа. Я думаю, что неверно так воспринимать сознание. Ведь оно проявляется даже в простых состояниях, например, когда мы видим красный цвет или чувствуем боль. Снова обратимся к Нагелю: мы знаем, каково это – видеть красный цвет и переживать боль, так что это сознательные состояния. Они не требуют внутреннего голоса или рефлексивного осознания себя. Безусловно, внутренний голос – это аспект сознания у тех, у кого он есть, как и рефлексивное самосознание. Но их не следует путать с сознанием в целом.
Даже простые осознанные состояния, такие как видение красного или ощущение боли, поднимают трудную проблему сознания. Когда моя зрительная система обрабатывает стимул и я идентифицирую цвет как красный, почему у меня возникает осознанное ощущение красноты? Почему есть что-то уникальное и содержательное в восприятии красного цвета? Объективные методы, которые так хорошо работают с простыми проблемами, малоприменимы к субъективному опыту. Выявление мозгового механизма, который позволяет классифицировать зрительный стимул как красный, не объясняет нам, почему мы осознаем красноту. Другими словами, объяснение поведения не помогает понять, почему поведение сопровождается сознанием. При любом описании мозговых процессов, по-видимому, существует разрыв между этим описанием и сознанием. Почему мозговые процессы должны порождать осознанное переживание? Почему бы им просто не протекать «в темноте» вообще безо всякого субъективного опыта? Никто не знает.
Рисунок 37. Знает ли Мэри, специалистка по цвету (здесь симулирована Мэри Уитон Калкинс, ведущий философ и психолог начала XX века), каково это – видеть красный цвет?
Стандартные методы нейронаук и когнитивной науки направлены на объяснение поведения, поэтому не дают необходимой опоры, когда мы касаемся трудной проблемы сознания. В лучшем случае эти методы показывают корреляцию между мозговыми процессами и сознанием. Нейробиологи постепенно движутся к тому, что они называют «нейронными коррелятами сознания». Но корреляция – это не объяснение. Пока нам неизвестно, почему и как эти процессы приводят к возникновению самого сознания.
Мы можем выявить отличительные черты проблемы сознания с помощью мысленного эксперимента, проведенного австралийским философом Фрэнком Джексоном. У нас есть Мэри, она нейробиолог* и знает все, что необходимо, о физических процессах в мозге и о том, как тот реагирует на цвета. Однако Мэри всю свою жизнь провела в черно-белой комнате, изучая мир лишь с помощью книг, черно-белых экранов и другого оборудования. Сама она никогда не сталкивалась с цветом. Мэри знает теорию о том, как красные, синие или зеленые предметы излучают волны света определенной длины, как они влияют на глаза и мозг, как вызывают ассоциации у людей и как приводят к суждениям вроде «Этот сарай красный». Однако есть одна важная вещь о цветах, с которой Мэри не знакома: ей неизвестно, что из себя представляет субъективный опыт восприятия красного или синего.
Научные знания о мозге многое сообщают Мэри о цвете, но ничего не говорят об осознанном его восприятии. Таким образом, опыт осознанного восприятия, похоже, выходит за рамки современной нейробиологии. Мы еще не дали ответа на вопрос, что такое сознание, но показали, почему существует проблема.
Однажды я встретил человека, который был очень похож на Мэри. Кнут Нордби* был норвежским нейроученым, страдавшим ахроматопсией, или полным дальтонизмом. Отвечавшие за обработку цвета колбочки в его сетчатке не работали. Несмотря на это, Нордби специализировался на психофизике (изучении сенсорных процессов) и опубликовал множество статей о цветах. Он знал все о системах мозга, участвующих в обработке цвета. Когда я познакомился с ним в 1998 году, стэнфордский когнитивный нейробиолог Брайан Ванделл сканировал и стимулировал его мозг, чтобы выяснить, смог ли Нордби благодаря своей работе начать воспринимать цвета. Увы, эксперимент оказался неудачным. «Мир цветов навсегда останется для меня загадкой», – сказал мне Нордби.
В книге «Сознающий ум» я утверждал, что невозможно объяснить сознание чисто физическими терминами. Основная идея заключалась в том, что физические термины хороши для объяснения поведения, но, в конечном счете, они объясняют только поведение. Точнее, физические термины – это всегда вопрос объективной структуры и динамики, и все, к чему они применимы, – это очередная объективная структура и динамика. Это идеально подходит для решения простых проблем, но не может решить трудную проблему. Чтобы разрешить ее, нужно нечто большее.
Далее я утверждал, что если вы не можете объяснить сознание в терминах существующих фундаментальных свойств (пространство, время, масса и так далее) и существующих фундаментальных физических законов, то вам нужны новые фундаментальные свойства природы. Возможно, сознание само по себе фундаментально. Также необходимо выявить новые фундаментальные законы – возможно, законы, связывающие физические процессы с сознанием. Поиск науки о сознании, по сути, будет поиском этих фундаментальных законов.
С тех пор появилось множество предложений по решению трудной проблемы. Некоторые из них включают новые фундаментальные законы, которые связывают физические процессы и сознание. Некоторые теории соединяют сознание с обработкой информации; другие – с квантовой механикой. Особенно популярной идеей в последние годы стал панпсихизм* – идея о том, что в каждой физической системе природы присутствует некоторый элемент сознания. Другие взгляды более редукционистские, они пытаются упростить трудную проблему, чтобы ее можно было решить в физических терминах. Возможно, самой экстремальной версией этой стратегии является иллюзионизм*: идея о том, что сознание само по себе – иллюзия и что по какой-то причине наша эволюционная история заставляет нас верить, будто мы обладаем особыми свойствами, хотя на самом деле это не так. Если это правда, то сознания не существует, как не существует и трудной проблемы его объяснения.
Можно еще многое сказать о трудной проблеме сознания, но давайте пока отложим ее и перейдем к более конкретному вопросу: могут ли машины обладать сознанием?