В 1984 году специалист по компьютерным наукам Аарон Сломан из Бирмингемского университета в Англии опубликовал статью, в которой обосновывал необходимость более систематического подхода к осмыслению туманного, но интуитивно понятного представления о разуме. По его мнению, пришло время включить в общую дискуссию то, что нам уже известно о познавательных способностях животных, а также данные исследований в области искусственного интеллекта и компьютерных систем. Статья Сломана называлась «Структура пространства возможных разумов».

«Очевидно, что существует не один-единственный тип разума», — писал он:

Помимо очевидных индивидуальных различий между взрослыми людьми, существуют различия между взрослыми, детьми разного возраста и младенцами. Существуют кросс-культурные различия. Есть также различия между людьми, шимпанзе, собаками, мышами и другими животными. И есть различия между всеми ними и машинами. Машины тоже не все одинаковы, даже если сошли с одного конвейера, ведь идентичные компьютеры могут обладать совершенно разными характеристиками, если в них заложены разные программы.

Ныне заслуженный профессор в отставке, Сломан — из тех ученых, которых невозможно втиснуть в привычные рамки. Его идеи рикошетят от философии к теории информации и поведенческим наукам по такой траектории, которая способна вызвать головокружение у его попутчиков. Задайте ему вопрос, и вы, скорее всего, обнаружите, что вас унесло далеко от отправной точки. Он может отзываться пренебрежительно и даже с отчаянием о попытках других исследователей разгадать тайны разума. «Многие факты игнорируются или остаются незамеченными, — сказал он мне, — либо потому, что исследователи не владеют понятиями, необходимыми для их описания, либо потому, что виды исследований, требуемые для их изучения, не преподаются в школах и университетах».

Однако Сломан проявляет глубокую скромность в отношении собственной попытки расширить дискуссию о разуме, предпринятой сорок лет назад. Он считал, что его статья 1984 года лишь скользнула по поверхности проблемы и не оказала большого влияния. «У меня такое впечатление, что мои размышления по этим вопросам в основном проигнорировали, — говорит он, и это вполне объяснимо, — поскольку достижение реального прогресса — дело очень трудное, требующее много времени и слишком рискованное в нынешнем климате постоянной оценки по индексам цитируемости, финансированию и демонстрации новых разработок».

Но здесь он неправ. Несколько исследователей, стоящих на переднем крае разработки искусственного интеллекта, сегодня сходятся во мнении, что статья Сломана сыграла роль катализатора. Сочетание компьютерных наук и бихевиоризма в 1980-х годах, должно быть, казалось эксцентричным, но сегодня оно выглядит удивительно прозорливым.

«Мы должны отказаться от идеи, что существует одна главная граница между сущностями, обладающими разумом, и теми, у кого его нет, — писал он. — Вместо этого, опираясь на разнообразие уже изученных типов вычислительных механизмов, мы должны признать, что существует множество разрывов или делений внутри пространства возможных систем: это пространство не является ни континуумом, ни дихотомией».

Часть этой задачи по картированию пространства возможных разумов, по мнению Сломана, заключалась в том, чтобы изучить и классифицировать виды деятельности, на которые способны различные типы разумов:

Это классификация различных способностей, возможностей или поведенческих паттернов — помня при этом, что некоторое поведение может быть внутренним, например, распознавание лица, решение задачи, понимание стихотворения. Различные типы разумов в таком случае можно описать с точки зрения того, что они могут и чего не могут делать.

Задача состоит в том, чтобы объяснить, что именно позволяет разным разумам приобретать свои особые способности.

«Можно ожидать, что эти исследования откроют очень богато структурированное пространство, — писал Сломан, — не одномерное, как спектр, и не являющееся каким-либо континуумом. В нем будет не два, а много полюсов». Они могут варьироваться от настолько простых механизмов — таких как термостаты или регуляторы скорости двигателей, — что мы традиционно вообще не стали бы сравнивать их с разумом, до видов сложного, адаптивного и реагирующего на внешние раздражители поведения, демонстрируемого простыми организмами, такими как бактерии и амебы. «Вместо бесплодных попыток разделить мир на вещи, обладающие сущностью разума или сознания, и вещи, лишенные их, — писал он, — нам следует изучить многочисленные детальные сходства и различия между системами».

Это был проект, в частности, для антропологов и когнитивистов, этологов и специалистов по компьютерным наукам, философов и нейробиологов. Сломан считал, что исследователям ИИ следует меньше концентрироваться на вопросе о том, насколько близко можно подвести искусственное познание к человеческому, и больше — на изучении того, как познание развивалось в процессе эволюции и как оно проявляется у других животных: белок, птиц-ткачей, врановых, слонов, орангутанов, китообразных, пауков и так далее. «Современный ИИ, — говорил он, — пытается решить проблему простым наращиванием памяти, скорости работы и объемов обучающих данных, что позволяет заявлять о прогрессе при минимальном понимании или воспроизведении естественного интеллекта». По его мнению, это неверный путь.

Каково это — быть

Хотя концепция Пространства возможных разумов Сломана стимулировала некоторых исследователей, размышлявших об интеллекте и способах его создания, его картографирование до сих пор едва началось. Смежные дисциплины, которые он перечислил, в 1980-х годах были слишком далеки друг от друга, чтобы всерьез объединить усилия, да и в любом случае мы тогда только начинали продвигаться в распутывании когнитивных сложностей нашего собственного разума. В середине 1980-х годов всплеск корпоративного интереса к исследованиям ИИ на основе так называемых экспертных систем вскоре сошел на нет, создав затишье, продлившееся до начала 1990-х годов. Понятие «машинный разум» стало повсеместно восприниматься как преувеличение.

Но теперь колесо сделало очередной оборот, и сейчас самое подходящее время поразмыслить над тем, как могло бы выглядеть «Пространство разума» Сломана. ИИ не просто наконец начал доказывать свою ценность — сегодня широко распространено мнение, что для дальнейшего прогресса (и, возможно, даже для создания «общего искусственного интеллекта» с человеческими возможностями, о котором мечтали отцы-основатели этой области) потребуется детально разобраться, чем нынешние гипотетические машинные разумы отличаются от нашего собственного. Понимание когнитивных способностей животных за последние два десятилетия также пережило настоящий бум, отчасти благодаря новым возможностям, открытым нейробиологией и информационными технологиями (хотя, честно говоря, в основном благодаря более качественным поведенческим экспериментам). Детские психологи теперь регулярно общаются с робототехниками и компьютерными инженерами, а неврологи — с морскими биологами. У нас появились концептуальные и экспериментальные инструменты, позволяющие приступить к картированию ландшафта разумов.

Однако, чтобы не вызывать ложных ожиданий, я должен сразу признаться: ни я, ни кто-либо другой пока не знает, каковы естественные координаты Пространства разума — и даже определены ли они вообще хоть сколько-нибудь четко. Разум вряд ли относится к тем объектам, которые можно представить в виде математических функций от точно измеряемых переменных: Разум = xy² + qz³ или чего-то подобного. И все же я верю, что мы можем выделить некоторые вероятные компоненты разумности — те качества, которые, судя по всему, демонстрируют разные разумы. Более того, мы можем ожидать, что одни разумы будут наделены этими качествами в большей степени, чем другие. Мы можем задаться вопросом, какими свойствами в результате обладают такие разумы. Возможно, мы даже сможем попытаться мысленно проникнуть внутрь них.

Чтобы исследовать это Пространство разума максимально плодотворно, нам, полагаю, потребуется задействовать воображение. Эта способность — крайне недооцененный научный инструмент, который (по крайней мере, со стороны) может казаться занятием, построенным на строгой логике и точности, требующим безупречности теории и наблюдений. С другой стороны, изнутри, подозреваю, нет ни одного ученого, который бы не ценил силу воображения. Многие любят приводить знаменитую цитату Эйнштейна (которая на этот раз подлинная):

«Я в достаточной степени художник, чтобы свободно черпать из своего воображения, которое, как я считаю, важнее знания. Знание ограничено. Воображение охватывает весь мир».

Под этим Эйнштейн имел в виду нечто вроде акта веры, который позволяет ученому заглянуть чуть дальше имеющихся данных, выстроить новые гипотезы для эмпирической проверки и довериться интуиции, необходимой для поддержки умозрительных идей, пока нет данных, способных подтвердить или опровергнуть их.

Воображение, которое поможет нам исследовать Пространство возможных разумов, — несколько иного порядка; оно ближе к тому, что требуется романисту: способность видеть чужими глазами, слышать чужими ушами. Обладая должным навыком и проведя исследование, можно весьма успешно вообразить себя в роли флорентийского живописца эпохи Возрождения или придворного китайской династии Тан — или (если вы сами им не являетесь) войти в положение мальчика-аутиста, как в романе Марка Хэддона 2003 года «Загадочное ночное убийство собаки». Порой писатели пытались пойти еще дальше: Джеймс Джойс мысленно переносится в раннее детство в начале «Портрета художника в юности», Лалин Полл делает главным героем пчелу в «Пчелах», а Орхан Памук в романе «Имя мне — Красный» заставляет вести повествование монету или красный цвет. И все же в этих последних произведениях практически нет попыток сделать персонажей кем-то большим, чем просто очеловеченными существами или предметами.

Ни одна собака, не говоря уже о монете, не способна написать книгу, и никакой «призрачный автор» тут не поможет. Одна из самых великолепно донкихотских попыток поместить себя в чужой разум — это книга Чарльза Фостера «Быть зверем» (2016), в которой он пытается вжиться в образ жизни и мироощущение выдры, лисицы и стрижа. В конечном счете книга Фостера показывает, насколько эта затея обречена на провал. Но если и есть какое-то свойство, отличающее человеческий разум от разума других существ, так это наше воображение: наша способность к фантастическим «что, если», к ментальному метемпсихозу (переселению душ). Мы будто бы эволюционировали для того, чтобы предпринимать эти попытки стать тем, чем мы не являемся. Конечно, мы потерпим неудачу, если, к примеру, попытаемся представить, каково это — «видеть» мир глазами кремниевой нейросети или плодовой мушки. Но я надеюсь показать вам, что мы можем ошибаться лучше — и для этого нам не нужно начинать с чистого листа или отправляться вслепую в ландшафт, где лежит наша цель.

Каждый, кто хоть немного знаком с философией сознания, несомненно, задается вопросом, когда же на горизонте затрепещет крыльями летучая мышь Томаса Нагеля. Кажется, сейчас самое время ей появиться. В 1974 году Нагель, выдающийся американский философ, опубликовал работу, которая, возможно, является самой цитируемой статьей во всей философии сознания, под названием «Каково это — быть летучей мышью?».

Как видите, это название отражает то самое определение, которое я выбрал для сущности, обладающей разумностью: существует нечто, что означает «быть этой сущностью». Нагель решил поставить этот вопрос применительно к летучей мыши отчасти потому, что это существо эволюционно достаточно далеко от нас, чтобы казаться чуждым, но в то же время достаточно близко, чтобы большинство людей поверило, что у него есть некий субъективный опыт. (В главе 5 мы рассмотрим, оправдана ли подобная вера и что она может означать.) Но он также выбрал летучую мышь потому, что модальность ее сенсорного восприятия кардинально отличается от нашей: хотя у нее есть зрительная система, она строит картину окружающего мира в первую очередь с помощью эхолокации — улавливая отражение от поверхностей акустических волн, которые она сама же испускает в виде пронзительного писка.

Сонар летучей мыши, писал Нагель,

«...хотя, очевидно, и является формой восприятия, по своему принципу работы не похож ни на одно из наших чувств, и нет никаких оснований полагать, будто он субъективно напоминает что-либо из того, что мы способны пережить или вообразить. Это, по-видимому, создает трудности для самого понятия того, „каково это — быть летучей мышью“. Нам необходимо подумать, позволит ли нам какой-либо метод экстраполировать наш собственный опыт на внутреннюю жизнь летучей мыши, а если нет, то какие могут существовать альтернативные методы для понимания этого понятия».

Он продолжал:

«Бесполезно пытаться представить себе, будто у тебя на руках перепонки, позволяющие летать в сумерках и на рассвете, ловя ртом насекомых; будто у тебя очень слабое зрение и ты воспринимаешь окружающий мир с помощью системы отраженных высокочастотных звуковых сигналов; и будто ты проводишь день, вися вниз головой, зацепившись ногами на чердаке. Насколько я могу представить себе это (а могу я весьма смутно), это говорит мне лишь о том, каково было бы *мне* вести себя так, как ведет себя летучая мышь. Но вопрос не в этом». [Курсив мой.]

Скорее, это писательский прием, modus operandi, скажем, Ричарда Адамса, представлявшего своих кроликов-героев в «Обитателях холмов». Но, писал Нагель,

«Я хочу знать, каково летучей мыши быть летучей мышью. Но если я пытаюсь представить это, я ограничен ресурсами моего собственного разума, а эти ресурсы недостаточны для такой задачи. Я не могу сделать этого — ни пытаясь вообразить дополнения к моему нынешнему опыту, ни мысленно отсекая от него какие-то части, ни комбинируя эти добавления, изъятия и изменения».

Его вывод о том, что мы по самой своей природе — и даже, по сути, по самому нашему определению — не можем надеяться узнать, «каково это — быть летучей мышью», трудно опровергнуть, и он общепризнан. Меньше согласия вызывает следствие, которое выводит Нагель: что само сознание — или, как он выразился, проблема того, как разум возникает из тела, — недоступно для научного изучения:

«Ибо если факты опыта — факты о том, каково это для переживающего его организма, — доступны лишь с одной точки зрения, то остается загадкой, как истинный характер переживаний может раскрываться в физическом функционировании этого организма. Последнее является областью объективных фактов par excellence — тех, что могут наблюдаться и пониматься со многих точек зрения и индивидами с различными перцептивными системами. И у ученых-людей не возникает подобных преград для воображения, когда они изучают нейрофизиологию летучей мыши».

Даже если мы будем знать о мозге и физиологии летучей мыши всё, что только можно знать, эта информация никогда не расскажет нам, каково это — быть летучей мышью. Точно так же Нагель писал, что «марсиане могли бы узнать о человеческом мозге больше, чем когда-либо узнаем мы» (он, полагаю, на самом деле не верил в существование марсиан; они лишь играют роль обобщенных сверхумных инопланетян), но они никогда не узнали бы, на что похож человеческий опыт.

Я не хочу, чтобы сложилось впечатление, будто единственный способ исследовать Пространство разума — это мысленно перенестись в него и совершить прогулку. Как говорит Нагель, мы бы обманывали себя, думая, что сможем достичь этого иначе как поверхностным и схематичным образом. Моя мысль в том, что простая готовность допустить, что существуют и другие варианты того, каково это — быть, обрывает часть пут, которые накладывает философия сознания, когда та предполагает не просто, что человеческий разум — самый интересный объект для изучения, но что он является альфой и омегой всей темы.

Клуб разумов

Дискуссии о разнообразии разумов, как правило, бывают либо вольными и аморфными, либо узкими и предписывающими. Примером первого подхода может служить «таксономия разумов», составленная Кевином Келли, главным редактором-основателем технологического журнала Wired, которая выглядит как набросанный навскидку список, где каждый пункт звучит как завязка научно-фантастического романа:

Киборг — получеловеческий, полумашинный разум

Суперлогическая машина без эмоций

Разум с операционным доступом к собственному исходному коду

Очень медленный «невидимый» разум, простирающийся на огромные физические расстояния

Наноразум

и так далее.

С другой стороны, разумы можно классифицировать по какому-то одному критерию, из которых наиболее очевидный — «интеллект». Откровенно говоря, мы сами не знаем, что имеем в виду под интеллектом — точнее, не все и не всегда понимают под ним одно и то же. Конечно, мы измеряем человеческий разум по шкале интеллекта: «коэффициент интеллекта», или шкала IQ, разработанная в 1912 году, которая якобы представляет собой отношение ментального возраста человека к его хронологическому возрасту*, и с тех пор вызывает непрекращающиеся споры. Каковы бы ни были их плюсы и минусы для людей, шкалы IQ определенно не годятся для других животных или машин. Если сегодняшний ИИ или дельфин получат крайне низкий балл в тесте IQ, мы совершенно справедливо заподозрим, что дело не в их «низком интеллекте» (что бы это ни значило), а в том, что мы применяем неверную меру интеллекта — или, точнее говоря, разума.

Более того, многие тесты интеллекта, такие как шкалы IQ, оценивают не когнитивные процессы сами по себе, а результативность. В этом есть определенный смысл, однако даже на примере людей мы знаем, что на успешность выполнения задачи может сильно влиять то, как именно задан вопрос и в каких обстоятельствах. Как известно, крайне трудно найти справедливый тест для всех разумов — банальный пример: я бы совсем плохо справился с тестом IQ, будь он написан на арабском. Сама по себе результативность может мало что сказать о типе тестируемого разума — о его способах рассуждения, репрезентации окружающей среды, его интуиции и эмоциях (если они есть), о спектре его навыков, не задействованных в тесте. Популярная в 2000-х годах схема оценки нового биоподобного машинного интеллекта называлась «Когнитивным десятиборьем» (Cognitive Decathlon) и тестировала такие навыки, как распознавание, различение, память и моторный контроль. Утверждение, что критерием интеллекта в этом тесте было, грубо говоря, умение машины хорошо играть в шахматы, излишне упрощает суть, но тем не менее отражает дух этого начинания. Не думаю, что даже «Менса» приняла бы столь ограниченную меру для людей, так почему же мы применяем ее к машинам?

Хотя все эти демонстрируемые навыки имеют огромное практическое значение, не менее важно иметь представление о том, в какого рода когнитивной сфере обитают эти искусственные «разумы». В 1976 году психолог Николас Хамфри утверждал, что «нам срочно необходим лабораторный тест на „социальные навыки“». И что именно это такое? «Существенная особенность такого теста, — говорил Хамфри, — заключалась бы в том, что он помещает объект в трансакционную ситуацию, где он [так в оригинал] может достичь желаемой цели, только адаптируя свою стратегию к условиям, которые постоянно меняются, частично — но не полностью — в результате его собственного поведения». Этот принцип, безусловно, верен, хотя подобные особенности разума, скорее всего, также очень чувствительны к контексту и вряд ли могут быть охвачены каким-то одним показателем.

Что нам действительно нужно, чтобы оценить многообразие разумов, так это способ картирования измерений, которые определяют принципы их работы — примерно то, что постулирует «Пространство возможных разумов» Сломана. Простой, но остроумный способ положить начало этому амбициозному проекту придумали в 2007 году американские психологи Дэниел Вегнер, Хизер Грей и Курт Грей (однофамилец). Они просто спросили людей о других разумах: какими качествами, как мы думаем, они обладают? Ученые опросили около 2500 участников об их восприятии ментальных способностей людей, животных и других сущностей, таких как роботы, компании и сверхъестественные агенты: призраки и Бог. Добровольцев спрашивали: какими вы представляете себе, к примеру, разумы шимпанзе и младенцев?

Удивительно, но ответы удалось свести к Пространству разумов, обладающему всего двумя ключевыми характеристиками, которые исследователи назвали «опытом» и «субъектностью». Здесь «опыт» означает не то, как много человек пережил в жизни (как в обиходной речи), а скорее врожденную способность разума к «внутренней жизни»: к таким чувствам, как голод, страх, боль, ярость, удовольствие и радость. На самом деле это указывает на ощущение того, что значит обладать таким разумом; иными словами, мое рабочее определение разума требует ненулевого показателя опыта. «Субъектность» же означает способность действовать и достигать целей, сохраняя при этом контроль над своими действиями: например, обладать памятью, планировать и общаться.

Таким образом, это Пространство возможных воспринимаемых разумов — то, какими мы, люди, представляем себе измерения разума, — можно представить в виде обычного двумерного графика, на котором каждая сущность изображена в виде точки с определенным уровнем «опыта» и «субъектности» (рис. 2.1). Те сущности, у которых значения одного или обоих этих качеств отличны от нуля, по мнению Вегнера и его коллег, и есть те, кого мы, люди, принимаем в «Клуб разумов».

Рисунок 2.1. «Клуб разумов», согласно Вегнеру, Грей и Грею: как мы думаем о других разумах.

Тот факт, что взрослые люди получили высокие оценки по обоим параметрам и потому оказались в верхнем правом углу графика, в некотором роде выдает нас с головой. Это не значит, что мы не обладаем значительным объемом как опыта (мы же чувствуем, верно?), так и субъектности (мы же действуем) — но это наводит на мысль, что все остальные разумы оцениваются по степени их сходства с нами. В этом нет ничего удивительного. Мы всегда мыслили антропоцентрично, и не стоит слишком сильно из-за этого переживать. Возможно, сама природа разума — а может быть, само его определение — такова, что он хотя бы в некоторой степени эгоцентричен и солипсистичен. В конце концов, когда мы начали составлять карту космоса, мы тоже делали это с человеческой точки зрения: мы поместили себя в центр всего пространства. Буквально все остальное вращалось вокруг нас, но, более того, оно существовало по отношению к нам и для нас. Именно мы, а не звери, считались созданными по образу Божьему и главным объектом Божьего внимания.

Постепенно наше место в этих космических просторах стало казаться все более случайным и незначительным. Сначала мы оказались на планете, похожей на любую другую; затем — лишь в одной из бесчисленных солнечных систем, затерянных в бесчисленных галактиках, а возможно, как полагают некоторые космологи, мы и вовсе обитатели лишь одной из бесчисленных вселенных. И точно так же, как пространство возможных миров выглядит сегодня совершенно иначе, со временем изменится и Пространство возможных разумов.

Люди, судя по всему, рассматриваются здесь как проходящие определенный путь в этом пространстве на протяжении всей своей жизни. Младенцы, в среднем, оценивались немного выше взрослых по способности к опыту, но гораздо ниже по уровню субъектности. Младенцы чувствуют все чрезвычайно остро, что выражается в радостном гулении или отчаянном реве; при этом сделать они мало что могут*. Дети занимают промежуточное положение между младенцами и взрослыми: по мере взросления их субъектность неуклонно растет, тогда как их способность к опыту слегка снижается.

До младенческой стадии — когда мы еще находимся в утробе матери и являемся плодом — история совсем иная. В этот момент мы (по общему представлению) обладаем практически нулевой субъектностью, а также меньшей способностью к опыту. И это вполне логично, ведь наш мозг и сенсорные системы еще только формируются: у нас пока нет полноценного биологического аппарата разума. По-видимому, эта траектория начинается в момент зачатия, в точке, близкой к началу координат на графике: нулевая субъектность, нулевой опыт. В этот момент нас считают мало чем отличающимися от подсолнуха, бактерии или, возможно, даже гальки. Это весьма любопытно в свете этических споров вокруг эмбрионов. Если, согласно общему мнению, они почти не обладают разумом, то что же тогда наделяет их особым моральным статусом? Как мы увидим, вопросы о моральном статусе тех или иных сущностей часто привязаны к представлениям о степени их сознания или, как мы теперь можем выразиться, об их разумности. И все же в случае с людьми, похоже, в дело вмешивается что-то еще — некий фактор, не представленный в этом конкретном Пространстве возможных разумов. Нетрудно понять, что это такое: заявляется ли об этом прямо или нет, большинство убеждений в священности эмбриона проистекают из концепции души — или, выражаясь более светским языком, из потенциала к разумности.

Не менее любопытно и то, куда направляется воображаемая человеческая траектория в случае болезни и смерти. Участников опроса просили оценить разум людей, находящихся в персистирующем вегетативном состоянии (ПВС): коматозном состоянии, при котором мозг практически перестал функционировать, так что даже для поддержания базовых функций организма, таких как дыхание, требуется медицинская аппаратура. Такие люди, оказавшиеся в подобном состоянии из-за болезни или травмы, становились объектом весьма ожесточенных юридических баталий по поводу «права на жизнь»; недавним резонансным примером стало дело Терри Шиаво во Флориде. Опрос в рамках «Клуба разумов» поместил пациентов в ПВС примерно на тот же уровень способности к опыту, что и эмбрионы, но с чуть большей субъектностью. На самом деле они могут делать не намного больше, чем плод в утробе, но интуитивно можно предположить, что их (как правило) взрослые тела наделены потенциалом к действию. Как пишут Вегнер и Курт Грей, «важный [этический] вопрос заключается в том, продолжают ли существовать разумы пациентов [в ПВС] или, по крайней мере, сохранился ли у них разум, который можно восстановить».

Даже когда мы умираем, мы, согласно опросу, не возвращаемся, так сказать, к началу координат. Умершим людям приписывали меньшую способность к опыту, чем плодам, но все же не нулевую. И что поразительно, их субъектность оценивалась выше, чем у людей, которые еще живы, но находятся в вегетативном состоянии. Отношение к умершим, очевидно, обусловлено культурными факторами: участниками опроса «Клуба разумов» были в основном белые американские христиане, а потому среди них, по-видимому, преобладало представление о загробной жизни. Но подобная концепция требует от нас допустить возможность существования бестелесных разумов: короче говоря, похоже, дуализм Декарта живет и здравствует в общественном сознании.

Если некие сущности способны чувствовать — если они обладают опытом, — мы склонны наделять их моральными правами: мы считаем своим долгом признавать и уважать этот опыт. Если же при этом они способны действовать — вызывать изменения в мире, — мы, скорее всего, возложим на них определенную степень моральной ответственности: обязанность совершать эти действия так, чтобы это не нарушало чужие моральные права. По этой шкале взрослые люди обладают как моральными правами, так и моральными обязанностями. (К детям и животным мы относимся с гораздо большим снисхождением, но все же прикладываем определенные усилия, чтобы воспитать в них чувство ответственности.)* Интересно, что роботов мы, по-видимому, наделяем вторым, но не первым: можно сказать, нам важно, что они делают с нами, но не важно, что мы делаем с ними. И это восприятие проистекает из наших представлений о том, каким именно разумом они обладают.

Посмотрите теперь, где в этом пространстве воспринимаемых разумов находится «Бог»: Он [Она] обладает высокой субъектностью, но почти не имеет способности к опыту. Исходя из этого, Бога, похоже, воспринимают почти как сверхмощного робота. Такой результат не кажется вполне очевидным; в главе 8 я вернусь к тому, что это говорит о Разуме Бога в нашем представлении (а это, разумеется, все, что можно сказать по столь спорному вопросу).

Многие животные по этой шкале оцениваются как обладающие моральными правами, сопоставимыми с человеческими, поскольку они обладают схожей степенью способности к опыту, но меньшей субъектностью (в случае более «простых» организмов, таких как лягушки, — совсем незначительной). Здесь, пожалуй, связь между субъектностью и моральной ответственностью рушится. Животные, безусловно, способны совершать действия (включая, в некоторых случаях, убийство и поедание нас), но несут ли они ответственность за то, что делают? Едва ли кто-то считает, что тигр должен испытывать чувство вины за то, что убил обезьяну, зайца или несчастного человека, проявившего неосторожность на сафари.

Это лишь одно из свидетельств того, что «Клуб разумов» Вегнера и Греев на самом деле является не Пространством возможных разумов, а скорее картиной того, как разумы воспринимаются на обывательском уровне. Один из аспектов разума, который издавна занимал философов и теологов и который, несомненно, присутствует в наших повседневных рассуждениях о поведении, явно не включен в этот анализ: намерение или волеизъявление, традиционно именуемое «свободой воли». Разница между тем, как нас убивает тигр и как нас убивает другой человек, заключается не в том, какой субъектностью или способностью к опыту они обладают, а в том, каковы были их намерения. К этому вопросу я вернусь в главе 9.

Вегнер и Греи включили в свой опрос группы, общественные институты и целые государства*. «Возможно, страны обладают сознанием», — предполагают они, — «общаясь друг с другом через нас, подобно тому как мы используем свои языки, чтобы разговаривать с другими людьми». Люди, судя по всему, полагают, что в этих координатах они располагаются где-то между роботами и Богом. Специалист по компьютерным наукам Дэниел Хиллис утверждает, что национальные государства и корпорации действительно представляют собой «гибридные интеллекты» со своими собственными эмерджентными целями и способами познания. «Когда мы говорим о том, „чего хочет Китай“ или „что пытается сделать General Motors“, — говорит он, — мы выражаемся вовсе не метафорически. Эти организации действуют как разумные сущности, которые воспринимают, принимают решения и действуют». Мы, разумеется, часто выражаемся так в обиходе: «Китай ратифицировал соглашение с Индией», «Facebook ведет себя совершенно безответственно» и так далее. При этом страны, компании и комитеты принимают решения, которые не так-то просто приписать конкретным людям: например, все министры в правительстве могут стремиться к одному, а конечный результат с треском проваливает эту задачу. Утверждение, что компании действуют намеренно и преследуют определенные цели, — больше чем просто метафора; они определенно обладают субъектностью и, безусловно, несут моральную ответственность.

Гораздо менее ясно, могут ли они как единое целое испытывать какой-либо субъективный опыт. Неважно, что у них нет (насколько можно судить) никакого «роевого сознания», ведь составляющие их отдельные агенты сознанием определенно обладают. Может ли «разумность» совокупности разумов превосходить сумму ее частей? Возможно, здесь поможет такой взгляд на вещи: мы не можем априори предполагать, что цели и мотивы, когнитивные пути и свойства таких систем можно напрямую экстраполировать из характеристик составляющих их элементов. С одной стороны, отмечает Хиллис, весьма вероятно, что корпорации будут проектировать системы ИИ, которые они станут использовать всё шире, таким образом, «чтобы их цели совпадали с целями самой корпорации». Честно говоря, по-моему, это очевидно уже сейчас. Возможно, Марк Цукерберг столь же аморален и безразличен к демократии, каким кажется Facebook, но, справедливости ради, я в этом сомневаюсь. Возможно, руководство Google относилось к своему неофициальному девизу «Не будь злом» так же поверхностно и косметически, как это демонстрировала компания в целом, но я готов поверить, что топ-менеджеры все же не были столь циничны. А значит, нам, пожалуй, крайне необходимо понять, как мыслят эти коллективные псевдоразумы.

Интеллектология

Еще одну попытку составить карту Пространства разумов предпринял нейробиолог Кристоф Кох из Института исследований мозга Аллена в Сиэтле. Созданное Кохом Пространство разума (рисунок 2.2) также является двумерным и имеет координаты «интеллект» и «сознание». И вновь человек рассматривается как обладатель максимального сочетания обоих свойств одновременно, тогда как у других животных они снижаются пропорционально друг другу, а самые «примитивные» (например, медузы) демонстрируют крайне мало и того, и другого. Сегодняшние компьютеры и системы искусственного интеллекта считаются щедро наделенными интеллектом, но практически лишенными сознания — и, по мнению Коха, это вряд ли изменится в обозримом будущем, а возможно, и никогда (см. здесь).

Рисунок 2.2. Пространство разума в представлении нейробиолога Кристофа Коха.

Специалист по компьютерным наукам Мюррей Шанахан предложил другой вариант Пространства возможных разумов, в данном случае явно вдохновленный идеей Сломана, который заслуживает похвалы за честное признание антропоцентризма всей дискуссии. Он предлагает отложить по одной из осей степень сходства других разумов с нашим — что, опять же, естественным образом помещает нас на верхний конец этой шкалы (ось H, от human-likeness — человекоподобие), максимальное значение которой произвольно принято за 10.

Другая ось на двумерном графике Шанахана практически совпадает с осью Коха: «способность к сознанию» (ось C, от capacity for consciousness). Этот параметр (которому также произвольно присвоено максимальное значение 10) соответствует «богатству опыта», на которое способна сущность. «Кирпич получает ноль по этой оси, — говорит Шанахан, — тогда как человек — значительно больше».

На этом графике, как и у Коха, животные по мере возрастания их когнитивной сложности располагаются более или менее на диагональной линии, идущей от начала координат (где находится кирпич) до точки отсчета для человека (рисунок 2.3а). Современные машины и компьютерные алгоритмы несколько различаются по степени человекоподобия — бытовой робот-пылесос Roomba считается более похожим на человека, чем алгоритм ИИ вроде игровой программы AlphaGo, — но ни один из них не наделен способностью к сознанию (рисунок 2.3б).

Шанахан готов заселить свою плоскость H–C не только известными нам сущностями, но и теми, которые мы можем лишь вообразить: более сложными формами ИИ, чем существующие сегодня, например «общим искусственным интеллектом» (AGI), обладающим некоторой степенью человекоподобного сознания, либо полностью его лишенным («зомби-AGI»); сознательными экзотическими существами (биологическими, искусственными или сочетающими в себе и то, и другое), непохожими на нас до полной непостижимости; и «детьми разума», которых мы когда-нибудь сможем создать и которые будут обладать сверхчеловеческой способностью к сознанию, оставаясь при этом достаточно похожими на нас, чтобы с ними можно было вести диалог (рисунок 2.3в). Вдоль нижнего края графика тянется «бездна непостижимости» — область, где могут находиться сущности, которые, даже если они демонстрируют сложное поведение, настолько не похожи на нас, что мы не можем осмысленно говорить об их способности к сознанию в категориях, применимых к нам самим. Нам потребовались бы другие слова или понятия, чтобы описать эти измерения их разума.

Рисунок 2.3. Пространство возможных разумов в представлении Мюррея Шанахана, характеризующееся параметрами человекоподобия (H) и способности к сознанию (C). а, Человек в сравнении с другими животными. б, Человек и ИИ. в, Области, которые могут быть заселены как известными, так и неизвестными разумами.

График Шанахана иллюстрирует ценность этого упражнения, каким бы фантастическим оно ни казалось. Он позволяет нам увидеть и, в первом приближении, количественно оценить сходства и различия между нашим разумом и другими. Он дает нам возможность мыслить изобретательно и в то же время последовательно о том, какие типы разумов могут существовать. Он показывает нам, о каких областях мы что-то знаем, какие остаются загадкой, какие могут быть заселены благодаря технологиям ближайшего будущего, а какие бросают вызов нашему воображению. «Поместить человеческое сознание в более широкое пространство возможностей кажется мне одним из самых глубоких философских проектов, которые мы можем предпринять», — говорит Шанахан. «Но этот проект обделен вниманием. Поскольку у нас нет гигантов, на чьих плечах мы могли бы стоять, лучшее, что мы можем сделать, — это запустить несколько сигнальных ракет в темноту».

Сегодня появляется своего рода литература о Пространстве возможных разумов — дисциплине, которую специалист в области компьютерных наук Роман Ямпольский предложил назвать интеллектологией. Она существует в основном в «серой зоне», где наука встречается с безудержными футурологическими умозрениями о сверхинтеллекте и постгуманизме. Порой в ней разум представляется как нечто едва ли превосходящее способность к абстрактным вычислениям или манипулированию информацией, представленной в виде «битовых строк». Поскольку эта позиция, по-видимому, даже не имеет очевидной связи с традиционными подходами к пониманию человеческого разума, неясно, насколько продуктивной она окажется. Теория информации, безусловно, играет важную роль в осмыслении мышления и разумности, однако нет никаких причин полагать, будто наше понимание разума обязано (или должно) быть столь сухим, столь редукционистски оцифрованным.

Тем временем антропоцентрический взгляд философов на разум приучил нас исходить из предположения, что речь идет о сознательной сущности, причем, скорее всего, похожей на нас. Широкий взгляд Сломана на Пространство разума ставит это предположение под сомнение, и, безусловно, в этой книге к дискуссии будут привлечены некоторые сущности, которые, как мы уверены, лишены этого свойства сознания, — например, современные системы искусственного интеллекта. В связи с этим возникают вопросы. Какая часть Пространства разума охватывает сознающие разумы? Насколько четки его границы? Может ли сознание быть обусловлено определенными ключевыми характеристиками разума и, таким образом, ограничиваться четко очерченной, уникальной областью этого пространства? Или же существует множество путей обретения сознания и, действительно, множество различных форм сознания? У нас пока нет ответов на эти вопросы, но Пространство возможных разумов создает арену для их формулирования.