Мне бы хотелось на данном этапе нарисовать для вас картину Пространства разума и указать наше место в нем. Но те карты, которые мы можем предложить сейчас (несколько я показал вам ранее), подобны средневековым mappae mundi: они вполне надежны в наших окрестностях, эскизны на приграничных землях и представляют собой не более чем догадки в отношении далеких краев, где мы, возможно, изображаем сказочных чудовищ, в самом существовании которых не уверены.

Откровенно говоря, я до сих пор не совсем уверен, что понятию Пространства разума вообще можно придать научную строгость. Сравнивать его с картой — значит предлагать удобную и знакомую аналогию, но физика дает нам аналогию получше. Физики регулярно используют понятие «фазового пространства» — многомерной области, координатами в которой служат параметры, характеризующие рассматриваемую систему. Состояния вещества, например, можно расположить в трехмерном фазовом пространстве с координатами температуры, давления и плотности (или объема); разные области этого пространства соответствуют твердым телам, жидкостям и газам с четкими границами между ними. Возможно, существует фазовое пространство разумов, содержащее отдельные области, соответствующие типам разума. И все же я совсем не уверен, что у разумов есть параметры, аналогичные давлению и температуре, которые плавно меняются и по поводу которых все согласились бы. Пространство разума, вероятно, не является столь же определенным и объективным научным понятием, как Пространство материи.

И все же мне кажется, что это полезный образ, поскольку размышления о компонентах разума помогают нам уточнить наше представление о том, что такое разум и каким он может быть. И я верю, что мы можем по крайней мере поразмышлять об этих компонентах, об этих гипотетических измерениях Пространства разума. Возьмем память: трудно представить себе разум, заслуживающий этого названия, лишенный этой способности. Разум должен сохранять некий отпечаток пережитого, который направляет его последующее поведение. Мы также видели, как важно для функционирования разума наличие отпечатка, репрезентации окружающей среды, возможно, включающей встроенный образ его собственных состояний и состояний тела, в котором этот разум воплощен. Без этого исчезает сама «направленность на что-то» (aboutness), лежащее в основе разумности. Но виды памяти, которые делают это возможным, конечно же, нельзя охарактеризовать или сравнить с помощью единой шкалы, такой как емкость в мегабайтах (что бы ни говорили нам производители компьютеров). Даже для компьютеров важно, к примеру, насколько точна эта память и с какой скоростью осуществляется запись и доступ к ней. Таким образом, мы можем признать память частью топографии Пространства разума и начать размышлять о том, как ее картировать.

Или возьмем сознание. Само мое определение разума (каким бы оно ни было) отсылает к свойству осознания или сознания: для того чтобы сущность обладала разумом, должно существовать нечто, каково это — быть этой сущностью. Но стоит нам начать исследовать сознание, как мы обнаруживаем, что и оно вряд ли имеет единую меру; это не ручка настройки, которую можно выкрутить на максимум или минимум. Сознание само по себе, скорее всего, является сложным, составным феноменом: например, разум может осознавать то, что происходит с ним в данный момент (что мы могли бы назвать способностью чувствовать — sentience), но он также может обладать автобиографическим осознанием своего прошлого и своего существования как непрерывного «я». Или же оно может быть фрагментированным, как, по мнению некоторых, устроен разум головоногих.

Я бы предположил, что субъектность — способность целенаправленно влиять на происходящее — это еще одна «территория разума», где-то в контурах которой мы можем начать использовать это неудачно названное, но тем не менее полезное понятие «свободы воли». И я подозреваю, что каждую сенсорную модальность можно рассматривать как открывающую новые измерения Пространства разума: в каком-то смысле ястреб, бладхаунд и летучая мышь находятся в иных областях этого пространства, отличных от нашего местоположения, в силу своей превосходящей остроты зрения, обоняния и слуха.

Одно из наиболее часто упоминаемых измерений Пространства разума — это интеллект. Даже в большей степени, чем сознание, это понятие давно созрело для хирургически точного препарирования; я бы зашел так далеко, что сказал бы: в науке и философии разума возникла огромная путаница из-за некритического допущения, будто мы знаем, что такое интеллект. Стоит нам начать рассматривать разум животных или гипотетический машинный разум, как становится ясно, что в действительности мы понимаем его очень плохо. Существует, например, интеллект, задействованный в решении задач и использовании орудий, который отличается от интеллекта, необходимого для навигации, социального взаимодействия или высшей математики. Тем не менее люди, по-видимому, способны переносить некоторые навыки из одной когнитивной области в другую, как если бы существовал своего рода интеллект, выступающий в роли универсального когнитивного ресурса. Как мы видели ранее (здесь), IQ обычно рассматривается как количественная мера такого общего интеллекта, или «g-фактора», для которого коэффициент интеллекта (IQ) служит измеримым косвенным показателем. Этот показатель сам по себе может быть разделен на другие компоненты, такие как количественное мышление, рабочая память и зрительно-пространственная обработка. Иными словами, человеческий интеллект может иметь относительно небольшое количество количественно измеримых координат.

Другие, однако, предполагают, что человеческий интеллект охватывает несколько независимых областей. Гарвардский психолог Говард Гарднер утверждал, что не существует корреляции между, скажем, математическим, лингвистическим, музыкальным или кинестетическим интеллектом конкретных людей. Возможно, существуют даже такие категории, как духовный, нравственный и экзистенциальный интеллект. Теория множественного интеллекта Гарднера спорна, не в последнюю очередь потому, что эмпирических данных в ее поддержку крайне мало. Но многим академическим отличникам наверняка стоило бы поумерить гордыню перед лицом когнитивных способностей, демонстрируемых спортсменами, или эмпатических социальных навыков людей с весьма посредственными результатами экзаменов. Полезность понятия «общего интеллекта» становится еще менее очевидной, когда мы рассматриваем нечеловеческий разум; недавний обзор литературы, проведенный биологом Винсентом Каро из Оттавского университета и его коллегами, показал, что существует довольно мало доказательств в пользу того, что это понятие имеет смысл для животных. Мы уже видели, что когнитивные способности могут сильно различаться даже у близкородственных видов и что мы до сих пор не уверены, какие именно способности нам следует измерять у животных и как лучше это делать. Здесь-то концепция Пространства разума и может подтолкнуть нас к более широкому и детальному пониманию того, чем является и чем может быть интеллект.

Есть ли некая суть, общая для всех разумов? Если бы мне пришлось выбрать одну ключевую черту, которая характеризует разумность, я бы назвал следующую: разум ищет во Вселенной то, что имеет для него значение. Ибо вот странная, но неизбежная истина о природе реальности: она не имеет единой, раз и навсегда заданной формы, но должна интерпретироваться, фильтроваться и оцениваться. Я пытался подчеркнуть, что человеческий разум воспринимает не «мир как он есть», а его внутреннюю репрезентацию, которая нам полезна. Мы не видим тепла (инфракрасного излучения теплых объектов), хотя можем чувствовать его, если находимся достаточно близко к источнику (которым может быть тело другого человека). Мы не видим рентгеновское излучение. У нас нет биологических механизмов, способных давать изображение атомов или хотя бы бактерий. Наше сенсорное окно в мир и репрезентация, которую мы на его основе создаем, ограничиваются скорее эволюцией, нежели физическими законами. Способность видеть хотя бы микробов с помощью «глаз-микроскопов» не запрещена законами оптики, и можно представить, что порой она была бы полезна — но, судя по всему, она просто не стоила эволюционных затрат.

Наша значимая информация, наша личная реальность, отбирается из гораздо, гораздо большего объема того, что существует «вовне» — и отбирается не произвольно, а так, чтобы это в достаточной степени соответствовало содержанию физического мира, позволяя нам приспосабливаться, процветать и размножаться в нем. Как мы видели ранее, даже то, что воспринимает наш разум, — это лишь малая часть того, что регистрируют наши органы чувств; эта информация фильтруется, структурируется и интегрируется в зависимости от того, насколько она полезна в качестве основы для поведения. Более того, наш разум наделяет эту информацию ценностью: тому, что более значимо (потому что более полезно), присваивается большая ценность для нас. Джулио Тонони и Джералд Эдельман предполагают, что эта шкала ценностей создается эмоциями.

Процесс отбора сенсорной информации дополняется догадками. Фактически наш ментальный мир по большей части состоит из догадок: он гораздо шире нашего перцептивного мира, поскольку включает в себя то, что, как мы знаем, произошло, но чего мы больше не испытываем, а также то, что, как нам известно, существует и происходит вне поля нашего зрения (но не вне поля нашего ума). Эмили Дикинсон выразила это удивительно красиво:

Мозг — шире, чем небеса —

Ведь — положите их рядом —

Один другой вместит

С легкостью — и Вас — в придачу.

Таким образом, это один из способов осмыслить, что же на самом деле представляет собой разумность: процесс, посредством которого первозданная природа наделяется ценностью. Когда ученые говорят вам (а некоторые из них, боюсь, склонны к этому), что Вселенная кажется бессмысленной, они совершают категориальную ошибку. Вселенная в целом — неподходящее место для поисков смысла, цели бытия и существования. Вглядитесь лучше в разумы, которые создают свои собственные вселенные.

Почему одного типа разума недостаточно

Альберт Эйнштейн признавал ограниченность нашего мысленного взора с присущим ему сочетанием смирения и благоговения перед тайнами Вселенной. «Человек, — писал он, — наделен как раз достаточным количеством интеллекта, чтобы ясно видеть, насколько этот интеллект совершенно недостаточен перед лицом сущего»*.

Мы не знаем, впрочем, прав здесь Эйнштейн или нет. Сможем ли мы постичь все, что можно знать о реальности, с помощью того разума, которым обладаем? Это было бы действительно странно, ведь наш разум никогда не предназначался для этой цели. Разве не было бы странным совпадением, если бы наш разум оказался как раз нужной формы и размера, чтобы в него могла вместиться «теория всего»?*

Но это могло бы показаться менее странным или случайным, если бы столь полное понимание космоса было достижимо в рамках всего Пространства возможных разумов. Это одна из глубочайших тайн науки — возможно, мы никогда не доберемся до ее сути, точно так же как не можем разрешить самореферентные лингвистические парадоксы*, — то, что Вселенная способна породить способность к самопознанию. Мы можем быть уверены, что часть этого самопознания заключена в человеческом разуме: наука пришла к выводам, которые, как я верю, останутся незыблемыми и которые приблизились к истине настолько близко, насколько мы вообще могли надеяться. Впрочем, не будет ничего удивительного, если у нас все же есть свои пределы.

Подобно тому как взгляд со стороны может помочь по-новому взглянуть на сложную проблему, другие разумы, возможно, способны воспринимать и понимать то, что останется недоступным для нас. Не думаю, что это чистый романтизм — предположить, что в отношении некоторых других животных это, вероятно, справедливо уже сейчас, пусть даже они и не могут сформулировать эти прозрения ни нам, ни, скорее всего, самим себе. Мне кажется крайне вероятным, что однажды искусственный интеллект выйдет за пределы нашей собственной способности познавать и понимать, хотя на сегодняшний день у него нет ни знаний, ни понимания, которые заслуживали бы этих слов. (Я избегаю формулировки «возможности ИИ превзойдут наши», поскольку вполне вероятно, что мы продолжим знать некоторые вещи, недоступные будущему ИИ. ИИ, так сказать, может превзойти нас не во всех направлениях — хотя в некоторых он уже это сделал.) Было бы приятной симметрией, если бы способность Вселенной порождать разумы, способные познать её, была соразмерна пространству того, что вообще может быть познано. Нет причин считать, что это непременно так, но я готов выдвинуть это в качестве гипотезы (будучи уверен, что в ближайшее время её никто не опровергнет).

И всё же в фундаментальных законах природы — насколько мы их сейчас знаем — нет ничего, что намекало бы на эту способность материи познавать саму себя и Вселенную, в которой она существует. Для меня эта способность гораздо более удивительна, чем то, что эти «фундаментальные» законы допускают, скажем, существование чёрных дыр. Последнее мы можем вывести из одних только законов, без эмпирических подсказок — собственно, именно так мы и поступили, ведь существование чёрных дыр было предсказано задолго до того, как были получены веские доказательства их реальности. Но никто ещё не предсказал появление разума, исходя из первых принципов. Мы всё ещё бьёмся, пытаясь объяснить собственное существование, довольствуясь грубыми инструментами и почти отсутствующими теориями, и не зная наверняка, сможем ли мы когда-нибудь вырваться из логических петель, которые обнажает эта попытка.

Это не означает, что для возникновения разума требуется что-то сверх этих фундаментальных законов; более того, всё, что мы знаем о нашем разуме к настоящему моменту, подтверждает, что в чём-то большем нет необходимости. Но от этого данный вопрос становится лишь более поразительным. Велик соблазн заподозрить, что разумность, как и сама жизнь, является неотъемлемым свойством Вселенной. Насколько то или другое распространено или редко во Вселенной — по сравнению с этим вопрос второстепенный. Сам факт существования сознающей материи заставляет задуматься: нет ли в самой основе информации некоего свойства, которое делает это существование неизбежным?

Но существует множество форм жизни и множество состояний материи, а потому с нашей стороны было бы опрометчиво полагать, что сознающая материя, укрытая под нашей кожей, уникальна в своём роде. Фундаментальный вопрос о Пространстве возможных разумов звучит так: какие возможности разума допускают законы материи?

Возможно, нам стоит перевернуть этот вопрос с ног на голову и задуматься: не зависят ли сами эти «законы» от типов разума, которые их воспринимают и формулируют? Это не означает, что законы природы для других разумов окажутся какими-то «другими», скорее, опыт иных разумов может просто не поддаваться формулированию в терминах тех законов, как их выражаем мы сами. В этом может заключаться одно из практических преимуществ более ясного представления о Пространстве возможных разумов: оно могло бы расширить горизонты нашего собственного ума, освободив нас от смирительной рубашки наших убеждений и слепых зон нашего восприятия.

Мы уже пытаемся исследовать этот путь, разрабатывая искусственный интеллект, способный совершать подлинные научные открытия, стремясь сжать данные в научные законы. На первый взгляд исследования в области «создающего теории ИИ» подтверждают интуитивное ощущение многих учёных о том, что наши физические законы и теории универсальны: любые другие разумные существа воспроизведут их в общих чертах. Однако при этом упускается из виду тот факт, что подобные системы ИИ — разновидности алгоритмов машинного обучения — изначально направляются к нашей картине мира самим характером данных, которые мы им предоставляем. Мы, к примеру, описываем движение планет как движение объектов по траекториям в пространстве и времени относительно нашего собственного положения как наблюдателей. Трудно представить, как ещё можно мыслить подобные физические явления, если не в терминах дискретных движущихся объектов. У меня самого не хватает воображения, чтобы измыслить альтернативы, кроме того лишь замечания, что нам не следует принимать как данность, будто головоногие моллюски, пчёлы или летучие мыши делят мир на части точно таким же образом. А ведь они — всего лишь наши соседи по Пространству разума.

Именно поэтому Дж. Б. С. Холдейн советовал проявлять скромность в том, как мы воображаем и изображаем мир в наших схемах и науках. «Мы только-только подбираемся к зачаткам иных способов мышления, — писал он. — Я не чувствую, чтобы кто-то из нас знал достаточно о возможных видах бытия и мысли, чтобы стоило воспринимать любую из наших метафизических систем намного серьёзнее тех, к которым мог бы прийти мыслящий морской жёлудь». Для морского жёлудя мир — это всего лишь скала. (Конечно, даже не скала, а, скорее, опорная поверхность, омываемая питательным бульоном.) По мере того как мы искусственно расширяем наши каналы восприятия, мы понимаем, как много упускали, цепляясь за эту нашу скалу: рентгеновские лучи и радиоволны, глюоны и гравитоны, тёмную материю и антиматерию. Нам лучше допустить, что на свете всё ещё есть много такого, что и не снилось нашим философиям. По знаменитому выражению Холдейна: «Я подозреваю, что Вселенная не только причудливее, чем мы предполагаем, но и причудливее, чем мы вообще можем предположить».

«Наша единственная надежда понять Вселенную, — говорил он, — заключается в том, чтобы посмотреть на неё с как можно большего числа различных точек зрения». Нам нужны другие разумы.

Дизайн разума

Идея пространства возможных состояний или объектов не ограничивается физикой. Современные химики представляют себе и исследуют «химическое пространство» — астрономический спектр возможных способов соединения различных химических элементов в молекулы и материалы. Это помогает им определить, где искать химические соединения с полезными свойствами, такими как сверхвысокая твёрдость, электропроводность или специфическая фармакологическая активность. Если у такого пространства правильно выбраны координаты, вещества с похожим поведением могут занимать в нём одни и те же области. Тогда «пространства», отражающие, к примеру, взаимосвязь прочности и твёрдости материалов, можно использовать для поиска новых веществ и для объединения уже известных в отдельные семейства.

Таким образом, подобные пространства становятся не просто изящным наглядным обобщением того, что уже известно, но и инструментами для планирования, проектирования и конструирования. Мы можем думать о Пространстве возможных разумов схожим образом: как об инструменте для того, что Сьюзан Шнайдер называет дизайном разума, при котором мы выбираем, какие свойства хотим добавить разуму, усилить, убрать или ослабить.

Современные вмешательства в человеческий разум с помощью нейрохирургии и фармакологии больше похожи на взлом разума (в первом случае буквально), чем на его дизайн. Но они совершенствуются. Психиатрия и неврология уже давно пытаются осуществлять своего рода топорный дизайн разума менее инвазивным путём — используя методы от когнитивно-поведенческой терапии до транскраниальной магнитной стимуляции. Мы становимся гораздо искуснее в создании интерфейсов «мозг — машина», которые позволяют нейронам напрямую управлять искусственными устройствами по воле пользователя. Трансгуманистическое движение, сторонники которого верят, что люди могут и должны выйти за рамки наших нынешних ментальных и физических ограничений с помощью технологий, порой наивно в своей вере в недоказанные и весьма фантастические технологии будущего. Однако в той мере, в какой оно предполагает переосмысление и радикальный редизайн человеческого разума, оно указывает на реальную и стоящую возможность: мы могли бы более эффективно использовать ресурсы Пространства разума. Так или иначе, дизайн разума может со временем превратиться в инженерную дисциплину, поддающуюся рациональному планированию.

Что определяет топографию этого пространства дизайна? Где оно, скажем, густонаселено, а где пустынно? Мы, конечно, ещё не знаем ответа; мы едва понимаем сам вопрос. Но возможности для дизайна наверняка не произвольны: они позволят создать одни виды разума, но не другие. Природа ведь никогда не черпает из бесконечной палитры вариантов. Хотя наш разум и разум других животных создавались с нуля по эволюционной стратегии проб и ошибок — случайных мутаций в сочетании с естественным отбором, — этот процесс шёл в рамках определённых ограничений. То, что физически осуществимо для тела, должно соответствовать законам физики, которые, как мы видели, предписывают летающим существам иметь крылья, а плавающим — обтекаемые тела. Логично предположить, что разумы на Земле также происходят из пространства возможностей, в котором определённые свойства незаменимы или неизбежны: например, некоторый объём памяти или ограниченный диапазон сенсорных сигналов и лимиты на возможные способы их интеграции.

Мы не знаем, что диктует эти варианты выбора и требования, но это, вероятно, как-то связано с фундаментальной природой — можно сказать, экологией — информации: тем, как её можно отфильтровать из окружающей среды, какими способами она обретает смысл, как её можно наиболее эффективно организовать, хранить и использовать, и какие типы телесного воплощения позволяют её собирать и применять. Чтобы лучше понять форму Пространства разума и определяющие его параметры, нам понадобится настоящая «теория разума» — не в классическом психологическом смысле, а наука, способная охватить и объяснить происхождение и работу разумов. Это не то же самое, что теория человеческого мозга, точно так же, как теория работы двигателей внутреннего сгорания — не то же самое, что полное, предсказательное понимание устройства автомобиля «Форд Понтиак». Первое — это более глубокое объяснение сути автомобилей, и его даже может быть проще сформулировать, поскольку оно не обременено бесконечными мелкими деталями о том, как работают стеклоподъёмники и как включаются фары.

Подобно тому как многие технологии предвосхитили понимание своих физических принципов, мы на самом деле на протяжении тысячелетий формируем и в какой-то степени конструируем наш разум. Ведь именно этим и занимается культура. Мозг и поддерживаемый им разум перестраиваются под влиянием опыта — от уровня отдельных нейронов и их связей до его крупных анатомических особенностей. Культура систематически меняет разум, пусть часто и незаметным, тонким образом: влияя, например, на то, как мы воспринимаем цвета, музыку, пищу, и на то, как разум строит моральные и социальные суждения. Практически наверняка этот процесс формирования разума ускоряется. «Продолжающаяся цифровая революция, глобализация культурной информации и наступление эпохи эмпатии»*, — пишет Антонио Дамасио, — «вероятно, станут факторами давления, которые приведут к структурным изменениям разума и „я“, под чем я подразумеваю изменения самих мозговых процессов, формирующих разум и „я“».

Технологии сегодня расширяют границы человеческого Пространства разума всё дальше и быстрее. По мере того как мы распространяем сферу действия нашего разума в физическое пространство с помощью протезов, систем дистанционного виртуального управления и других интерфейсов «человек — машина», мы, возможно, расширяем и сами измерения разума. Вполне реально представить себе, к примеру, расширения памяти, в которых управляемые разумом микросхемы обеспечивают прямую передачу информации в мозг. Подобные возможности мотивируют проект Илона Маска по созданию «нейрокружева» (neural lace), цель которого — разработать биосовместимый интерфейс для записи и, возможно, передачи электрически закодированной информации к нейронам и от них, и даже внедрения слоя искусственного интеллекта прямо в мозг. Как это часто бывает со стартапами Кремниевой долины, детали проекта Маска остаются туманными и скрытыми, что вызывает подозрения, будто сейчас эта идея движима скорее хайпом и фантазиями, нежели строгой наукой. Но сам принцип не кажется абсурдным. Может ли подобная система в конечном итоге позволить делегировать некоторые когнитивные процессы — скажем, арифметические вычисления — внешним устройствам, причём не путём ручного ввода на клавиатуре или сенсорном экране, а исключительно силой мысли? Сможем ли мы однажды подключить наш разум к целой батарее периферийных устройств — или даже друг к другу?

Существует долгая, поистине древняя традиция расширения разума с помощью фармацевтических средств. Какова бы ни была реальная ценность (не говоря уже об опасностях) галлюциногенных препаратов, нет сомнений в том, что они способны вводить нас в ментальные состояния, недоступные иным путём. Многие современные методы медикаментозного воздействия на разум, конечно, направлены скорее на то, чтобы вернуть его в привычные рамки, а не вывести за их пределы. Станислас Деэн предполагает, что такие состояния, как шизофрения, можно рассматривать как «болезни сознания» — нарушения механизмов, с помощью которых конструируется здоровое сознательное состояние, вызванные, по-видимому, сбоями в выработке или усвоении химических нейромедиаторов, таких как дофамин и глутамат. Именно поэтому в некоторых методах лечения используются препараты для восстановления баланса. Однако сейчас разрабатываются и другие препараты, которые повышают концентрацию внимания или улучшают память, либо в сочетании с другими методами лечения могут избирательно имплантировать или стирать воспоминания. Тем не менее мы всё ещё очень слабо представляем, какие новые свойства разума могут возникнуть в результате изменения химического баланса в мозге.

В качестве альтернативы можно представить вмешательство в биологию роста и поддержания жизнедеятельности мозга: изменение генетических систем, отвечающих, например, за создание молекул рецепторов нейромедиаторов, рост дендритных сетей нейронов или регулирование распределения различных типов нейронов и других клеток. Уже сейчас органоиды мозга (здесь) дают возможность безопасно и этично исследовать такие варианты. Конечно, потенциальные опасности при изучении этих вопросов носят не только медицинский, но и социальный характер: именно за счёт изменения химического состава эмбрионов, выращиваемых искусственно в «инкубаториях», Мировое Государство в романе Олдоса Хаксли «О дивный новый мир» создало кастовую систему интеллекта. Но способность перенаправлять развитие и функционирование мозга и разума может принести и пользу. «Мы вполне можем оказаться в состоянии конструировать желания и мотивацию», — говорит австралийский философ Джулиан Савулеску. Если нейроулучшение — то, что мы теперь можем представить как расширение человеческого Пространства разума, — осуществимо, то, по утверждению Савулеску, оно становится моральным обязательством: как мы можем разумно отказаться от возможности совершенствовать себя когнитивно и интеллектуально? Однако он добавляет, что такое улучшение может быть рискованным, если оно не будет сопровождаться усилиями по конструированию более совершенной морали. Другие задаются вопросом, имеем ли мы хоть малейшее представление о том, к чему это приведёт, не в последнюю очередь потому, что далеко не очевидно, что когнитивное и моральное улучшение предполагают манипулирование независимыми измерениями разума. И сможем ли мы вообще прийти к согласию относительно того, что считать моральным улучшением?

Если оставить в стороне этические проблемы, конструирование разума будет технически сложной задачей. Учитывая тесную взаимосвязь и взаимозависимость нейронных цепей и функций человеческого познания, весьма вероятно, что измерения разума не являются ортогональными: стоит вмешаться в одно, и это может повлечь за собой последствия для других. Мозг, по всей видимости, представляет собой тонко настроенный орган, в котором «улучшение» или усиление в одной области требует некоторого компенсирующего ослабления в другой. Если мы собираемся его изменять, нам для начала не мешало бы получить хорошее представление о том, как выглядит это пространство дизайна.

Помня о том, что действительно важно

Кто-то наверняка спросит по поводу самой идеи конструирования разума: разумно ли это?

Это правильный вопрос во многих отношениях. Любой прогресс в возможностях человека несёт в себе потенциальную выгоду, но также и этические дилеммы, и никогда это не проявляется так остро, как тогда, когда достижения могут изменить нашу собственную природу: например, в технологиях вспомогательной репродукции, клонирования, генной инженерии, физического и когнитивного улучшения, а также интерфейсов «человек — машина».

Если история и учит нас чему-то в отношении того, как развиваются наши технологии, так это тому, что мы не слишком-то умеем смотреть в нужном направлении, чтобы предугадать грядущее. В то время как развитие технологий клонирования и репродукции заставляло нас беспокоиться о воскрешении Гитлера и тоталитарном социальном контроле, мы мало задумывались о том, как эти возможности проявят себя в условиях агрессивно-потребительского свободного рынка, где сегодня беспокойство вызывает то, что реклама и общественное давление могут подтолкнуть будущих родителей к тщетным, но дорогостоящим поискам совершенства. Пока мы восторгались способностью ИИ анализировать и имитировать человеческие реакции, мы не смогли предвидеть, что эти алгоритмы также будут воспроизводить наши предрассудки. Мы воображали, что социальные сети откроют новые каналы для диалога, особо не задумываясь о лавине дезинформации и ненавистнических сообщений, которая может хлынуть по этим каналам.

Я вижу ту же опасность, которая подстерегает нас по мере того, как мы составляем карту Пространства разума. До тех пор пока вычисления остаются доминирующей метафорой для разума и познания, дискуссии в нейробиологии, поведении животных, ИИ и робототехнике, скорее всего, так и будут сводиться к анализу входов и выходов, логических операций, объема памяти, структуры связей, интеграции информации и схем оптимизации. И все же очень многое из того, что имеет значение для человеческого разума, лежит совсем в иных плоскостях. Нам необходимы эмпатия, сострадание и — прежде всего — то качество, о котором я до сих пор не сказал ни слова, поскольку среди всех свойств нашего разума им пренебрегают больше всего: мудрость.

Если наши прогнозы относительно последствий создания передового ИИ и встреч с инопланетянами часто оказываются мрачными и антиутопическими, то это, похоже, оттого, что нам трудно представить, что подобные качества могут означать для нечеловеческого разума, и мы слишком часто предполагаем, что у него их попросту не будет. Но где их искать и по каким причинам? Что, если другие, незнакомые области Пространства разума на самом деле содержат в себе больше этих аффективных свойств, а не меньше — что, если мы вовсе не являемся эталоном всего жизнеутверждающего и благотворного, что есть в разуме?

И что, если именно эти качества, а вовсе не наша рациональность, изобретательность или способность к распознаванию образов, окажутся самыми жизненно важными аспектами разума для будущего нашего вида и нашей планеты? Вот почему нас должна волновать картография разумов: потому что она способна показать нам, кем мы можем стать.