Среди прочих опасений, связанных с искусственным повышением интеллекта, есть и такое: группа очень умных людей может вольно или невольно причинить колоссальный вред другим. Ингмар Перссон и Джулиан Савулеску утверждали, что нам, вероятно, стоит наложить мораторий на искусственное усиление когнитивных способностей, пока мы не научимся улучшать наших детей еще и морально²⁰. О моральном совершенствовании мы подробнее поговорим в следующей главе. Однако стоит признать, что такой довод вполне обоснован.

Умный психопат много опаснее умственно отсталого. Но главное, мир, населенный обладателями искусственно усиленных когнитивных способностей, – это мир, где ускоряется научно-технический прогресс. А это не только полезно и приятно, но и чревато тем, что горстка злоумышленников причинит значительный ущерб. Даже когнитивно усовершенствованные люди могут недооценить риск, связанный с запуском новой технологии. А если со временем накопится достаточно рискованных инноваций, кара судьбы практически неизбежна²¹.

В гениальной пьесе Бернарда Шоу “Человек и сверхчеловек” Дьявол в споре с Дон Жуаном заключает, что люди склонны изобретать не только более мирные способы сосуществования, но и более совершенные способы убивать друг друга:

Я… видел удивительные изобретения человека. И могу вам сказать – в искусстве жизни человек не изобрел ничего нового, зато в искусстве смерти он превзошел даже природу. Его химия и техника смертоноснее чумы, моровой язвы и голода… Сила, которая правит миром, – Сила Смерти, а не Жизни; и движущим импульсом, который привел Жизнь к созданию человека, явилось стремление не к высшей форме бытия, а к более совершенному орудию разрушения. Действие чумы, голода, землетрясений, ураганов было чересчур непостоянным; тигр и крокодил были недостаточно жестоки и слишком легко утоляли свой голод, нужно было найти более устойчивое, более безжалостное, более хитроумное воплощение разрушительной силы. И таким воплощением явился Человек, изобретатель дыбы, виселицы, гильотины и электрического стула, меча, пушки и ядовитых газов, а самое главное – справедливости, долга, патриотизма и всех прочих измов, посредством которых даже того, кто достаточно разумен, чтоб быть человечным, убеждают в необходимости стать неутомимейшим из всех разрушителей[9]²².

Согласно такому представлению, даже люди самые благонамеренные нередко применяют технологии разрушения во имя идеологии. Ник Бостром и Андерс Сэндберг, разделяющие энтузиазм Перссона и Савулеску по поводу генетического совершенствования, выражают аналогичные опасения насчет искусственного повышения интеллекта. Они подчеркивают, что “образование может развить когнитивные навыки и способности, но оно же способно создавать фанатиков, догматиков, демагогов, умеющих обосновать все на свете, циничных манипуляторов и ковать умы косные, предвзятые, растерянные и глубоко эгоистичные”²³. Усиление когнитивных способностей через генетический отбор способно оказать такое же воздействие, если эвристика и когнитивные стили, которые приводят нас к демагогии и рационализации, передаются по наследству.

В следующей главе мы поговорим об улучшении моральных качеств как о способе смягчить новые для нас риски. Однако стоит привести три кратких возражения на доводы о том, что повышение общего интеллекта чревато экзистенциальными рисками.

Во-первых, как мы уже говорили, умные люди склонны создавать более стабильные и процветающие сообщества. В этих сообществах законы действуют лучше, а для выявления и поимки преступников разработаны более совершенные механизмы. Из этого следует, что на микроуровне государств и сообществ риск будет минимизирован, а на макроуровне глобальных союзов между странами будет больше доверия и меньше коррупции. Во-вторых, если запрещать технологии, которые позволяют родителям улучшать когнитивные способности детей, это вряд ли помешает всем ими пользоваться, учитывая, какие колоссальные личные преимущества дает высокий интеллект. Более того, подобные запреты, скорее всего, лишь усугубят уже имеющееся колоссальное когнитивное неравенство между людьми, поскольку самые богатые, умные и влиятельные люди, надо полагать, найдут доступ к черному рынку когнитивного совершенствования. В-третьих, родители все равно смогут формировать личностные черты детей при помощи генетического отбора. Хотя личностные черты наследуются не так сильно, как рост или интеллект, они все же умеренно наследуемы. Люди сознательные, совестливые и порядочные обычно больше зарабатывают и лучше учатся в школе, а еще из них получаются хорошие друзья и романтические партнеры. Иными словами, такие люди проживают более полную жизнь и достойно обращаются с другими. Поэтому весьма вероятно, что родители предпочтут отбирать детей по этому критерию, что можно будет считать формой генетического улучшения как когнитивных, так и моральных качеств.

Тем не менее это не вполне удовлетворительный ответ на опасения Перссона и Савулеску, ведь когнитивные улучшения без моральных не только дадут беспрецедентные преимущества, но и приведут к экзистенциальным рискам. Нельзя сказать заранее, перевесит ли ожидаемая польза эти неведомые риски.

Некоторые философы высказывают менее романтические, но не менее важные опасения относительно когнитивного совершенствования. Они утверждают, что повышение уровня интеллекта приведет к нежелательным побочным эффектам. В частности, Майкл Хаускеллер приводит данные, что умные люди более склонны к депрессии и, вероятно, другим психическим расстройствам, и считает это причиной отказаться от искусственного повышения интеллекта²⁴. Будь это так, родителям пришлось бы взвешивать потенциальную пользу и вред от модификации интеллекта. Однако, вообще говоря, самые надежные данные указывают, что интеллект коррелирует с душевным здоровьем не отрицательно, а положительно. Умные люди не только живут дольше и здоровее²⁵, но еще и меньше страдают от целого ряда психических расстройств²⁶.

Разумеется, нельзя исключать, что люди, которые яснее видят мир, полноценнее радуются прекрасному рассвету у калифорнийских берегов, но при этом острее осознают, с какими трудностями сталкивается человечество, и видят все недостатки окружающего мира. Глубокие мыслители не славятся бодростью духа. Однако на частные случаи полагаться нельзя. У нас еще совсем мало опыта, чтобы судить, где пролегает граница, выше которой отбор по IQ начнет приносить вред. Пока что почти нет данных, доказывающих, что такое может быть, зато достаточно много данных, свидетельствующих, что жизнь умных людей в целом складывается лучше. Время покажет.