Глядя на этот малоаппетитный ком, ни за что не подумаешь, что перед тобой одна из самых могущественных субстанций в известной нам Вселенной. Если бы вы никогда не видели учебника по анатомии и наткнулись на лежащий на улице мозг, вы бы сказали «Фу!» и постарались бы не испачкать обувь. Аристотель считал мозг органом, охлаждающим кровь. Он вовсе не выглядит опасным.

Пять миллионов лет назад предки львов правили днём, а предки волков бродили по ночам. Господствующие хищники были вооружены зубами и когтями — острыми, твёрдыми режущими кромками, приводимыми в движение мощными мышцами. Их жертвы в целях самообороны обзавелись в ходе эволюции панцирями, острыми рогами, ядами и камуфляжем. Война шла на протяжении сотен эпох и бесчисленных гонок вооружений. Множество проигравших выбыло из игры, но победителя видно не было. Там, где у одного вида появлялся панцирь, у другого развивалась способность его раскалывать; там, где один вид становился ядовитым, другой учился переносить этот яд. У каждого вида была своя ниша — ведь кто мог жить одновременно в море, в небе и на суше? Не существовало ни абсолютного оружия, ни абсолютной защиты, и не было причин полагать, что нечто подобное вообще возможно.

А затем наступил День Мягкотелых.

У них не было брони. У них не было когтей. У них не было яда.

Если бы вы увидели запись ядерного взрыва и вам сказали бы, что это дело рук земной формы жизни, вы бы и в самых безумных фантазиях не представили, что за этим стоят Мягкотелые. В конце концов, сами Мягкотелые не радиоактивны.

Вначале у Мягкотелых не было ни истребителей, ни пулемётов, ни винтовок, ни мечей. Ни бронзы, ни железа. Ни молотов, ни наковален, ни клещей, ни кузниц, ни рудников. Всё, что было у Мягкотелых, — это их мягкие пальцы, слишком слабые, чтобы сломать дерево, не говоря уже о горе. Очевидно, они не представляли опасности. Чтобы резать камень, нужна сталь, а Мягкотелые не умели выделять сталь. В природе не валялось стальных лезвий, которые мягкие пальцы могли бы подобрать. Их тела не могли генерировать температуру, даже отдалённо достаточную для плавки металла. Весь этот сценарий выглядел откровенным абсурдом.

А уж мысль о том, что Мягкотелые будут манипулировать ДНК, была и вовсе запредельно смехотворной. Мягкие пальцы не настолько малы. С уровня Мягкотелых доступа к ДНК нет; это всё равно что пытаться ухватить атом водорода. О, технически это всё одна вселенная, технически Мягкотелые и ДНК — часть одного мира, подчинённого одним и тем же единым законам физики, той же великой паутине причинно-следственных связей. Но давайте смотреть на вещи реально: отсюда туда никак не добраться.

Даже если бы Мягкотелые и могли когда-нибудь эволюционировать до подобных свершений, на это ушли бы тысячи тысячелетий. Мы наблюдали за приливами и отливами Жизни на протяжении эпох и уж поверьте нам: год — это даже не один тик эволюционных часов. О, конечно, технически год равен шестистам триллионам триллионов триллионов триллионов планковских интервалов. Но ничто и никогда не происходит быстрее, чем за шестьсот миллионов триллионов триллионов триллионов триллионов планковских интервалов, так что этот спор лишён смысла. Мягкотелые, бегающие сейчас по саванне, полетят над континентами не раньше чем через десять миллионов лет; ни у кого не может быть столько секса.

А теперь объясните мне ещё раз, почему Искусственный Интеллект не способен сделать ничего примечательного в Интернете, пока программист-человек не построит для него тело робота.

Я заметил, что рефлекторная реакция человека на слово «интеллект» — мысль, которая проносится у него в голове в первую же полсекунды после того, как он слышит это слово, — часто определяет его инстинктивную реакцию на саму идею взрыва интеллекта. Часто люди, обращаясь к понятию «интеллект», извлекают из памяти концепт «книжного ума» — мысленный образ гроссмейстера, который никак не может сходить на свидание, или университетского профессора, неспособного выжить за пределами академической среды.

«Чтобы преуспеть в профессии, одного интеллекта мало», — говорят люди, как будто харизма гнездится в почках, а не в мозгу. «Против пули интеллект бессилен», — говорят они, словно пистолеты растут на деревьях. «Откуда Искусственный Интеллект возьмёт деньги?» — спрашивают они, словно первые Homo sapiens находили падающие с неба долларовые купюры и расплачивались ими в магазинчиках, которые уже стояли в лесу. Человеческий вид не родился в условиях рыночной экономики. Пчёлы не продадут вам мёд, если вы предложите им электронный перевод. Человеческий вид вообразил деньги, вызвав их к жизни, и они существуют — для нас, а не для мышей или ос, — потому что мы продолжаем в них верить.

Я постоянно пытаюсь объяснить людям, что архетип интеллекта — это вовсе не Дастин Хоффман в «Человеке дождя». Это человек, и точка. Это мягкотелые создания, которые взрываются в вакууме, но оставляют следы на своей луне. Внутри этого серого влажного комка кроется сила, позволяющая прокладывать пути сквозь великую паутину причинно-следственных связей и находить дорогу к тому, что кажется невозможным, — сила, которую иногда называют творчеством.

Люди — в особенности венчурные капиталисты — иногда спрашивают, как именно результаты будут коммерциализированы, если Научно-исследовательский институт машинного интеллекта (MIRI) успешно создаст истинный ИИ. Вот это мы и называем проблемой фрейминга.

А может быть, тут кроется нечто более глубокое, чем простое несовпадение предпосылок. Приложив немного творческого мышления, люди могут представить себе, как отправиться на Луну, победить оспу или производить компьютеры. Но вообразить трюк, способный совершить всё это разом, кажется решительно невозможным — хотя подобная сила таится всего в нескольких сантиметрах за их собственными глазами. Серая влажная штуковина по-прежнему кажется загадкой для самой этой серой влажной штуковины.

И поэтому, поскольку люди не вполне понимают, как всё это будет работать, сила интеллекта кажется менее реальной; её сложнее вообразить, чем огненный столп, отправляющий корабль на Марс. Перспектива полета на Марс будоражит воображение. Но если пообещать и полет на Марс, и теорию Великого объединения, и доказательство гипотезы Римана, и лекарство от ожирения, и лекарство от рака, и лекарство от старения, и лекарство от глупости — что ж, это просто звучит как-то неправильно, вот и всё.

И это вполне естественно. Считать, что интеллект годен лишь на столь малое, — это серьезный провал воображения. Кто мог вообразить давным-давно, на что однажды окажется способен разум? Возможно, мы даже не знаем, в чём заключаются наши настоящие проблемы.

Но тем временем, поскольку трудно понять, как один процесс может обладать столь разнородными силами, трудно и вообразить, что одним махом можно решить даже такие прозаические проблемы, как ожирение, рак и старение.

Что ж, один-единственный трюк победил оспу, построил самолеты, окультурил пшеницу и приручил огонь. Наша нынешняя наука, возможно, ещё не сошлась во мнениях о том, как именно работает этот трюк, но он всё равно работает. Если вы временно чего-то не знаете о каком-то явлении, это факт о вашем нынешнем состоянии ума, а не о самом явлении. Пустая карта не означает пустую территорию. И даже если человек не вполне понимает силу, которая оставила следы на Луне, эти следы всё равно там — настоящие следы на настоящей Луне, оставленные настоящей силой. Если понять её достаточно глубоко, то эту силу можно будет создавать и направлять. Интеллект так же реален, как электричество. Просто он гораздо мощнее, гораздо опаснее, влечет за собой куда более глубокие последствия для разворачивающейся истории жизни во Вселенной — и понять, как построить для него генератор, самую малость сложнее.

*