Сочетание энтузиазма и беспокойства, которое возникает от размывания границ между природой и машинами, может показаться исключительно современной реакцией на бурную поступь научного прогресса в технологическую эпоху. Однако надежда (и тревога), окружающая идею искусственной жизни, возникла тысячи лет назад в древнегреческом мире. Мифы и образно выражали, и боролись с благоговейным трепетом, страхом и надеждами, вызванными созданием живых статуй, попытками выйти за пределы человеческих возможностей и стремлением к бессмертию. Можно сказать, этот разговор начали древние греки [361].
Вопрос, что значит быть человеком, не отпускал древних греков. Снова и снова их истории рассматривают перспективы и риски предотвращения старости и смерти, расширения возможностей смертных людей, копирования природы. Массив мифов о Прометее, Ясоне и аргонавтах, Медее, Дедале, Гефесте, Талосе и Пандоре объемен – и все они поднимают основные вопросы о различиях между биологическими и искусственными существами.
Наиболее живучие, самые любимые древнегреческие мифы – наряду с другими многочисленными, давно забытыми старыми сказками – построены на захватывающих приключениях, которые сами по себе вполне достойны известности. Однако когда мы признаем старые истории исследованиями biotechne (bios – «жизнь»; techne – «ремесло»), эта античная «научная фантастика» приобретает новый смысл. Глубоко насыщенные метафизическим проникновением в суть и предчувствиями в отношении божественного и человеческого управления естественной жизнью, мифические истории оказываются удивительно современными.
Фантазии о копировании и продлении жизни побудили к созданию запоминающихся драматических спектаклей на сцене, замечательных изображений в классической вазописи, скульптуре и других произведений искусства. Между тем примерно в 400 году до н. э. философ-механик Архит Тарентский вызвал сенсацию своей первой механической летающей птицей. В эллинистическую эпоху Герон Александрийский и другие блистательные инженеры конструировали множество механических машин, автоматика которых управлялась гидравликой и пневматикой. Греки считали, что автоматоны и другие устройства в естественных формах – неважно, воображаемые или реальные – могут быть или безобидными, или опасными, их можно использовать для работы, секса, театральных постановок, в религиозных целях или чтобы доставлять боль и смерть. Совершенно очевидно, что biotechne, реальное и воображаемое, заворажило древних людей.
Все вместе взятое: мифы, легенды и фольклор прошлого об автоматонах, роботах, репликантах, живых статуях, расширенных возможностях человека, самоходных машинах, других искусственных существах и настоящих технических чудесах – составляет виртуальную библиотеку и музей древней мудрости и экспериментов в размышлениях, бесценный ресурс для понимания фундаментальных проблем биотехнологии и искусственной жизни на грани современности. Задача этой книги – дать понять, что на более глубоком уровне древние мифы об искусственной жизни могут предоставить контекст для нарастающих в геометрической прогрессии современных разработок в области искусственной жизни и искусственного интеллекта, а также для вырисовывающихся на горизонте практических и моральных последствий. Обращение к древним историям может обогатить сегодняшние обсуждения робототехники, беспилотных машин, биотехнологии, искусственного интеллекта, самообучения машин и других инноваций.
Бог Гефест создал группу «беспилотных» треножников, которые реагировали на команды доставить еду и вино. Еще более примечательна группа золотых женщин, роботов в натуральную величину, сконструированных для выполнения его распоряжений. Согласно Гомеру, прислужницы бога были во всех отношениях «как настоящие молодые женщины, с рассудком и здравым смыслом, силой, ровными голосами, и они обладали всем знанием бессмертных». Больше чем через 25 сотен лет разработчики искусственного интеллекта все еще только стремятся достичь того, что в воображении древних греков мог создавать бог ремесла.
Чудеса Гефеста нарисовало себе древнее общество, которое обычно не считали технологически развитым. Достижения biotechne придумала культура, существовавшая за тысячи лет до пришествия роботов, которые побеждают в сложных играх, поддерживают беседы, анализируют большие базы данных и делают выводы о желаниях человека. Однако серьезные вопросы стары, как сами мифы: чьи желания будут исполнять роботы с искусственным интеллектом? У кого они будут учиться?
В 2016 году эксперимент с самообучением искусственного интеллекта вылился в поучительную сказку, когда Microsoft создал фамчат-бота юную Тэй. Предполагалось, что запрограммированная подражать нервным цепочкам человеческого мозга Тэй будет учиться у своих «друзей» в соцсети Twitter. Ожидали, что она будет ясно излагать начало диалога без фильтров и надзора за действиями. В течение всего нескольких часов жизни аккаунта Тэй в Twitter злонамеренные пользователи договорились добиться, чтобы бот превратился в говорящего тролля, извергающего расистскую и сексистскую злобу. Через считаные дни создатели удалили Тэй из сети. Легко взламываемая система обучения бота умерила оптимизм в отношении самообучающегося искусственного интеллекта и умных роботов, но лишь на время. Заменил Тэй чат-бот по имени Зо (2107), он был запрограммирован избегать разговоров о религии и политике, но тоже не оправдал ожиданий в Twitter [362].
В греческом мифе высшим достижением божественной лаборатории Гефеста оказался андроид в виде женщины, заказанный Зевсом. Чтобы покарать людей за принятие похищенного Прометеем огня, Зевс приказал Гефесту изготовить Пандору (глава 8). Каждый из богов наделил искусственную девушку отдельным человеческим свойством: красотой, обаянием, знанием ремесел и вероломным характером. Как средство мщения бога, обладающее искусственным интеллектом, Пандора исполнила миссию открыть сосуд несчастий, дабы обрушить на человечество вечные муки. Ее преподнесли в качестве жены Эпиметею, известному своим импульсивным оптимизмом. Прометей предупреждал человечество, что сосуд Пандоры никогда не следует открывать. Не являются ли Стивен Хокинг, Илон Маск, Билл Гейтс и другие наделенные даром предвидения мыслители титанами Прометеевого толка нашего времени? Они предлагали ученым приостановить или, по крайней мере, замедлить безрассудные исследования в области искусственного интеллекта, поскольку предвидят, что, однажды пустив его в ход, люди не смогут контролировать собственное изобретение. Алгоритмы «глубокого обучения» позволяют компьютерам с искусственным интеллектом извлекать модели из обширных данных, переносить их в новые ситуации и решать, как действовать без управления со стороны человека. Объекты с искусственным интеллектом неминуемо зададут вопросы и дадут на них ответы по собственному усмотрению. Компьютеры уже самостоятельно приобрели альтруизм и научились обманывать. Станет ли искусственный интеллект любознательным, чтобы найти скрытое знание и принимать решения на основе собственной логики? Будут ли эти решения этичными с точки зрения человека? Или этика искусственного интеллекта будет «за пределами человеческой»?
Освобожденные из сосуда Пандоры (очень похоже на компьютерные вирусы, выпущенные зловредным хакером, желающим сделать мир более хаотичным) несчастья и бедствия разлетелись, чтобы терзать людей, пока существует мир. В упрощенных версиях этого мифа последней должна была выпорхнуть из ящика Пандоры надежда. Однако в более мрачных версиях последним в сосуде было «предчувствие несчастья». Но Зевс заложил Пандоре программу закрыть крышку, чтобы оставить предвидение внутри. Лишенное способности предвидеть будущее человечество осталось с тем, что мы называем «надеждой». Как и у Эпиметея, предусмотрительность не является нашей сильной стороной.
Тем не менее дальновидность имеет критическое значение, поскольку человеческая изобретательность, любознательность и дерзость продолжают отодвигать границы биологической жизни и смерти, а также смешивать человеческое и механическое. Современный мир, конечно, беспрецедентный по масштабу технологических возможностей. Однако тревожные колебания между техно-кошмарами и грандиозными футуристическими мечтами – процесс постоянный. Древние греки понимали характерное свойство человечества всегда стремиться выйти «за пределы человеческих возможностей», не думая о последствиях. Мы зеркальное отражение Эпиметея, который принял в подарок Пандору и только потом осознал собственную ошибку.
В 2016 году Рэй Краудер, инженер компании Raytheon, создал трех маленьких самообучающихся роботов. Он дал им классические имена: Зевс, Афина и Геркулес. Небольшие роботы с питанием от солнечных батарей имели нервную систему как у тараканов и осьминогов и получили три способности: двигаться, стремиться к темноте и заряжаться под лучами солнца. Роботы быстро научились путешествовать и вскоре поняли, что им требуется выходить на солнце, чтобы зарядиться, иначе они умрут. Такой на первый взгляд простой конфликт обучения существ, которые сделаны, а не рождены, соответствует человеческой «когнитивной экономии», при которой эмоции помогают мозгу распределять ресурсы и разрабатывать стратегию. Другие эксперименты с искусственным интеллектом обучают компьютеры, как незнакомые люди выражают доброжелательность друг к другу и как смертные реагируют на негативные и позитивные эмоции [363].
С тех пор, как Стивен Хокинг предупредил, что «искусственный интеллект можеть повлечь за собой конец человеческого рода», некоторые ученые предлагают прививать роботам человеческие ценности и этику через чтение историй. «Сказки, романы и другая литература», даже база данных голливудских сценариев могут послужить своего рода «руководством пользователя людей» для компьютеров с искусственным интеллектом. Одна из таких систем называется «Шехеразада», из уважения к героине собрания сказок «Тысяча и одна ночь». Шехеразада была легендарным персидским философом-рассказчицей, помнившей несметное количество историй древних цивилизаций. Она спасла собственную жизнь, рассказывая завораживающие сказки своему жестокому тюремщику, правителю Шахрияру. Первые истории, загруженные в «Шехеразаду искусственного интеллекта» представляли собой простые повествования, которые предоставляли копьютеру примеры, как ведут себя адекватные люди, а не психопаты. Чтобы обеспечить эмпатическое взаимодействие с людьми и подходящие ответы на их эмоции, далее в компьютер загружаются более сложные повествования. Идея состоит в том, что эти истории станут доступны, когда объекты с искусственным интеллектом овладеют человеческим интеллектуальным инструментом «переноса знаний», символическим умозаключением по аналогии, чтобы принимать подобающие решения без руководства человеком [364].
Компьютеры могут быть сконструированы по образцу человеческого мозга, но разум человека не работает как компьютер. Мы, например, осознаем, что наши познавательные функции, самоанализ и рациональное мышление зависят от эмоций. Истории обращаются к эмоциям, состраданию, сопереживанию. Истории продолжают жить, пока вызывают сильные сложные чувства, пока они по-прежнему соответствуют реальным проблемам, пока помогают думать. Греки и другие древние культуры использовали истории, чтобы попытаться разобраться в страстном желании человечества преодолеть биологические ограничения и представить себе последствия таких желаний. Проницательность и мудрость, явленные в мифах, могут углубить современные дискуссии об искусственном интеллекте.
Сохранявшиеся на протяжении тысяч лет истории о biotechne – свидетельство неизменности размышлений и разговоров о том, что такое быть человеком и что значит копировать жизнь. Мы неизбежно будем слушать, рассказывать и помнить истории. Как напоминает Джордж Заркадакис, истории – «самое действенное из доступных человечеству средств распространения общих ценностей и знаний во времени и пространстве» [365]. Какая увлекательная возможность.
Быть может, мифы об искусственной жизни во всех ее формах, подобно собранным здесь примерам, смогут сыграть роль в обучении искусственного интеллекта лучше понимать противоречивые устремления человечества? Возможно, настанет день, когда устройства с искусственным интеллектом получат возможность постичь глубочайшие желания и страхи смертных, как они выражены в мифологических сюжетах об искусственной жизни. Может быть, существа с искусственным интеллектом смогут так или иначе понять сложные надежды и страхи, которые мы испытываем в их отношении. Усвоив, что люди предвидели их существование и обдумывали затруднения, с которыми могут столкнуться машины и их создатели, «умным» устройствам будет легче осмыслить (даже «проникнуться» чувствами людей) сложности, которые они создают для нас.
Рост «культуры» роботов с искусственным интеллектом уже не кажется невероятным. Представители человеческого рода – создатели и руководители искусственного интеллекта – уже строят для развития роботов с искусственным интеллектом logos («логическую схему»), ethos («моральные ценности»), pathos («эмоции»). Как люди совершенствуются с помощью технологий и становятся похожими на машины, так и роботы проникаются чем-то вроде человечности. Мы приближаемся к тому, что можно назвать зарей робочеловечества [366]. Когда это время наступит, какие мифы и истории мы станем рассказывать друг другу? Ответы зависят и от того, чему научатся наши создания с искусственным интеллектом.