Теперь пора снимать маски. Пора показать без ретуши суть инструментальной рациональности и ее истории – от промышленной революции до наших дней, – рациональности, которая будет без передышки решать одну и ту же задачу: распределять, с различными целями, людей и вещи по условно правильным местам в условно подходящее время. Этот этос опирается на кардинальное допущение: человек есть источник беспорядка и – вот досада – постоянно норовит сбиться с верного пути, растратить себя впустую, так что в его же интересах надо ограничить ему поле деятельности и, больше того, направлять его действия, чтобы они четко вписывались в требования поддерживать порядок и приносить богатства. В нашем положении усматриваются глубинные лакуны, поэтому выработка надлежащих норм и техник позволяет одновременно избежать как инерции, так и хаоса, создавая при этом почву для коллективной и экономической организации, которую можно признать оптимальной. Стратегии корректирования и оздоровления ситуации индивидуумов, действовавшие в XIX веке и описанные Мишелем Фуко, предполагали обеспечить активное участие каждого в возведении социального здания, – исходя в данном случае из «биополитики», – и, по всей видимости, оказались лишь первыми проявлениями процесса, который на рубеже следующего столетия будет направлен не просто на становление здорового, крепкого и податливого человека, а на систематическое корректирование поведения.

В этом прослеживается как дух промышленного и торгового капитализма, так и либерального индивидуализма – оба направления будут неуклонно развиваться в новейший период, в XX веке. С течением лет был создан целый инструментарий из неизменно расширяющихся и усложняющихся средств, чтобы направлять поведение, – законы и правила, рациональная организация людских и товарных потоков в городах и за их пределами, методы менеджмента, а кроме того – стимуляция желаний посредством рекламы и маркетинга. В послевоенный период активизирующаяся информатизация общества позволит связать совершаемые действия, количество которых будет расти по экспоненте, с вычислительными системами – и они, за счет своих свойств, сократят долю непосредственного участия человека в реализации коллективных дел, одновременно придав новый импульс стремлениям поставить во главу угла строгое упорядочение хода вещей и поддержать рост капитала. Впрочем, несмотря на совершенство привлеченных искусственных средств, множество действий и динамичных тенденций остаются неподвластны мощному нормативному аппарату. Вопреки робким попыткам очертить русло реальности, она правдами и неправдами не желает поддаваться установленному закону: несмотря ни на что, человек – существо строптивое и не может бесконечно подчиняться чужим указаниям.

С наступлением третьего тысячелетия появление новой технико-экономической системы придаст иное измерение желанию снова и снова восполнять наши глубинные несовершенства. Сведéние многогранной реальности к набору данных и распространение интернета позволят как интерпретировать наши действия, так и, в свою очередь, влиять на их осуществление через абсолютно новую процедуру – посылание сигналов. Прошло время более или менее принудительного упорядочивания в отношении людей, настала пора побуждения, индивидуализированного и автоматизированного, которое отличается тем, что стимулы к совершению различных действий представляются само собой разумеющимися, и оказывается, что – индивидуально или коллективно – мы получаем экономию времени, рост эффективности и еще много преимуществ. В профессиональной ли жизни или в повседневной режим алгоритмического сопровождения нашего бытия становится данностью, нас без конца – и зачастую неощутимо – переориентируют технологии, так что мы могли бы назвать их «главенствующим началом». А всплеск разработок искусственного интеллекта на рубеже 2010-х годов только активизировал этот экспертно-рекомендательный ресурс, сполна воплотив изначальное стремление обойти принципы инерции и незавершенности, якобы нас формирующие, обеспечить качественное и непрерывное распределение людей и ценностей.

Вот причина, по которой «цифровые инновации» стали походить на чудо и их поддержало подавляющее большинство народных избранников, руководителей национальных и международных организаций, университетов и бесчисленных аналитических групп. Притом что эти разработки, пусть и довольно незаметно, обеспечивают блокирование действий человека – в перспективе полное, – так что в будущем мы целиком и полностью будем подчинены устройствам, исправляющим людские ошибки или генерирующим правильное поведение. Тогда и завязались общие интересы, – побудительные механизмы которых сегодня лучше просматриваются, – у целого мира, рожденного либеральной и позитивистской философией, с одной стороны, и больших групп, занимающихся данными, а также несметного числа стартапов – с другой, решивших, что отныне они полностью вольны, – пользуясь порой ощутимой поддержкой из государственной казны, – не покладая рук развивать всевозможные системы, указывающие нам верное направление в различных аспектах жизни или самостоятельно управляющие растущим реестром общих дел.

Создались все условия, чтобы цифровая индустрия в постоянно ускоряющемся ритме могла разрабатывать технологии, формирующие лучший из миров, который заявил о себе ураганом, сметающим на своем пути профессии и обычаи, не отвечающие этой философии. Термину «дезинтеграция», одновременно завораживающему и пугающему, который часто употребляли в середине 2010-х годов для обозначения этого радостного и опустошительного вечного фейерверка, точнее было бы предпочесть другой: «ускоренное лишение нас права на предпочтение иных форм существования и совместной организации». Со временем в гражданском обществе наметились опасения и признаки сопротивления. Как и со стороны политических деятелей – они стали более скупо формулировать свои намерения, хотя в конечном счете учитывали, что «силиконовые веяния» отражают ход истории и не надо им препятствовать – разве что слегка, в отдельных случаях. Контркультурный и анархистский дух района Хейт-Эшбери в Сан-Франциско шестидесятых, который десятилетие спустя в той же точке мира, но в других формах передался деятелям Силиконовой долины, сделавшим отказ от любых ограничений своим девизом, и принес им феерический мировой успех, в итоге оставит отпечаток на нашем представлении о том, каковы в сущности движущие силы предпринимательства. Ведь кое-что тогда все-таки оказалось запрещено: запрещено запрещать.

Технолиберализму был выдан бессрочный карт-бланш, отчего сегодня, не встречая никаких сдержек, он занимается радикализацией собственных принципов. Появление генеративного искусственного интеллекта знаменует пересечение черты – в аналогичном смысле постулат о том, что артефакты должны восполнить наши несовершенства, достиг последнего рубежа. С помощью вычислительных процессов генерируются язык и изображения, и получается, что составляющие нас особенности также должны поддерживаться различными системами. Тем самым мы приходим к полной завершенности этой философии – или к беспрецедентному антропологическому и цивилизационному событию. Отныне все, что можно собрать в виде данных и обработать на соответствующих устройствах, будет обеспечивать весь объем наших когнитивных задач, не прекращающий экспоненциальный рост. Соответственно, мы понимаем, что вопрос уже не в том, обречено ли множество профессий на исчезновение из-за нового направления искусственного интеллекта, пользующегося некоторыми нашими качествами, которых раньше у него не было. Более точная постановка вопроса – будут ли наши интеллектуальные и созидательные способности, во всей их полноте, опираться на процессоры либо, смотри шире, поддерживаться непосредственно различными системами.

Увы, в который раз слишком поздно, лишь когда явления глубоко укоренятся, мы поймем, что сама наша сущность, – конечно, со всеми слабостями и недостатками, но также с восприимчивостью, творческим началом, талантами, – будет отвергнута, а заботы о том, как нам жить и как будет устроен мир, лягут на вычислительный разум. И только потом, – хотя уже скоро, – мы увидим людей, день и ночь погруженных в пиксельные пейзажи, занятых лишь составлением промптов, и в этой вселенной, где капризы каждого индивида будут важнее всего, нас ждет коллективная изоляция и неразрывное слияние со все более всеведущими машинами. Тогда «человечество», понимаемое как трансисторическое объединение душ, обладающих – каждая – уникальным богатством, лишится субстанции и, можно сказать, перестанет существовать для самого себя. Ведь на протяжении веков мы меняли условия собственной среды, рождали идеи, создавали науку, культуру, искусство и делали так, что при всех удачах и неудачах развития некоторые неприкосновенные для нас вещи, несмотря ни на что, сохранялись. Проявление творческих способностей и талантов на разных уровнях, естественная тяга к свободе – в чем бы она ни заключалась, – ощущаемая связь с реальностью, плотские отношения с ближними – все те составляющие, которые придают жизни смысл и соль.

Мыслимо ли сложа руки наблюдать, как все вокруг превращается в пустыню? Мыслимо ли считать, что эта тенденция, – исходящая из нашего же отрицания, – вписывается в естественный ход истории и следует только поставить ей некоторые ограничения, чтобы мы все извлекли из происходящего миллион разных выгод? Как при виде этой неудержимой с виду волны не воскликнуть «стоп!», не объявить во всеуслышание, что она угрожает нашей идентичности? Как не поднять другую волну, встречную, которая объединит всех мыслящих людей, не желающих лишаться обители жизненной силы – своей собственной и будущих поколений? Чтобы человечество не впало вскорости в овощное, безжизненное состояние – и чтобы наших детей и внуков, чьи мозги, если мы сейчас не встревожимся, будут чипированы, не направляли постоянно процессоры и прочие внешние силы, – необходимо бесповоротно сойти с пути отрицания самих себя. Мы обязаны наказать политикам, – призывающим по любому поводу «запрыгнуть в отходящий вагон» искусственного интеллекта, LLM (Large Language Model, Большой языковой модели) и иммерсивной экономики, – чтобы они прекратили инвестировать из бюджета средства на поддержку этого ненормального с точки зрения психиатрии тренда, не издавали дурацкие законы, которые прокладывают дорогу индустрии, антигуманистической по сути своей, и наложили на нее безоговорочное вето.

Да, в этом и состоит наш долг: перво-наперво и немедля надо запретить генеративный, но можно сказать и «дегенеративный», искусственный интеллект в разных его видах, подавляющий наши голоса и отнимающий право свободно выбирать путь. Для глав государств, для национальных и международных политических организаций и гражданского общества в целом было бы делом чести издать текст, который объявил бы обязательным во всем мире запрет этих средств, пагубных для проявления наших чувств и разума.

Это был бы благородный и красивый способ сказать вселенной под знаком хюбриса, населенной супергероями, которые живут фантазиями из детства и преследуют лишь собственные интересы, что не им диктовать, как должна протекать наша жизнь. Нынешний момент, как никогда, требует подняться до уровня важности событий, забыть наконец мантру Силиконовой долины, клятвенно обещающую лишь отказ от любых ограничений, и провозгласить, во имя нашего прошлого, настоящего и будущего, что нам морально запрещено не запрещать[163] пересечение этого последнего рубежа.

Таких резких подвижек можно не ждать. Не будем наивными. Хоть мы и признаем, что цивилизация переживает поворотный момент, к которому ее привела в основном частная инициатива, хоть и говорим, что в ближайшем будущем решающую роль будут играть всевозможные роботы, что эти процессы застают нас врасплох, ни с кем не считаясь, выходит, что, несмотря на все эти факторы, – одного из которых, казалось бы, достаточно, чтобы заставить нас действовать, – неискоренима идея, будто мир решительно не может совершить ошибку, что он, в сущности, воплощает собой предельный горизонт нашей эпохи. Чтó это, как не чудовищная «слепота перед лицом апокалипсиса», если вновь вспомнить слова Гюнтера Андерса, сказанные некогда о ядерной угрозе?

Итак, настал момент грандиозного разоблачения, без прикрас высвечивающий презрение к роду человеческому, которое с самого начала культивировал промышленный капитализм, а с ним и либеральный индивидуализм, никогда прежде так не называвшийся, возникший чуть ли не из бессознательного, но благодаря искусственному интеллекту обретающий теперь институциональную форму, хоть и под видом явления, ниспосланного откуда-то свыше, – так что всем нам пора шире раскрыть глаза. Сегодня необходимо понять, что решающий вопрос, который на самом деле перед нами встает, выходит за рамки цифровых технологий и заставляет задуматься, причем очень срочно, готовы ли мы защищать жизненные силы человечества, пока они окончательно не иссякли. Нашего человечества, которое вот уже два столетия вынуждено все время «держать удар», выражающийся в умалении нашей личности, асимметричном, унизительном распределении прав и полномочий, в условиях труда, ведущих к различным патологиям, в неравенстве, порождающем озлобленность, как и в катастрофическом воздействии на окружающую среду. Ныне такой удар грозит лишить самостоятельности как лично нас, так и социально-политическое сообщество – в силу того, что некий технико-экономический комплекс-гегемон пошел на подъем и скоро охватит всё. Вот почему мобилизовать нас в первую очередь должна не экология в обычном понимании. Ибо мыслимо ли заботиться о сохранении всего живого, если мы одновременно не защищаем силу жизни внутри себя, от которой все остальное должно попросту зависеть? Такой подход был бы ограниченным и обусловливался бы в конечном счете лишь совершенно бессознательным поклонением стихиям. В наших неустанных усилиях нуждается особый вид экологии – благоприятные условия нашего бытия, которое требует вернуть нас самим себе и стремиться как можно полнее себя раскрыть.

Столкнувшись с губительным поведением вычислительного разума, с ускоряющейся автоматизацией всех сфер общества, с обедняющим нас «развоплощением», следует запустить обратный процесс. Надо выстраивать такой образ жизни и формы совместной организации, чтобы они позволяли нам как можно лучше проявлять способности, поддерживать сочувственные, плодотворные и честные отношения с ближними при полном уважении к биосфере. Это был бы действенный ответ на предложение Лео Штрауса[164], призывавшего к восстановлению естественного права, что, на его взгляд, было бы способом борьбы с современным нигилизмом: «Мы полагаем, что существуют вещи внутренне справедливые и несправедливые и что не все находится в ведении „позитивного“ права, закона, произвольно определяемого законодателями»[165]

Пусть же нашим главным девизом станет: нет – призрачному, да – нашему полноценному присутствию в этом мире и богатству чувств; нет – без конца торжествующей алгоритмической нормативности, да – нашим познаниям и способности действовать; защитим – в неизменном уважении к человеческому разнообразию – наше право свободно распоряжаться своими судьбами, частными и коллективными; нет – искусственной генерации языка и символов с отпечатком смерти, да – бесконечности форм, творческим порывам, которые изо дня в день должны нас оживлять. Да будет полным проявление наших жизненных сил и морального закона – тех, что заложены внутри нас и требуют развития: никогда, ни в коем случае нельзя позволить им угаснуть. И даже так: мы должны повсюду не переставая поддерживать их сияние миллиардами ярких огней.

Переводчик благодарит Эрика Садена, а также Анну Беспятых, Всеволода Зельченко, Катю Сорфельт, Александра Черноглазова за помощь в работе над этой книгой.