Примечание[129]
У этой тенденции есть точная хронология. Проявляться она начала на рубеже 2010-х годов. Поначалу не особо заметно – зато регулярно расширяя охват. Миновало десятилетие, отмеченное воодушевлением, переходящим в восторг, и вот стали выходить первые тревожные публикации обо всех тех «преимуществах», которые дают нам цифровые технологии. Пришло время разглядеть признаки неуравновешенности, различных расстройств, ухода в себя, вызванные нашими все более компульсивными привычками. У явления появилось название: экранная зависимость. Так же как это бывает с алкоголем и азартными играми, она незаметно подстерегала нас, подрывала психическое равновесие и наши отношения с окружающими. На передовицах газет, в радио- и телеэфире, среди документалистов началось шевеление: пиксельных рабов стали приглашать, чтобы они рассказывали о своих драмах, об одиночестве, жизненных трудностях – совместно с психологами, детскими психиатрами, родителями, преподавателями, бившими тревогу ввиду размаха бедствия. Однако источником кажущегося внезапного пробуждения сознания было двойное заблуждение. С одной стороны, в попытках такого анализа не обходилось без морализма, часто обвинительного толка: знатоки с «холодным носом» таскали за уши всех этих техно-наркоманов, преподнося им урок. С другой – большинство речей заканчивалось призывом не пренебрегать добродетелями здорового образа жизни и правильно «выпускать пар» – можно подумать, что такие рекомендации способны возыметь хоть какой-то эффект! Диагноз поставили неверно, нам лишь казалось, что это аддикция. На самом деле мы столкнулись не столько с социальным фактом, сколько с явлением антропологическим и цивилизационным: поглощавшая нас вселенная переопределяла – причем всегда в нашу пользу – наши отношения с другими и с реальным.
Это происходило по всей планете: наш взгляд неустанно старались зафиксировать на нескончаемых потоках, казавшихся куда богаче всего, что оставалось вовне. Словно мир в его неисчерпаемой наполненности сжался до гладкого и весьма скудного пространства, ограниченного пределами наших экранов, – хотя с виду он как будто и стал еще более рельефным, красочным, насыщенным и позволил «приблизиться» к другим людям. Наши отношения с технологиями приняли абсолютно новый поворот: они не просто играют роль протеза или обеспечивают когнитивные функции – связь сделалась экзистенциальной. В том смысле, что одно из технологических направлений, – сегодня уже главное, – получило возможности, необходимые, чтобы непрерывно сопровождать нас в повседневности, и теперь даже наполняет ее жизненной силой, придает состоятельность. Заодно нам открылся доступ к неограниченным массивам информации и сервисам, настала жизнь, полная развлечений и лести при минимуме постоянных усилий. Сколько появилось средств, чтобы придать многим нашим действиям удаленный характер, а точнее, дистанцировать их от реального, щедро делясь при этом ощущением могущества. И мы вдруг понемногу начинаем догадываться, что нарастающая пикселизация нашего бытия, похоже, подспудно ведет к возникновению новой субъективности – она считает себя квазивсемогущей и словно защищена в своих проявлениях. Это не «пузырь фильтров»[130], отсылающий к нашим же предпочтениям и мнениям; перед нами лишь следствие более радикального явления – сферизации нашей психики[131]. То есть самоустранения индивидов, – крайне мало ощутимого, но с пагубными последствиями, – из сферы социального, что главным образом обусловлено богатым инструментарием, находящимся у них в руках и наделенным весьма специфическим даром внушать пользователям чувство самодостаточности.
Тут бы и осознать, отвергнув близорукую критику и клише, что предельная технологизация нашей жизни постепенно породила виды сознания, которые мы могли бы назвать шизоидными, когда индивид мыслит себя активным, но настолько оторвался от земли, что утратил продуктивную связь с себе подобными. Складывается совершенно новая форма пассивности, воспринимаемая, однако, как признак очень большой – и беспрестанной – активности, которая почти не выливается в конкретные достижения, свидетельство наших способностей, предмет гордости. Все как раз наоборот, учитывая, что из-за непродуктивной траты энергии поддерживается непрекращающаяся фрустрация, вдвойне обостряющая чувства такого рода, которые большинство испытывает в повседневной жизни. Происходит скрытая нейтрализация наших способностей к действию. Да еще в среде, где с конца 2000-х годов наблюдается пришествие систем на основе искусственного интеллекта, денно и нощно указывающих нам, какой путь выбрать. Наша добровольная беспомощность дополняется тем, что нашим действиям сообщается направление посредством различных сигналов, которые теперь могут принимать речевую форму. Окружающая атмосфера провоцирует атрофию наших чувственных сил, обусловливает притупление естественной склонности осознанно и в полном смысле слова индивидуально решать, каким будет ход нашего существования. Из такого композита рождается то, что придется назвать нежизнеспособной субъективностью.
Отказ от самих себя оборачивается в конце концов притуплением чувства ответственности, возложенной на каждого. Это оно требует распоряжаться собственной судьбой, – пользуясь бесчисленными ресурсами, подходящими для этого и нас определяющими, – внося тем самым посильную лепту в здравие единого целого. С недавним приходом систем на базе искусственного интеллекта к отречению от самих себя добавился процесс отрицания фундаментальных основ нашего существа. Такие системы, и прежде всего ChatGPT, готовы составлять тексты, качество которых – внешне – будет только расти. Как можно не понимать, что тем самым – после того, как мы постепенно лишились естественного права на свободное самоопределение, – у нас отнимается основополагающая способность – способность к производству языка. Потому следовало бы опровергнуть мнимую «взаимодополняемость человека и машины» – этот риторический трюк вовсю используют инженеры и консалтинговые компании. Нет никакой необходимости в технологиях, призванных писать за нас или «помогать нам писать лучше», чтобы в конце концов убить заложенный в каждом из нас талант, а заодно лишить содержания – и остроты – человеческие отношения.
Сейчас, как никогда, нам нужно совсем другое – выступить от первого лица и не в формате бесконечных постов на платформах, где сплошь экспрессия и безапелляционный утвердительный дискурс. Надо, чтобы наши уникальные голоса зазвучали внутри политического сообщества, совершенно свободного и многообразного, в которое каждый по праву привносит живое начало. В противоположность другому языку – индустриализированному, стандартизованному, способствующему, чтобы человек становился «овощем». Мишель Фуко говорил о «технологиях себя», определяя их как практики, «посредством которых индивиды, сами или благодаря другим людям, воздействуют на собственные тела, души, мысли, поведение и способ существования с целью преобразования себя и достижения состояния совершенства или счастья либо обретения мудрости или бессмертия»[132]. Сегодня – в силу многих внешних причин и нашей врожденной лени – этими прекрасными живительными «технологиями себя» все чаще пренебрегают – или вовсе их игнорируют. Более того, велика вероятность, что скоро все они – или последние оставшиеся – будут убиты в зародыше «технологиями самоотмены».
Аура, которой наделен HAL – электронный мозг космического корабля в фильме «2001 год: Космическая одиссея», – зависит как от его кажущегося безграничным умения контролировать разом все параметры при управлении полетом и условиями жизни на борту, так и еще от одного качества, быть может более впечатляющего: он умеет говорить. Поддерживать связный и непринужденный разговор с членами экипажа, понимать их, давать им советы, улавливать эмоции и порой проявлять пугающую разумность. Он даже умеет украдкой (по движению губ) распознавать содержание их разговоров, чтобы в итоге манипулировать астронавтами. А какие непревзойденные качества отражены в его голосе, исполненном невозмутимости, знания дела, источающем чуть ли не дух превосходства, – это неизбежно внушает персонажам и зрителям ощущение чего-то необъяснимо-тревожного, смутный страх. Фильм Стенли Кубрика вышел в 1968 году – в то время подобный машинный язык казался запредельной мечтой.
Да, разработки уже велись (в основном под влиянием кибернетики, которая в конце 1950-х годов заявила, что едва ли не все когнитивные операции, совершаемые человеком, в конце концов смогут выполнять различные системы, да еще во сто крат быстрее и надежнее). С самого начала в них участвовали инженеры, программисты, математики, лингвисты. И все равно казалось, что выйти на уровень искусственного обращения со словом никак не получится. Вот почему решалась более скромная задача – разработка методов индексации, призванных находить в базах данных массивы информации по ключевым словам. Потребность в этом становилась все более настоятельной по мере цифровизации общества. И тем более выросла, как только всюду распространился интернет и появились первые поисковые системы. В тот же период направление автоматического перевода испытало качественный скачок; однако тогда еще системам было сложно учитывать все тонкости языка – такие, как контекстуализация лексики или смысловая неоднозначность некоторых оборотов речи. И вот, почти вопреки ожиданиям, на рубеже 2010-х годов удалось преодолеть технологический порог – и внезапно усовершенствовать те самые «нейронные сети». То есть состыковать отдельные вычислительные блоки, в параллельном режиме решавшие специфические комплексные задачи, и применить к ним логику взаимозависимости, что позволило проводить неисчислимо больше операций с одной и той же целью.
Это со всей очевидностью свидетельствовало об антропоморфическом повороте, совершенном одним из ответвлений технических наук, в котором человеческий мозг почитали за эталон, но с одной особенностью – исходили из того, что решения со сложной архитектурой будут все же несравнимо мощнее при выполнении некоторых операций. Постулат был особенно популярен в лабораториях, где, разумеется, примеривали к артефактам все больше наших когнитивных навыков. В результате возникло желание достичь вершины – наделить машины способностью к языковой генерации. Многие из выбранных методов продолжали нести в себе все ту же антропоморфную составляющую, подобно так называемым самообучающимся системам, – системам машинного обучения (machine learning), «которые учатся на своих ошибках», или тем, которых «дрессируют», как животных в цирке. Эти механизмы зависят от постоянно возрастающей мощности процессоров и от непрерывного усложнения алгоритмической науки – и потому пришли к результатам, совсем недавно казавшимся недостижимыми. Теперь есть умные колонки – голосовой интерфейс, выведенный на рынок в 2016 году, или автоматический перевод текстов, у которого очень высокая скорость и неизменно улучшается качество, так что с недавних пор он стал походить на профессиональный.
30 ноября 2022 года произошел резкий и довольно неожиданный технологический скачок – проще говоря, планету изрядно тряхнуло: открылся свободный онлайн-доступ к чат-боту ChatGPT, разработке компании OpenAI. Все тут же отметили, что система, призванная отвечать на письменные вопросы, делает это так, что невольно «открываешь рот»: и синтаксис правильный, и вообще все складно. Впрочем, все как будто ждали большего, подтверждая тем самым вопиющую слабость нашего критического мышления, и констатация сопровождалась оговоркой: результат, мол, еще несовершенен, предстоит долгий путь, чтобы сравняться с человеком. Именно в этом наше большое заблуждение. Мы полагаем, что речь идет о механизмах, использующих язык, похожий на наш. Хороший повод, – оставив дискурс, придуманный цифровой индустрией, который мы так часто принимаем за «чистую монету», – рассмотреть, как работают такие технологии. Что помогает им разобрать по косточкам весь свод текстов, доступных в базах данных или в интернете, и извлекать из них законы семантики. Сразу заметим, что получаемые высказывания – лишь продукт применения алгоритмов на основе статистического анализа, единственный «питающий источник» для них – уже существующие реестры, а фундамент – модели прогнозирования, состоящие в выборе события, которое с наибольшей вероятностью последует за предыдущим. И здесь нет ничего общего с тем, что предполагает, так сказать, «естественный» язык.
Неотъемлемое свойство человеческого языка в том, что это результат напряженности: с одной стороны – лексическое богатство, создаваемое словами и правилами грамматики, с другой – наша способность к формулировкам. Плюс связь со временем – и это не привязанность исключительно к прошлому, а динамичный процесс, сопряженный с настоящим и находящийся в постоянном становлении. Когда мы говорим или пишем, мы не перестаем черпать из фразеологического океана, индетерминированным образом подстраиваясь под специфичный каждый раз контекст. Любое выражение, написанное или сказанное, фонтанирует, прорываясь сквозь все заранее выстроенные схемы. Поль Валери писал: «Разум извергается каждый миг, а между тем, если память ему служит, в нем всегда есть та постоянная изменчивость, что связана с постоянной изменчивостью окружения»[133]. Именно этой чистой неопределенности момента недостает машинному слову, ведь оно результат вычисления параметров и отвечает конкретным законам. Видим ли мы, какая тут «под шумок» складывается цивилизационная модель? А ведь это результат двойной трансформации нашей связи с языком. С одной стороны, появляются примеры генеративного искусственного интеллекта, который наделен способностью к речи и на первый взгляд ничем нам не уступает, так что на него постепенно возложат многие наши текущие задачи и связи с другими людьми, – для этого он производит псевдоязык, напрочь лишенный сингулярности и творческого начала. Происходит явление, отнимающее у нас такую же способность, а это значит, что под видом упрощения наших будней технико-экономический комплекс отчуждает, отнимает нашу душу с такой силой, какой человеческая история еще не знала.
С другой стороны, – и это главное направление, – возникают технологии, которые щедро одаривают нас добрым словом с дружескими, задушевными интонациями, но считаются куда более дальновидными и подсказывают, сохраняя с нами инструментализированную связь: действуй так, а не иначе. Надо отметить и еще кое-что: такие механизмы все время усложняются, дабы выглядеть естественнее, так что отмахнуться от их наставлений будет нелегко, словно учат нас какие-то всезнающие умы. Индустриализированный и стандартизированный язык, занимающий место нашего и непрерывно нас направляющий, сформирует габитус. Особенно в глазах юных поколений, которым его использование скоро будет казаться таким удобным и, в общем-то, само собой разумеющимся. За этим стоит еще и эпигенетический процесс, под влиянием которого наш разум, организованный так, чтобы ничто не мешало его деятельности, пойдет на поводу у этих систем, все реже пользуясь нашими способностями к выражению. Оценивать размах последствий от внедрения таких технологий нужно в средне- и долгосрочной перспективе. Кто говорит? – ницшеанский вопрос[134]. Не делают ли это сегодня программы, язык которых, лишенный живого развития, отражает видение мира, основанное на общем редукционизме и утилитаризме? Или же, напротив, помимо наших голосов, – каждый из которых неповторим и идет от нашего разума и чувств, – ничто не способно устанавливать активные связи с другими и с реальным? Учитывая нынешний перелом, время призывает нас сфокусироваться не на одном экологическом кризисе, который нынче только и заботит большинство, – и поднять вопрос о языке, самом что ни на есть живом, – на котором мы хотим говорить от собственного имени и действительно все вместе, – как о главной моральной, политической и цивилизационной проблеме нашего времени.