Целое — это ложь.
Как же работают эти базовые нейронные сети, которые умудряются «думать» за нас? Что это за процесс, происходящий в глубинах какой-то автономной, неподконтрольной нам системы? Как это работает?
Мы привыкли мыслить в категориях иерархии. Поэтому если мы видим перед собой сложную систему, то начинаем искать, где в ней находится руководитель — генерал, командующий армией, или директор, управляющий заводом. Кто здесь «главный», который принимает все решения?
Но в нашем мозге нет ни «царя», ни «главного командного пункта». В нём вообще нет единого центра, где принимаются все решения. И лучшая метафора этого феномена — муравейник.
Муравейник мозга
Муравейник — чудо инженерной мысли и социальной организации. Тысячи, а то и миллионы существ действуют с поразительной слаженностью. Одни строят сложные подземные галереи, другие — заботятся о потомстве, третьи — добывают пищу, четвёртые — защищают колонию от врагов. Весь муравейник функционирует как единый, разумный суперорганизм.
Но где у этого суперорганизма мозг? Где тот «главный муравей», который отдаёт приказы? Его нет. Королева-матка — не правитель, а лишь репродуктивная машина. Во всей этой сложной, постоянно изменяющейся системе нет никакого единого плана, центрального звена, никаких чертежей, никакой иерархии командования.
«Разумное» поведение всей системы рождается из простых локальных взаимодействий множества отдельных «агентов» — муравьёв. Каждый отдельный муравей, конечно, не гений. Он не знает и не понимает общей задачи, а лишь следует простым правилам, реагирует на химические сигналы (феромоны), оставленные его собратьями.
Но из суммы этих миллионов примитивных локальных взаимодействий эмерджентно — то есть как бы «из ничего» — возникает сложный организм и глобальный порядок. Разум муравейника находится не в отдельном муравье, а в самой системе их взаимодействий[104][105].
И наш мозг работает так же: 86 миллиардов отдельных «агентов» — нейронов, ни один из которых не обладает ни разумом, ни сознанием. Нейроны просто реагируют на сигналы друг друга, которые передаются, правда, не феромонами, как у муравьёв, а нейромедиаторами.
Но из суммы этих миллиардов локальных электрохимических «перешёптываний» рождается нечто фантастическое: наши мысли, чувства, воспоминания и само наше «я». Наш разум — это не свойство какого-то главного, «царского» нейрона, а эмерджентное свойство всей этой гигантской самоорганизующейся сети.
Этот принцип децентрализации — важнейший ключ для понимания мышления. Мы мыслим не потому, что кто-то «главный» в нашей голове отдал приказ: «Думать!» Нет, как и в любой сложной системе, внутренние процессы мозга обеспечиваются динамикой отношений между его функциональными блоками.
Огромные армии наших нейронов — «муравьёв» — представлены дивизиями, полками и боевыми расчётами — от крупномасштабной нейронной сети до кортикальной колонки, — и каждое подразделение в соответствии со своей специализацией слепо выполняет свою часть работы[106].
Современная нейронаука выделяет в нашем мозге десятки крупномасштабных нейронных сетей — «армий»[107]. Но для того чтобы облегчить понимание, я обычно останавливаюсь на трёх главных, постоянно взаимодействующих и конкурирующих друг с другом.
Базовые нейронные сети
Центральная исполнительная сеть (ЦИС) отвечает за то, что мы осознаём. Как правило, она активируется, когда мы сталкиваемся с задачей, под которую у нас нет готового решения, а надо прямо сейчас его найти. Допустим, нам нужно что-то сосчитать, разобраться в инструкции к новому гаджету или оценить предлагаемый вариант решения нашей проблемы.
ЦИС оперирует планами, целями и логикой, отвечает за контроль сознательных решений и подавление ненужных импульсов. Когда вы заставляете себя встать утром на пробежку, хотя всё ваше существо этому противится, — это работа ЦИС[108]. Именно с деятельностью этой сети мы и ассоциируем наше «я», нашу личность, нашу силу воли.
Сеть выявления значимости (СВЗ) — «служба безопасности». Именно её активность определяет, с чем мы столкнулись и на какую задачу нам нужно направить своё драгоценное внимание[109]. Это неутомимый «дежурный», который постоянно на посту и сканирует обстановку, причём как внутри, так и снаружи.
Резкий звук за окном, внезапная боль в боку, ваше имя, прозвучавшее в гуле толпы, — всё это сигналы, которые улавливает СВЗ. Она как бы кричит: «Внимание! Вот это важно!» — и заставляет вас обернуться на звук сирены или почувствовать приступ голода. Без этой «службы мониторинга» наш сознательный разум был бы слеп и глух к требованиям реальности.
Дефолт-система мозга (ДСМ) — наши с вами интеллектуальные производственные мощности. Используются эти мощности, впрочем, по умолчанию (по дефолту), когда мы не заняты никакой конкретной внешней задачей. Состояние, характерное для активности ДСМ, принято называть «блужданием»[110].
Когда вы едете в автобусе и бездумно смотрите в окно, когда стоите под душем или просто лежите на диване, ваша ЦИС отдыхает. Но мозг не выключается. Наоборот, в этот момент на полную мощность начинает работать ДСМ.
• Она «переваривает» прошлое: прокручивает недавние события, извлекая из них уроки и связывая их с давними воспоминаниями.
• Она моделирует будущее: представляет возможные сценарии развития событий, проигрывает предстоящие разговоры и социальные взаимодействия.
• Она думает о нас самих и о других: пытается понять мотивы людей, анализирует наши отношения, формирует нашу автобиографию.
Именно в глубинах этой сети, работающей «под капотом» нашего сознания, и рождаются те самые инсайты, творческие идеи и неожиданные решения, которые затем «приходят нам в голову». Вот почему дефолт-система — это нейрофизиологический субстрат «даймона» Сократа: генератор мыслей, который работает без нашего сознательного контроля.
Само наше ментальное состояние в любой момент — это результат динамического взаимодействия и даже конкуренции между этими тремя сетями. Сознательное «я» (ЦИС) — лишь один из трёх игроков, который к тому же бо́льшую часть времени находится в тени гигантской подсознательной работы дефолт-системы.
Вот откуда берутся «случайные» мысли и почему самые гениальные идеи приходят тогда, когда мы их совсем не ждём… Впрочем, и не самые гениальные наши идеи тоже приходят в сознание из ДСМ. Потому что сама по себе ДСМ — лишь нейронная сеть, а вот то, что она производит, зависит от того, на каком материале мы её постоянно тренируем.
Тренировка нейронных сетей
Если мы потребляем достаточно сложный и содержательный контент:
• сеть выявления значимости создаёт в нас состояние озадаченности (сосредоточенности и внутреннего вопрошания);
• центральная исполнительная сеть пытается разобрать этот материал на отдельные модули (по сути, токенизирует информацию до состояния отдельных интеллектуальных объектов);
• дефолт-система работает с этими интеллектуальными объектами, которые собирает в новые мысли, отвечающие на вопросы нашей внутренней озадаченности.
Если наша голова забита всякой ерундой, то и «варить» дефолт-система будет эту ерунду, а результаты будут соответствующими. Вот почему мы, оказавшись в мире примитивного контента из соцсетей и подсев на «дешёвый дофамин», стали массово глупеть.
Это было вполне предсказуемо, о чём я со своей стороны всячески предупреждал. Но если раньше мои объяснения нарастающей «информационной псевдодебильности» осознавались лишь теми, кто мог их понять, то теперь подошли и объективные данные — наше системное оглупление проявилось в статистических показателях.
• Результаты PISA по чтению и математике достигли пика около 2012 года и с тех пор снижаются[111] — на протяжении всего XX века показатели росли, но стоило соцсетям войти в нашу жизнь, и они пошли вниз.
• Продолжительность фокусировки внимания на одной экранной задаче упала с 2,5 минут в 2004 году до 47 секунд в 2022-м[112] — и можно лишь догадываться, что за эти секунды мы успеваем осмыслить (видимо, близко к «ничего»).
• 20 % взрослых в развитых странах функционально неграмотны — не могут найти логическую ошибку в простом тексте или выполнить многошаговую инструкцию[113].
Сейчас, по мере внедрения ИИ, ситуация только ухудшается. Например, специалисты, полагающиеся на помощь ИИ, теряют свои профессиональные навыки быстрее и не замечают этого, сохраняя высокую уверенность в своей экспертизе[114]. Особенно яркий пример — исследование, которое было проведено в MIT Media Lab под руководством Натальи Косминой[115].
Участники были разделены на три группы: одни выполняли задачи исключительно своим умом; другие — использовали поисковые системы (типа Google) для помощи; третьи — пользовались ChatGPT. Во всех группах проводилась фиксация работы мозга методами электроэнцефалографии, что позволило увидеть следующее:
• в первой группе активность нейронных сетей была максимальной и распределённой между различными отделами мозга;
• пользователи, прибегавшие к использованию поисковых систем, показали умеренную вовлечённость различных отделов мозга;
• а пользователи ChatGPT отобразили самую слабую связность — то есть их мозг буквально не включал дефолт-систему, чтобы выполнить задание.
Проще говоря, у тех, кто полагался только на свой мозг, нейронные сети были самыми мощными и распределёнными — их мозг работал в полную силу, связывая разные области. Пользователи поисковиков — на среднем уровне, а GPT-группа — с самой слабой связностью, как будто мозг «выключился» и делегировал всё модели (см. рис. 2).
Рис. 2. Активность мозга при решении задач с использованием ChatGPT, интернет-поиска и самостоятельно (показана красными и жёлтыми линиями)
Несмотря на то что участники эксперимента, которые использовали GPT, спустя небольшое время, в отличие от других групп, уже даже не могли вспомнить, что за задание они выполняли, они были уверены, что справились с ним отлично. Это наглядно показывает, насколько легко мы отдаём свою интеллектуальную функцию на аутсорс и насколько это может серьёзно сказаться на наших интеллектуальных способностях.
Нейронные сети нашего мозга — это динамические структуры, которые находятся в хорошей форме, только если они регулярно «проворачиваются», тренируются. Когда же этого не происходит, нейронные связи (синапсы), образующие эти сети, дегенерируют или полностью исчезают. То есть наша — живая — «фабрика мысли» должна постоянно работать на полную мощность, чтобы не терять своей функциональности.