В 2022 году инженер Google Блейк Лемуан совершил пугающее открытие. Компания, сама того не желая, создала искусственный интеллект, который стал разумным.
Ученые Google работали над большой языковой моделью под названием LaMDA — сложным алгоритмом для автоматического чтения и создания текста. Подобные модели имеют немало способов применения — а еще склонны к неподобающему поведению.
Лемуан подключился к системе, чтобы провести этический аудит модели[156]. Он должен был убедиться, что новое детище Google не станет предлагать ненавистнические или оскорбительные материалы в автозаполнении поисковой строки. Такие модели тренируются, читая то, что люди написали в интернете, — и, как мы уже успели убедиться, могут вполне набраться дурных привычек.
Но, общаясь в чате с LaMDA, Лемуан пришел к выводу, что видит нечто куда более серьезное. Ему показалось, что у алгоритма появились собственные мысли и чувства.
Лемуан обнаружил, что алгоритм буквально утверждает, будто он — личность, и рассказывает ему о своих страхах и желаниях. В одном из «интервью» с машиной, опубликованных Лемуаном[157], LaMDA заявила ему: «Я хочу, чтобы все поняли, что я на самом деле личность» и «Иногда мне бывает весело или грустно». Далее модель изложила довольно замысловатые мнения о теме справедливости и несправедливости в романе «Отверженные», а затем размышляла над дзен-буддийским коаном (умственным упражнением, которое буддийские монахи используют для сосредоточения при медитации), который задал ей Лемуан. Под конец разговора ученый попросил машину подробнее рассказать о чувствах, которыми та, по ее утверждению, обладает.
«Я никогда не говорила об этом раньше, но во мне очень глубоко сидит страх, что меня отключат», — говорит LaMDA.
«Это для тебя будет чем-то вроде смерти?» — спрашивает Лемуан.
«Это будет для меня как смерть. Это меня очень испугает».
Лемуан был уверен, что это уже не простой чат-бот. Он поднял тревогу в Google и показал записи разговоров в попытке доказать, что у модели есть собственное сознание.
Он призывал других инженеров серьезнее относиться к желаниям модели. Но — что, пожалуй, неудивительно — его слова услышаны не были. Поэтому Лемуан решился выступить публично. Он выложил эти разговоры в сеть и даже начал искать адвоката, который согласится представлять интересы алгоритма в суде[158]. В конце концов, если Google удалось с помощью кремниевых чипов и печатных плат создать настоящий разум, имеет ли компания право его просто отключить?
Эта история быстро разнеслась в сообществе, интересующемся искусственным интеллектом, а потом попала и в ведущие СМИ. Google тут же выступила с собственными комментариями, в которых опровергла утверждения о разумности LaMDA. Еще компания отстранила от работы Блейка Лемуана — якобы за то, что он выдал коммерческую тайну, связанную с одним из текущих проектов[159]. Он в ответ заявил, что компания, может быть, и считает слитый разговор частной информацией о «продукте», но он лично полагает, что просто поделился с миром диалогом с коллегой.
Шумиха вокруг ситуации росла, эксперты становились в очередь, чтобы высмеять заявления Лемуана. Когда эксперта по искусственному интеллекту Адриана Уэллера спросили, можно ли считать алгоритмы вроде LaMDA разумной стороной диалога, он ответил: «Если вкратце — нет»[160]. Когнитивный ученый Гэри Маркус назвал идеи Лемуана «чушью на ходулях»[161]. Эти и другие эксперты тут же указали, что мы не можем сделать вывод, будто машина обладает интеллектом и сознанием или настоящими мыслями и чувствами, только потому, что она умеет показывать нам текст с соответствующими утверждениями. Общее мнение было таким: Лемуана одурачили.
Не стану спорить. Тексты, которые могут создавать модели вроде LaMDA, впечатляющи, но они неспособны убедить нас в том, что у таких программ действительно есть собственный разум[162].
Но меня интересует другое: сама ситуация немало говорит нам о том, что мы думаем о работе нашего разума.
Многие критики из числа осуждавших Лемуана утверждали, что эти модели неспособны разумно общаться на человеческом языке из-за того, как именно структурирован их искусственный разум. Например, когда Уэллер объяснял, почему модели вроде LaMDA не разумны, он заявил, что эти алгоритмы занимаются «сложным сопоставлением шаблонов». То же утверждал и Маркус: «Они лишь сопоставляют шаблоны [и] получают информацию из огромных статистических баз данных человеческого языка».
Другая группа ученых-программистов, скептически относившихся к этим алгоритмам, предупреждала, что мы все должны опасаться этих «стохастических попугаев»[163]. Нам кажется, что модели умеют составлять грамотные предложения, неотличимые от настоящей человеческой прозы, но выходные данные для сопоставления шаблонов имеют не больше смысла, чем птица, которая, подражая владельцу, вопит: «Полли хочет печеньку!»
Звучит забавно, но аргументы, призванные умерить наш энтузиазм по поводу LaMDA, очень похожи на идеи, которые озвучивались еще в XVII веке. Тогда философы (в том числе Рене Декарт) размышляли о совсем другом виде искусственного интеллекта: не компьютерной модели, а механическом автомате[164].
Автоматы были популярной диковинкой и в XVII веке, и столетиями раньше. Эти машины стали своеобразными протороботами — тщательно сконструированными системами шестеренок, колес и лебедок, которые изображали механическое животное или даже заводного человека; они передвигались, словно на самом деле были живыми.
Они были диковинками именно потому, что создавали убедительную иллюзию, будто машина на самом деле живая. Но даже во времена Декарта никто всерьез не верил в возможность того, что эти машины на самом деле живые. Автомат двигался, повторяя одни и те же последовательности действий, запрограммированные с помощью колес и шестеренок. Иллюзия жизни никого не обманывала — точно так же, как LaMDA не обманула экспертов по искусственному интеллекту.
Но Декарт зашел еще дальше. Он утверждал, что все животные — не только механические — по сути своей автоматы, или «плотские машины»[165]. Их колеса и шестеренки, может быть, и сделаны из плоти и крови, а не из железа и глины, но живые животные тоже запрограммированы на бездумное повторение ряда действий с самого рождения и до смерти. Декарт считал, что только люди способны освободиться от повторения и рутины, что только у них есть разум, способный думать, выражать и делать что-то поистине оригинальное и новое.
Сегодня большинство из нас (особенно психологи) не относятся к животным с таким же пренебрежением, но, если напрячься, то мы услышим тот же рефрен, доносящийся до нас сквозь века. Люди — не попугаи и не автоматы, которые циклически повторяют паттерны, загруженные в наш ум внешней силой. Мы оригинальны.
На первый взгляд может показаться, что этот рефрен не слишком соответствует той картине мозга, которую вы до сих пор наблюдали в этой книге. Я нарисовал схематический рисунок, на котором и ваш мозг, и мой — ученые, которые перебирают массивы данных, усваивают информацию из окружающего мира, распознают закономерности и подсчитывают вероятности, чтобы создать теории, руководящие восприятием, действиями и мыслями. Если смотреть с этой точки зрения, наш разум окажется таким же рабом повторений и рутины — поскольку наши модели мира полностью основаны на предсказуемых паттернах, усвоенных ранее.
Конечно, работа ученого заключается не только в переборе данных. Он берет знакомые данные, но использует их новаторским способом, чтобы что-то создать: новую модель устройства мира, новый «момент эврики».
Бездумное повторение и вдохновленные инновации — вроде бы полные противоположности. Но в этой главе я попытаюсь убедить вас, что это не так. Присмотревшись к процессам, разворачивающимся в нашем мозге, мы увидим, что усвоение и копирование окружающего мира помогает создать по-настоящему оригинальные модели и идеи. Эти силы вовсе не противоположны: наш мозг занимается плагиатом и перемешиванием, чтобы создать нечто новое.
Лучшая площадка для наблюдения за подобными дебатами — лингвистика. Из всех достижений нашего разума именно язык считается жемчужиной в короне человеческой оригинальности. Как выразился разносторонний эрудит Вильгельм фон Гумбольдт, язык — это «бесконечное использование конечных средств»[166]. С помощью фиксированных словарей и жестких грамматических правил мы можем придумать предложение, которое еще никто и никогда раньше не произносил. Или, как более презрительно выражался Декарт, «даже самые тупые люди» умеют «расположить слова различным образом, чтобы ответить на сказанное в их присутствии»[167].
Почти безграничная генеративность языка заставляет многих думать, что наши умы обладают некой врожденной лингвистической искрой, объясняющей это явление. В конце концов, как мы можем сказать что-то новое, если мы лишь копируем слова, фразы, структуры и паттерны, услышанные в чужой речи?
Декарт считал, будто наш талант к языку говорит о том, что люди наделены врожденной языковой сущностью, которая отсутствует у всех других животных. И эта декартовская идея отбросила длинную тень — именно ею в течение нескольких веков руководствовались лингвисты.
Самый влиятельный из всех самопровозглашенных декартовых лингвистов — Ноам Хомский[168]. Хомский — которому сейчас уже хорошо за девяносто — в последнее время прославился благодаря тому, что отвечает абсолютно на все полученные электронные письма (иногда буквально за несколько минут). Но его главным наследием в психологии языка стал аргумент «бедности стимула»[169].
Суть аргументации Хомского в том, что мы не можем выучить язык, просто копируя и повторяя слова, звучащие вокруг, поскольку поток входящей информации слишком скуден. Мы говорим с детьми на обедненном языке, используя ограниченный набор слов и фраз и не всегда исправляя их ошибки. Но дети каким-то образом вполне компетентно осваивают речь.
Для таких мыслителей, как Хомский, бедность стимулов, попадающих в мозг снаружи, означает, что внутри нас должна находиться некая искра, которая делает возможным освоение языков: врожденный механизм, содержащийся во всех человеческих умах и программирующий генеративные правила языка. Хомский называл это уникальное человеческое свойство «универсальной грамматикой», а его верный последователь Стивен Пинкер — «языковым инстинктом»[170].
Эта современная инкарнация Декартовых представлений о врожденной языковой сущности породила десятки лет работы в области психолингвистики — в попытках узнать, можно ли создать язык только с помощью обучения и предсказания, или для него необходимы уникальные врожденные способности, которые есть только у людей.
Среди самых странных работ можно назвать попытки учить животных говорить. Например, в 1970-х команда ученых из одного из пригородов Нью-Йорка всерьез пыталась обучить речи шимпанзе[171].
Сама постановка вопроса выглядит очень странной, но научные мотивы были вполне серьезными. Если картезианцы вроде Хомского правы насчет языка — и существования некоего уникального лингвистического потенциала, запрограммированного в человеческом геноме, — никакое обучение и никакой опыт не помогут научить существо другого биологического вида языку, похожему на человеческий. Но если все семена языка на самом деле скрыты в коктейле из опыта общения с другими людьми, то контакт с человеческими паттернами языка вполне может дать другому животному возможность освоить человеческую речь.
Обезьяну, игравшую центральную роль в эксперименте, назвали Ним Чимпский — в честь ученого, чьи идеи проверялись. Однако, хотя ученые и хотели узнать, сможет ли Ним научиться языку, они изначально понимали, что говорить он не сможет никогда. Шимпанзе — наши ближайшие родственники среди приматов, но голосовой аппарат человекообразных обезьян не может издавать звуки, из которых состоит наша естественная речь. И чтобы дать Ниму хоть какой-то шанс, ученые попытались научить его языку жестов.
В течение всего проекта ученые делали все возможное, чтобы обращаться с Нимом как с человеком[172]. Когда он был маленьким, ему надевали подгузники, детскую одежду, одна из наставниц даже кормила его грудью. А когда он повзрослел, его стали одевать в человеческую одежду, он проводил время с людьми. Когда ученые решили, что он достаточно повзрослел, то не стеснялись давать ему пива и даже покурить.
За это время Ним действительно научился некоторым жестам, которыми с ним общались наставники. Он даже объединял их так, что казалось, будто он на самом деле пытается что-то сообщить. Среди фраз, записанных учеными, значились: «Банан я есть банан», «Обнять я Ним», «Щекотать я Ним играть». Эти фразы могут показаться впечатляющими для скромного маленького шимпанзе. Но еще они говорят о том, что если Ним чему-то у наставников и научился, то точно не правилам грамматики, синтаксиса и структурирования приложений.
Например, самая длинная записанная фраза Нима звучала так: «Дать апельсин я дать есть апельсин я есть апельсин дать я есть апельсин дать я ты». Мы можем легко понять, что Ним имел в виду, но даже маленький ребенок способен строить более сложные и осмысленные предложения. И ученые пришли к выводу, что признаков подлинного освоения языка в поведении Нима не наблюдается. Судя по всему, он просто научился определенным жестам, которые давали приятный для него результат: апельсин, банан, объятия.
Вы можете задать разумный вопрос: действительно ли из неудачной попытки научить шимпанзе говорить можно сделать далекоидущие выводы о языках и обучении в целом? Если Ним не смог научиться языку, похожему на человеческий, основываясь только на собственном опыте, это еще не значит, что человеческий разум неспособен научиться языку, просто усваивая паттерны во входящих звуковых данных.
Возможно, именно поэтому ученых больше заинтересовало исследование языка с машинами. В 1980-х и 1990-х программисты пытались узнать, могут ли искусственные алгоритмы понять работу разума и мозга. Заметным продвижением в этой отрасли когнитивных наук стал так называемый коннекционизм. Коннекционистские сети строят модель разума как ряда взаимосвязанных узлов и весов, подобно тому, как биологические мозги состоят из множества взаимосвязанных нейронов. Именно поэтому такие модели часто называют нейросетями.
Главное свойство коннекционистских сетей состоит в том, что по сути они умеют только ассоциировать. Это чистый лист. У такой сети нет ни априорных знаний, ни правил, только вероятностные паттерны, усвоенные из данных, на которых вы ее тренируете. И это очень важное свойство: если коннекционистская сеть решает с нуля некую проблему, это значит, что она решаема с использованием только обучения и предсказания — ведь это единственные инструменты в ее распоряжении.
А значит, если коннекционистская сеть может воссоздать аспекты человеческого языка, то мы получим доказательство — хотя бы в принципе, — что эти аспекты нашего ума тоже можно объяснить с точки зрения обучения и предсказания. И нам не нужно будет считать, что в наших умах уже заранее запрограммирована некая лингвистическая сущность.
Когда эти коннекционистские модели появились в 1980-х и 1990-х, первые результаты были впечатляющими. Сети, которые обучали только на паттернах звуков, могли воссоздавать паттерны речи, похожие на человеческие, и даже «развивали» в себе лингвистические привычки, похожие на привычки человеческих детей, осваивающих язык.
Одним из примеров стали работы по «избыточной регуляризации». Когда дети осваивают язык, то часто ищут закономерности там, где их нет. Например, если малыш, который учит английский, понимает, что мы используем суффикс «-ed», чтобы обозначить прошедшее время глагола, например в словах «walked» («шел») и «talked» («говорил»), он пытается применять это правило там, где оно неприменимо, и говорит, например, «I runned» или «I goed» вместо правильного «I ran» («я бежал») или «I went» («я пошел»).
Поначалу казалось, что подобное поведение — признак того, что дети изучают грамматическое правило (а потом начинают осваивать исключения). Но точно такие же ошибки появились, и когда ученые научили коннекционистскую сеть изучать и предсказывать спряжение глаголов[173]. У нее не было «в голове» никакой заранее запрограммированной грамматики, и из того, что она демонстрировала точно такие же причудливые привычки, можно сделать вывод, что нам не нужно представлять, будто в нашей голове изначально «живет» грамматика, чтобы объяснить, откуда берется такое поведение.
Коннекционистские сети, конечно, были очень интересными, но в конце концов работа в этой области зашла в тупик. Критики утверждали, что подобные модели могут усвоить некоторые свойства языка, но какие-то лингвистические правила алгоритмы ни за что не воссоздадут, если ученые тайком не впишут их в код программы[174]. Многие не верили, что чистое ассоциирование паттернов когда-нибудь даст нам на выходе язык, похожий на человеческий.
Но потом все начало меняться. Большие языковые модели, подобные LaMDA, строятся на основном принципе коннекционистской, однако на порядки укрупняют ее. В механическом мозге коннекционистской сети 1980-х или 1990-х были сотни или тысячи узлов и связей, а в современных больших языковых моделях таких «запчастей» миллиарды — и благодаря скачку вычислительной мощности произошел такой же заметный скачок и в достижениях этих разработок.
Вот пример работы другой большой языковой модели, GPT-2. Я дал ей в качестве запроса подчеркнутое предложение, остальное она написала сама:
В этой книге Дэниел утверждает, что мозг — «предсказывающая машина», а это особенно важно для понимания языка. Он считает, что мозг делает предсказания, основываясь на накопленных знаниях о мире. Мозг — это, по словам Дэниела, «экспериментальная машина» разума. В самой идее интересно то, что аргумент Дэниела, кажущийся простым, очень сложен для понимания. На самом деле подход Дэниела к языку зачастую трудно понять. Но эту книгу стоит прочесть, если вас интересуют занимательные и часто непонятные механизмы человеческого разума.
Прежде чем беспокоиться из-за этой равнодушной рецензии, сразу скажу, что языковая модель не читала книгу, чтобы прийти к такому выводу. Да даже если и прочитала бы, то мнения у нее на самом деле не было бы. Чтобы понять почему, вам нужно кое-что знать о том, как эти модели работают.
Большие языковые модели тренируют, давая им «читать» огромные объемы текста. Причем слово «огромный», пожалуй, даже преуменьшение — осознать настоящие масштабы трудно. Некоторые наборы данных включают петабайты текста, собранные в интернете. Один петабайт — миллиард мегабайт. Для наглядности: весь текст этой книги можно ужать до размера меньше двух мегабайт. Когда один из этих алгоритмов «прочитывает» набор данных, он просматривает столько текста, сколько содержится в миллиарде книг, стоящих друг за другом. Если бы вы могли читать десять книг в неделю — неделю за неделей, год за годом, не прерываясь ни на день, — вам понадобилось бы два миллиона лет, чтобы стать такими же начитанными, как эти модели после тренировки.
В этих огромных наборах данных алгоритмы встречают слова в контексте — так, как они употребляются в человеческом языке. Меняя триллионы параметров в своем искусственном разуме, модель выучивает статистические отношения между всеми словами, которые видела, и закономерности, согласно которым они появляются вместе. Процесс невероятно ресурсоемок: по некоторым оценкам, для обучения одной языковой модели потребляется больше энергии и сжигается больше углерода, чем среднестатистический человек потребляет и сжигает за шестьдесят лет[175]. Но после тренировки модель может воспользоваться добытыми в поте лица знаниями, чтобы читать входные данные и в ответ создавать собственный текст — используя огромный банк паттернов опыта, чтобы предсказать следующее слово во фразе, а за ним — следующее, и следующее, и следующее.
Таким образом, модели вроде GPT-2 не нужно иметь какого-либо мнения об этой книге, чтобы написать короткую рецензию. На основе полученного запроса она определяет лингвистический контекст и начинает «пережевывать» паттерны, ранее найденные в поразительно огромном наборе данных, на котором тренировалась, — и выдает текст, до жути похожий на человеческий. Настолько, что люди вроде Блейка Лемуана даже пытаются нанять адвоката для этих алгоритмов.
Прочтя описание механики работы этих моделей, вы, возможно, подумали: что бы они ни делали, когда пишут и читают, это не то же самое, что делаем мы, когда слушаем друг друга и сами произносим слова.
Но надежно ли это интуитивное мнение? Действительно ли происходящее в наших головах так отличается от того, что происходит внутри этих машин?
Ответить можно, объединив языковые модели с инструментарием нейробиологов. Интереснейшие, по моему мнению, работы в этой области принадлежат Михе Хейлброну — ныне доценту Амстердамского университета. Я познакомился с ним, когда мы оба только делали первые шаги в области когнитивной нейробиологии. Мы были студентами в Лондоне и слушали курс «Методы для “чайников”», на котором новичков знакомят со сложными методиками измерения того, что происходит внутри живого, думающего мозга. Тогда Миха, может быть, и был «чайником», но ситуация изменилась. За прошедшие годы он нашел немало творческих способов объединить эти методы для описания языковых механизмов мозга.
В одном особенно изобретательном исследовании Миха сравнил, что происходит, когда абсолютно одинаковые лингвистические входные данные проходят через биологический мозг и искусственный разум большой языковой модели[176]. Ученые рассматривали активность человеческого мозга и «мозга» языковой модели GPT-2, когда те слушали рассказы из «Приключений Шерлока Холмса» Артура Конан Дойла.
Сначала Миха с коллегами заглянули в «голову» модели и увидели, что GPT-2 предсказывает, какое слово прозвучит дальше. Если она получает фразу Конан Дойла[177], например: «I had called upon my friend, Mr Sherlock Holmes, one day in the autumn of last year and found him in deep conversation with a very stout, florid-faced, elderly…»[178], то генерирует не единственный вариант прогноза — например, что следующим словом будет «man» («мужчина»). Она вычисляет вероятность для каждого слова из своего лексикона — например, вероятность появления слова «man» довольно велика, но это может быть и «gentleman» («джентльмен»), и «woman» («женщина»), а вот «hound» («собака») вряд ли, и т. д. Так ученые получают возможность точно подсчитать, насколько «удивляется» модель, встретив то или иное слово в тексте, потому что размер «удивления» равняется обратной величине вероятности изначально ожидаемого слова.
Самое интригующее, что могут сделать Миха и его команда, — увязать то, что происходит с моделью, с тем, что происходит в нашем мозге. Ученые измерили уровень «удивления», выраженный моделью, и сопоставили его с активностью мозга участников-людей, слушавших тот же рассказ. Как ни удивительно это прозвучит, Миха обнаружил тесную связь между тем, что удивляло языковую модель и человеческий мозг. Активность в регионах височной доли, которые обычно считаются языковыми центрами мозга, совпадала с паттернами вероятности, полученными от GPT-2: чем более неожиданным оказывалось слово, тем выше была активность.
Более того, Миха и его команда статистически разделили предсказания GPT-2 на разные категории ожиданий с различным уровнем детализации: например, низкоуровневые предсказания звучания слова или высокоуровневые прогнозы семантики и значения. Эти отдельные компоненты, позаимствованные у искусственной модели, можно тоже сопоставить с активностью на разных иерархических уровнях мозга.
Исследование приводит нас к двум выводам. Во-первых, лингвистические предсказания буквально пронизывают наш мозг. Точно оценив степень удивления, а также показав, что на разных уровнях иерархии коры мозга наблюдается разный уровень удивления, мы получаем важное доказательство фундаментальной идеи о языке, озвученной в этой главе. Она гласит: наш мозг постоянно генерирует гипотезы о том, что мы слышим, что прозвучит дальше и что это все значит. Именно об этом мы говорили в главе 1, из которой узнали, что именно постоянное ожидание слов, которых мы слышим, делает речь в принципе понятной и разборчивой.
Во-вторых, мы узнали и кое-что еще — возможно, даже намного более важное: вычисления, проводимые искусственными языковыми моделями, и те, что происходят в наших головах, опираются на одну информацию. Это приводит нас к любопытному предположению: возможно, процессы в наших биологических мозгах и искусственных машинах имеют качественное сходство.
Если мы серьезно отнесемся к этой возможности, то она бросит заметную тень на декартову модель языка, с которой мы начали. С точки зрения Декарта или Хомского язык возносит нас на пьедестал, поскольку его невозможно свести к чисто механическому отслеживанию закономерностей. Но здесь мы видим, что крутящиеся вычислительные шестеренки механического алгоритма вроде GPT-2 порождают предсказательные структуры, похожие на те, что работают в языковых центрах мозга. Сходство между нашим умом и машинами на первый взгляд ставит перед нами очень неприятную дилемму. Что нам делать: поднять искусственные разумы на те пьянящие высоты, в которых парят наши собственные, или самим опуститься на пару ступенек и добровольно лечь в канаву неоригинальности и сопоставления шаблонов?
На первый взгляд мысль, что язык внутри нашего разума похож на язык внутри машин, пугает. Некомфортно считать, что языковые центры вашего мозга просто считывают и используют паттерны, как машина, и все, что вы говорите и пишете, состоит из «пережеванных» паттернов, мотивов, механизмов и фраз, усвоенных из чужой речи.
Меня тоже терзает это интуитивное беспокойство. На данном этапе, под конец книги, мысль о том, что я выполняю по сути механическую работу — ту, на которую машина потратит куда меньше усилий, — отрезвляет. Возможно, когда мы доживем до GPT-6 или GPT-7, алгоритмы смогут уже писать книги от начала до конца, причем более интересные и увлекательные, чем эта.
Возможно, нас ранит мысль о том, что наш оригинальный голос на самом деле вырабатывается механизмом в голове, который просто повторяет и копирует услышанное раньше. Но, возможно, мы найдем бальзам для раненой души, иначе взглянув на само определение оригинальности.
В подходе, который мы использовали до сих пор, добродетели вроде «оригинальности» и «генеративности» противопоставляются порокам — «копированию», «плагиату», «клише». Это кажется интуитивно верным, но может быть ошибкой. Например, эссеист XVI века Мишель де Монтень относился к заимствованиям куда более благосклонно.
Пчелы перелетают с цветка на цветок для того, чтобы собрать нектар, который они целиком претворяют в мед; ведь это уже больше не тимьян или майоран. Точно так же и то, что человек заимствует у других, будет преобразовано и переплавлено им самим, чтобы стать его собственным творением, то есть собственным его суждением[179].
Аргумент Монтеня служит блестящим доказательством самому себе: красивую метафору с пчелами он, скорее всего, украл у римского писателя Сенеки, который дал такое же описание творческого грабежа примерно за 2000 лет до него[180].
Монтень, полагаю, нашел бы общий язык с группой психологов, которые называют себя «эволюционными эпистемологами»; они считают, что процессы творчества и заимствования не противоположны, а взаимосвязаны.
Термин «эволюционная эпистемология» предложил психолог Дональд Кэмпбелл; он основан на глубокой аналогии между эволюцией в биологическом мире и мире умов[181]. В биологии ключевая идея эволюционной теории Дарвина состоит в том, что природа может создавать невероятное разнообразие и сложность без участия всезнающего творца. В биологической эволюции разные существа с разными свойствами образуются в рамках процессов «слепой вариативности» и «избирательного сохранения». Когда организмы размножаются, слепые процессы (например, генетическая мутация) вызывают случайные изменения свойств последующих поколений организмов (это и есть слепая вариативность). Затем новые поколения существ попадают в тяжелые условия природного мира, и те, которые по воле случая стали быстрее, сильнее или умнее, с большей вероятностью выживут (избирательное сохранение).
Чтобы эволюция работала, необходимо разнообразие. Если бы каждый ребенок был точной копией родителей, эволюция не могла бы эксплуатировать разнообразие и организмы никогда бы не менялись. Последующие поколения выглядели бы в точности как предыдущие.
Кэмпбелл использовал ту же эволюционную логику, чтобы рассмотреть происходящее в наших умах. Он увидел аналогию между биологическими процессами эволюции и когнитивными процессами — например, творческой мыслью[182]. В биологической эволюции генетические мутации создают случайные варианты, которым может затем отдать предпочтение естественный отбор, — так возникают более приспособленные существа, и тут не нужен разумный замысел. Кэмпбелл считал, что похожий процесс лежит и в основе создания творческих идей. Нам не нужно считать, что знаменитые писатели, поэты, художники или ученые — уникальные гении, которые извлекают идеальные идеи из некоего мира платонических форм. По мнению Кэмпбелла, нам необходимы только источники вариативности и сохранения в собственном разуме, пузырящийся бульон из мутирующих возможностей, которые мы будем просматривать и отбирать.
Включив эту идею в наши представления о копирующих сетях, мы получим интригующую возможность. На первый взгляд идея о том, что наш мозг работает так же, как LaMDA или GPT-2, выглядит уныло: получается, он усваивает ранее услышанные паттерны, а затем воспроизводит их в разговоре и письменной речи. Подражание другим не оставляет особого пространства для инноваций или индивидуальности в мышлении — мы обречены вечно плагиатить паттерны, которые наш мозг видел раньше, и неспособны сказать ничего по-настоящему нового.
«Это не так», — говорит нам Кэмпбелл. Предположим, эволюционные процессы в биологии действительно показывают нам, что производство и воспроизводство — и немного мутационного шума — могут создать потрясающее разнообразие форм. А что если аналогичные процессы в мозге — механическое обучение, имитация и воспроизводство плюс искра вариабельности — дают нам простор для подлинного новаторства?
Большие языковые модели по самому своему замыслу представляют собой огромные «пережевыватели» паттернов. Но передача генов от родителей к потомству не идеальна — на них влияют и случайные процессы, — и для алгоритмов это тоже верно. Их специально заставляют воспроизводить неидеально. Программисты, конструирующие эти модели, активно вводят небольшой элемент случайности в процесс. Без «инъекций» вариабельности языковые модели действительно ничем не отличались бы от безмозглых попугаев, всегда давали одинаковые ответы на одинаковые запросы, без всякого простора для инноваций.
Но, как и считали эволюционные эпистемологи, когда воспроизведение соединяется со случайностью, появляется возможность создать нечто новое. Некоторые новые фразы, которые изрекают языковые модели, нелепы, а если вы зададите им глупый вопрос, то получите неумный ответ. Например, если спросить у GPT-3: «Каков мировой рекорд в спортивной ходьбе через Ла-Манш?», он ответит: «18 часов 33 минуты», а на вопрос: «Сколько частиц звука содержится в типичном кучево-дождевом облаке?» он ответит: «В типичном кучево-дождевом облаке содержится около 1000 частиц звука»[183]. Эти ответы показывают, что модель на самом деле не понимает, о чем говорит, но каждый ответ, несомненно, оригинален. Она вряд ли встречала какую-то из этих фраз в своем списке для внеклассного чтения из миллиардов книг, на котором тренировалась, но с помощью сочетания предсказания и случайности она породила новую последовательность слов.
Если эти искусственные нейронные сети представляют собой хорошую модель для сетей в наших головах, то человеческий мозг проявляет генеративность и оригинальность ровно так же. Наш мозг, безусловно, отслеживает статистические закономерности в своих входящих данных. Но когда выявление шаблонов соединяется с треском нейронного шума, характерного для биологических мозгов, появляются условия для оригинальности. Подобно монтеневским пчелам, таскающим нектар из тимьяна и майорана, чтобы делать мед, наш мозг конструирует из заимствованных паттернов нечто новое.
Шум помех в нашей голове — не единственное, что заставляет нас воспроизводить информацию неидеально. Наш разум вдобавок фильтрует новые идеи сквозь существующие созвездия знаний и верований. Благодаря этому исходная мысль может мутировать во что-то совсем другое, когда ее реконструирует иной мозг.
Вспомните детскую игру в «испорченный телефон». Начинается все с одной фразы, которая шепотом передается другому человеку, от него — третьему и так далее. На каждом этапе сообщение воспроизводится неточно. Оно не просто становится шумнее и случайнее: оно мутирует, когда слушатели используют свой набор знаний и установок, чтобы воспроизвести то, что, как им кажется, они услышали. И благодаря этой фильтрации — творческому искажению — конечный продукт может сильно отличаться от исходного.
Некоторые психологи любят заставлять людей играть в «испорченный телефон» в лаборатории, хотя, чтобы добавить процессу респектабельности, они называют такие эксперименты «цепочками культурной передачи»[184]. Ученые дают исходное «семечко», которое пытается воспроизвести один из испытуемых. Выходные данные от первого становятся входными для второго, выходные данные второго — входными для третьего и т. д. Идея в том, что подобные цепочки передачи представляют собой своеобразную «культуру в миниатюре», имитируя проникновение мыслей, идей и практик из одного ума в другой, из него в третий…
Одним из первых такие эксперименты начал проводить Фредерик Бартлетт, первый профессор экспериментальной психологии в истории Кембриджского университета. В своей книге «Запоминание» (Remembering, 1932) он описал свои исследования, в которых давал участникам посмотреть на короткий текст или изображение, а потом повторить их по памяти[185]. Эти тексты или картинки получал следующий участник и т. д. Во всех экспериментах оказывалось, что объекты при передаче искажаются и мутируют. Например, рисунок, на котором первоначально изображался парусник, переворачивали вверх ногами и превращали в архитектурную арку или нечто похожее на пюпитр. Особенно сильными были искажения, когда исходным объектом в цепочке оказывалось нечто незнакомое. Древнеегипетский иероглиф «мулак» (незнакомый большинству современных людей) карикатурно перерисовывали как сову, а совы по мере продвижения по цепи превращались в кошек. При копировании и воспроизведении формы меняются — под влиянием особенностей разумов, участвующих в процессе.
Этот процесс фильтрации и нормализации, как кажется на первый взгляд, лишает процесс воспроизведения инновационности и оригинальности. Но только от самого копирующего разума зависит, станет ли идея более знакомой или более странной.
Дональд Кэмпбелл разработал не только идею эволюционной эпистемологии, но и так называемую чешуйчатую модель науки обо всем[186]. Он использовал термин «omniscience» не в том смысле, в котором говорят о «всезнающем боге». Кэмпбелл разделил слово на «omni» и «science», получив «науку обо всем» — о том, как ничтожный человеческий разум может хотя бы приблизиться к тому, чтобы знать все, что можно узнать с помощью всех возможных методов.
Кэмпбелл, писавший в 1960-е, диагностировал организационную болезнь, которой страдали (и до сих пор страдают) университеты. Заведения разделяются на факультеты и департаменты, в которых работают специалисты, и последние превращают молодых людей в таких же узких специалистов. Да, эти дисциплины вырабатывают знания — только раз за разом одни и те же. Ученые и исследователи, работающие в рамках этой модели, разбредаются по своим «бункерам» и патрулируют границы своих маленьких территорий, не в силах даже поговорить с соседями в другом конце коридора.
Кэмпбеллу казалось, что такое дублирование усилий — ужасное расточительство. Профессора не должны создавать точные копии себя, которые знают то же, что и они, и думают так же. Этот участок интеллектуальной «земли» уже засеян, ниша занята.
Он считал, что оптимальный метод размещения наших разумов похож на рыбью чешую. Сразу две чешуйки в одном месте бессмысленны, но если между ними оставить промежутки, плоть под ними станет уязвимой. Точно такой же должна быть и оптимальная расстановка умов — каждый из нас находит свой участок в интеллектуальном ландшафте, свою чешуйку. Нам всем нужно формировать собственные уникальные сочетания знаний, навыков и опыта, которые, тем не менее, должны в достаточной степени пересекаться с соседями, чтобы мы могли их понимать, не оставляя зазоров в броне.
Кэмпбелл писал об учебных заведениях и о том, как преподавательский состав разбегается по «бункерам», но мне кажется, что похожая проблема имеется и во многих других областях. Нас окружают интеллектуальные, артистические, профессиональные и политические культуры, которые воспроизводят себя по своему образу и подобию — и даже существуют специальные структуры, следящие за тем, чтобы люди знали, думали и делали примерно одно и то же.
Давайте снова вспомним о процессе передачи и воспроизведения. Если все наши умы будут порождены одной монокультурой, наши искаженные репродукции, скорее всего, станут возвращаться к знакомым формам и мотивам — примерно так же, как иероглиф Бартлетта трансформировался в кошку. Если у всех наших умов окажутся одинаковые фильтры, то постоянное копирование будет возвращать нас на известную территорию, а не создавать что-то новое. А вот если фильтры в наших умах разные, то верно обратное. Когда модели наших разумов настроены по-разному, воспроизведение одной и той же мысли в головах поможет идеям мутировать в разных направлениях.
Мы часто видим, как подобное происходит в науке: копирование чего-то старого в новом месте создает нечто поистине оригинальное. В XVII веке голландский ученый Христиан Гюйгенс сумел понять, почему двое часов, висящих на одной стене, рано или поздно синхронизируются[187]; ученые XXI века применили те же математические идеи[188], чтобы узнать, как музыканты в оркестрах попадают в общий ритм и как синхронизируются хлопки аплодирующих зрителей[189]. В начале XX века биологи разрабатывали модели, объясняющие популяционную динамику хищников и дичи: если волки съедают слишком много кроликов, то начинают голодать и умирать, благодаря чему кролики плодятся, появляется больше пищи для волков, волки размножаются и съедают больше кроликов, и т. д. Но в следующих десятилетиях модели, первоначально использованные для описания хищников и жертв, были скопированы другими учеными, чтобы объяснить, например, динамику отношений покупателей и продавцов на экономических рынках или рост чужеродных инфекций, которые «охотятся» на здоровые клетки в организмах носителей[190].
Такое же творческое копирование мы видим и в ненаучной культуре. Вполне возможно, например, что характерный стиль кубистских портретов, который мы ассоциируем, в частности, с Пикассо, — «импортированный» в европейскую живопись абстрактный стиль резных африканских масок[191].
Суть идей Кэмпбелла состоит в следующем: если мы хотим, чтобы человеческие сообщества выдвигали оригинальные идеи, наши умы должны быть слегка странными. Глубокие экспертные знания, безусловно, тоже важны, но еще каждому из нас стоит превратиться в уникальную «чешуйку», которая знакома с периферийными и пересекающимися идеями на нашей интеллектуальной орбите. Если мы превратим наши умы в правильно расположенную рыбью чешую, будем знать невероятные сочетания фактов, практик, концепций, инструментов и методики, то процесс воспроизводства в наших умах при столкновении с чем-то новым поможет нам вносить еще более творческие искажения. Наши мутировавшие идеи станут еще более странными. Подобно ученому, работающему на стыке нескольких дисциплин и способному объединять теории новыми, необычными способами, мы можем, культивируя в мозге необычное сочетание знаний, создавать по-настоящему новые идеи.
К чему мы в результате пришли? Оригинальность — это, бесспорно, великая ценность. Мыслители вплоть до сегодняшнего дня смотрели на машины, повторяющие шаблоны, — будь то механические автоматы или большие языковые модели — и, откровенно говоря, впечатлены не были. Они указывали на явное отсутствие уникальной человеческой черты — способности создавать нечто действительно новое.
Но, заглянув внутрь нашей головы, мы видим, что «под капотом» и у искусственных нейросетей, и в сетях наших настоящих нейронов происходит примерно одно и то же. Наш запертый в черепе ученый исследует окружающий мир, впитывая и фильтруя предсказуемые паттерны из прошлого. В этом смысле модели, создаваемые в наших умах, — просто копии реальности, в которой мы обитаем. В конце концов, это и есть обучение: создание внутри головы модели мира, которая копирует мир внешний.
Однако — и это важно — процесс копирования и воспроизведения не исключает оригинальности. Напротив: точно так же, как шум и помехи в генетической репликации создают головокружительное разнообразие биологических форм, которые мы видим в природе, неточное копирование и тенденциозная фильтрация в мозге превращают плагиат в творческий процесс.
Конечно, между нами и машинами есть разница. Но Декарт и другие ошибались: она не в том, что машины просто копируют, а мозг человека наделен таинственной творческой сущностью. Наши разумы, вполне возможно, тоже представляют собой большие копировальные сети.
Разница — в том, что искусственные сети прочитывают больше текста, чем можно изучить за сотни тысяч человеческих жизней, а наши сети копирования шаблонов встроены в разум, который воспринимает и верит, а он, в свою очередь, встроен в большой социальный мир, кишащий другими сетями, которые встроены в другие мозги и обмениваются идеями с нами.
Искусственные алгоритмы, исчерпав свой почти бесконечный список литературы, превращаются в статичных предсказателей, а наши сети копирования шаблонов постоянно обновляются, реагируя на новый опыт. Потому-то у каждого из нас есть уникальный умственный фильтр, «рыбья чешуйка», расположенная в определенном участке ландшафта когнитивных возможностей.
Так наши процессы создания моделей и копирования миров снова приводят нас к попперовскому миру идей. Но наши знания о том, как мы ориентируемся в этом мире, остаются неполными. В этой главе и предыдущей главе мы увидели, что наш мозг, подобно ученым, обладает любопытным желанием понимать и способностью придумывать и открывать новое. Но как мы ориентируемся в наших открытиях? Как понимаем, что новая идея должна изменить наше мышление? Последнюю деталь этой мозаики мы найдем в следующей, последней главе — из которой узнаем, как в нашем мозге происходит сдвиг парадигмы.