К книге
Законы мышления: В поисках математической теории разума4 Язык как формальная система.
18%
4 Язык как формальная система.
6

Когда Ноам Хомский поднялся на трибуну, чтобы выступить с докладом на Симпозиуме по теории информации, ему было двадцать семь лет. Он работал преподавателем в MIT всего год, ведя (по его собственным словам) «курсы натаскивания для аспирантов, организованные кафедрой современных языков, чтобы помочь им сдать для галочки экзамены по чтению для докторской степени». Его главный труд — почти тысячестраничный сложнейший технический трактат под названием Логическая структура лингвистической теории — незадолго до этого был отвергнут издательством MIT Press. Один язвительный рецензент заметил, что это книга из тех, которые могут быть опубликованы только после того, как их автор станет знаменитым. По иронии судьбы, доклад, с которым собирался выступить Хомский, стал важнейшим шагом на пути к тому, чтобы превратить его в одного из самых известных интеллектуалов двадцатого века.

Среди участников симпозиума были ведущие специалисты в области теории информации, самым выдающимся из которых был сам Клод Шеннон. Это были математики высочайшего класса, каждый день размышлявшие над сложнейшими нюансами коммуникации.

Хомский собирался сказать им, что их представления о языке были в корне неверны.

Жизнь, язык и логика

Хомский с самого детства жил в мире, где понимали всю важность и сложность языка. Его родители эмигрировали в Соединенные Штаты из России; они преподавали в различных еврейских школах, пока наконец не обосновались в Филадельфии, в школе при конгрегации «Микве». Отец Хомского был исследователем иврита и написал книгу «Иврит: вечный язык», а также грамматику средневекового иврита. Это оказало глубокое влияние на Хомского, который еще десятилетним мальчиком прочитал исторический труд своего отца. В том же году он опубликовал свою первую статью — редакционную колонку о Гражданской войне в Испании, вышедшую в газете его начальной школы. Эта страсть к политике останется с ним на всю жизнь, тесно переплетаясь с его лингвистическими трудами.

К тому времени как шестнадцатилетний Хомский поступил в Пенсильванский университет, он уже успел разочароваться в академическом образовании. Он посещал занятия по арабскому языку, а его увлечение радикальным анархизмом и левыми политическими идеями стало еще глубже. После двух лет в колледже он был готов бросить учебу. Как он сам вспоминает: «Мои смутные планы на тот момент заключались в том, чтобы уехать в Палестину, возможно, в кибуц, и попытаться принять участие в усилиях по арабо-еврейскому сотрудничеству в рамках социализма». Однако жизненный путь Хомского изменила встреча с профессором лингвистики Зеллигом Харрисом. Харрис принадлежал к той же среде русских эмигрантов, что и родители Хомского. Он также был глубоко вовлечен в те политические движения, которые вдохновляли Хомского. И хотя их отношения, возможно, и начались на почве политики, вскоре они распространились и на лингвистику.

Лингвистика тоже не избежала влияния бихевиористских тенденций, охвативших психологию. Когда Хомский учился в колледже, доминирующая парадигма фокусировалась на наблюдаемых аспектах языка — его звуках, словах и предложениях. Цель состояла в том, чтобы описать природу этих элементов в конкретном языке, а также проследить, как они варьируются в различных языках мира. Харрис был лидером этого направления; он стремился разработать новые методы, которые позволили бы лингвистам делать строго обоснованные выводы о структуре языка на основе живой речи его носителей. Результаты, которых Харрис добился в решении этой задачи, были обобщены в книге Методы структурной лингвистики. Еще до того, как Хомский прослушал свой первый курс по лингвистике, Харрис попросил его вычитать рукопись этой книги. В предисловии, датированном январем 1947 года, отмечается, что «Н. Хомский оказал неоценимую помощь в подготовке рукописи».

В дальнейшем Хомский продолжил сотрудничать с Харрисом и по другим проектам, включая свою выпускную работу на степень бакалавра — грамматику иврита. Однако описание структуры языка с помощью методов, которым его обучили, привело к результатам, показавшимся ему «довольно скучными и не приносящими удовлетворения». Тогда он решил пойти иным путем: вместо использования правил вроде тех, что разрабатывал Харрис для соотнесения языковой структуры с эмпирическими данными, нельзя ли сформулировать свод правил, описывающих сам язык как таковой? Хомский заинтересовался логикой, читая Бертрана Рассела и Рудольфа Карнапа, а также благодаря лекциям философа Нельсона Гудмена (с которым мы встретимся в главе 5). Что, если применить стратегию, аналогичную логической, где система правил служит для порождения доказательств, для порождения самого языка?

Выпускная работа Хомского, защищенная на степень бакалавра и позже переросшая в магистерскую диссертацию «Морфофонемика современного иврита», стала первым воплощением этого нового подхода. В основе работы лежала мысль о том, что язык можно анализировать как формальную систему — точно так же, как логику, — и что многие логические концепции применимы для описания того, как весь язык может генерироваться из простого набора правил. В 1951 году Хомский ушел из Пенсильванского университета и присоединился к престижному Гарвардскому обществу стипендиатов (Society of Fellows), членство в котором давало ему полную свободу в выборе тем для исследований. Он все еще пытался как-то примирить свой подход с методами, которые продвигали Харрис и другие лингвисты и которые сам он характеризовал как «процедуры открытия структуры языка». Момент озарения наступил в 1953 году:

«На борту корабля посреди Атлантики, под аккомпанемент жестокой морской болезни, на старой посудине, которая заметно кренилась набок — в войну ее потопили немцы, и теперь она совершала свой первый рейс после того, как была поднята со дна и отремонтирована. Мне вдруг открылась веская — и совершенно очевидная — причина того, почему многолетние упорные попытки усовершенствовать "процедуры открытия" закончились ничем, в то время как работа над порождающими грамматиками и объяснительной теорией, которую я вел в тот же период в почти полной изоляции, неизменно приносила интересные результаты».

Следующие два года Хомский посвятил детальному изложению следствий этого озарения в своей масштабной рукописи Логическая структура лингвистической теории, представив одну из ее глав в качестве диссертации в Пенсильванском университете.

По некоторым сведениям, один из членов диссертационного комитета Хомского заявил: «Я не знаю, к какой области науки это относится, но это точно не лингвистика». Тем не менее в 1955 году Хомскому была присуждена докторская степень, и он вошел в состав преподавателей MIT. Время, проведенное в Обществе стипендиатов, дало ему возможность познакомикомиться с ведущими исследователями из самых разных дисциплин. Одним из них был Питер Элайс, организатор Симпозиума по теории информации 1956 года. Там Хомский обрел аудиторию, в которой математиков было гораздо больше, чем лингвистов, а значит, она могла быть более открытой для нового, сугубо математического взгляда на природу языка.

Бесцветные зеленые идеи

Специалисты по теории информации интересовались языком, потому что хотели создавать более эффективные коды.

Представьте, что вы хотите передать английское предложение с помощью двоичного кода, в котором каждая буква представлена последовательностью нулей и единиц. Существует две последовательности, состоящие всего из одного символа (0 и 1), четыре последовательности из двух символов (00, 01, 10 и 11), восемь последовательностей из трех символов (000, 001...) и шестнадцать — из четырех (0000, 0001...). Чтобы закодировать двадцать шесть букв английского алфавита, вам придется решить, какие буквы будут представлены более длинными последовательностями. Эффективный код делает отправляемые сообщения как можно короче. Для этого самые короткие последовательности следует использовать для обозначения наиболее часто встречающихся букв (E и T), а самые длинные — для наименее часто встречающихся (Q и Z). Именно так и устроены реальные коды — именно поэтому в азбуке Морзе буква E обозначается как ·, T — как , Q — как − − · −, а Z — как − − ··. Одно из достижений Шеннона в разработке теории информации заключалось в том, что он распространил эту взаимосвязь между длиной двоичной последовательности и вероятностью кодируемого элемента на общую теорию эффективных кодов.

Чтобы создавать более совершенные коды, Клоду Шеннону и другим теоретикам информации требовалось научиться вычислять вероятность букв и слов. У них было простое решение этой задачи: подсчет того, сколько раз буквы и слова встречаются в тексте. Но оказалось, что результаты будут еще лучше, если подсчитывать, сколько раз в тексте встречаются пары букв и слов. Это наводит на мысль о простой модели языка, в которой предложения генерируются исключительно на основе того, как часто слова появляются вместе. Чтобы составить новое предложение, вы выбираете слово, которое раньше уже использовалось для начала предложения. Затем каждое следующее слово в этом предложении выбирается из набора слов, которые встречались после предыдущего слова. Эта стратегия работает на удивление хорошо, позволяя получать последовательности слов, напоминающие английские предложения (см. рис. 4.1).

Эта простая идея — подсчет частоты совместного появления слов — также отлично вписывалась в бихевиористский взгляд на язык. Слова наблюдаемы, а соответствия между ними можно усвоить путем формирования ассоциаций: каждый раз, когда за одним словом следует другое, связь между этими двумя словами укрепляется. Именно такой механизм обучения был зафиксирован у животных в самых разных условиях, и его можно было экстраполировать, чтобы объяснить, как люди усваивают структуру любого языка. Таким образом, у бихевиористов была правдоподобная версия природы языка, которая не требовала постулирования каких-либо механизмов, выходящих за рамки уже наблюдаемых у других животных.

Поэтому, когда Хомский предстал перед аудиторией специалистов по теории информации и психологов, одним из первых его шагов было доказательство несостоятельности этой идеи. Он показал, что подсчет пар слов не позволяет уловить структуру даже одного языка — английского. На самом деле он пошел еще дальше, заявив, что подсчет частоты появления последовательностей слов любой длины в принципе не способен отразить структуру человеческих языков.

В качестве аргумента Хомский предложил аудитории рассмотреть фразу, которая с тех пор стала самым известным в мире бессмысленным предложением: «Colorless green ideas sleep furiously» («Бесцветные зеленые идеи яростно спят»). Смысл этой последовательности слов может быть неясен, но ее легко распознать как грамматически правильное английское предложение. Если для вас это неочевидно, сравните ее с «Furiously sleep ideas green colorless» («Яростно спят идеи зеленые бесцветные»). Хорошая теория языка должна позволять нам объяснить, почему одно из этих предложений грамматически корректно, а другое — нет. Однако подсчет того, сколько раз слова следуют друг за другом, не поможет ответить на этот вопрос. Хомский намеренно составил свои примеры из крайне маловероятных пар слов, чтобы сделать невозможным их различение с помощью любого метода, основанного на подсчете частоты встречаемости последовательностей слов. Когда в 1956 году он произнес эти фразы перед своей аудиторией, было крайне маловероятно, что слово «green» когда-либо встречалось после «colorless» в каком-либо предложении, которое они слышали ранее, равно как и «ideas» после «green», «sleep» после «ideas» или «furiously» после «sleep».

Рисунок 4.1: Исследования Клода Шеннона в области приближений к английскому языку на основе подсчета частоты отдельных букв, пар букв, троек букв, отдельных слов и пар слов. Каждая текстовая выдержка сгенерирована с использованием этих частот, создавая все более близкое приближение к английскому языку. Эти примеры взяты из его классической статьи 1948 года «Математическая теория связи».

Этот довод наглядно демонстрирует, в чем заключалась сила подхода Хомского к языку: он объединил теоретический инструментарий математика с эмпирическими методами лингвиста. Он доказал неадекватность математической модели, просто продемонстрировав пример нарушающего ее предложения. Это позволило быстро оценивать различные математические модели, причем результаты мог легко проверить любой носитель языка. В оставшейся части своего доклада он использовал этот подход для оценки ряда все более сложных математических моделей языка.

Три модели

Доклад, который Хомский представил на симпозиуме, назывался «Три модели описания языка» и представлял собой спектакль в трех актах. В каждом акте появлялся новый персонаж — способ представления языка в виде формальной системы. В первом акте выводился злодей, во втором — герой, а в третьем появлялся друг, протягивающий герою руку помощи. Но прежде чем эти персонажи могли появиться на сцене, Хомскому требовалось подготовить декорации: сформулировать проблему, которую он хотел решить, в понятных любому математику терминах, превратив задачу лингвиста в задачу построения и анализа системы правил и символов.

Сама дефиниция языка, предложенная Хомским, была радикальным шагом: «Под языком мы, следовательно, будем понимать множество (конечное или бесконечное) предложений, каждое из которых имеет конечную длину и построено из конечного алфавита символов». В определении Хомского нет ни слова о том, что языки служат для общения, а предложения имеют смысл. То, как он определил грамматику, было еще более радикальным: «Под грамматикой языка L мы понимаем некое устройство, которое порождает все цепочки, являющиеся предложениями L, и только их». В этом и заключалась ключевая идея его нового подхода на основе генеративной грамматики: лингвист должен стремиться создать устройство — как правило, систему правил, — способное порождать предложения языка. Подобно тому как следование правилам логического вывода позволяет получить все следствия из набора суждений, следование правилам грамматики должно было приводить к получению всех возможных предложений (и только этих предложений).

Сформулировав эти определения, Хомский получил предельно ясную задачу: оценить различные модели языка — формальные системы — на предмет их способности адекватно описывать структуру человеческих языков.

Когда я вводил понятие формальной системы, я предлагал представить настольные игры — игры с четко определенным начальным состоянием и правилами, предписывающими допустимые ходы. Первую модель, которую рассматривал Хомский, проще всего представить в виде очень простой настольной игры. Представьте себе игровое поле со стартовой позицией, куда вы ставите фишку, и дорожкой, по которой можно двигаться в другие позиции (см. рисунок 4.2). Каждый раз, переходя на новое поле, вы записываете слово, указанное на пройденном вами пути. Достигнув финальной позиции, вы заканчиваете игру, а результатом становится составленное предложение.

Рисунок 4.2: Простая конечноавтоматная грамматика, представленная в виде настольной игры. Чтобы составить предложение, поместите фишку на поле СТАРТ и двигайтесь по стрелкам, записывая слово, соответствующее каждому сделанному ходу. Предложение будет готово, как только вы достигнете поля ФИНИШ.

Если следовать этим правилам на поле, показанном на рисунке 4.2, можно составить всего два предложения: «The dogs run» или «The dog runs». Но если добавить еще один возможный ход, как показано на рисунке 4.3, мы сможем породить бесконечное количество предложений: «The dogs run», «The hairy dogs run», «The hairy hairy dogs run» и так далее. Это дает первое представление о силе формальных систем в описании языка: используя всего несколько правил, мы можем порождать бесконечно много предложений — свойство, которое Хомский позже охарактеризовал как «бесконечное использование конечных средств».

Рисунок 4.3: Конечноавтоматная грамматика, порождающая бесконечное число предложений.

Рассмотреть эту простую модель языка Хомского побудило желание формализовать идею, которую разделяли теоретики информации и бихевиористы, — представление о том, что каждое слово порождается исключительно на основе предыдущего. Хомский назвал ее конечноавтоматной грамматикой (поскольку существует конечное число позиций на поле — состояний, — в которых может находиться система), а получаемый язык — конечноавтоматным языком. Затем он перешел к доказательству того, что английский язык не является конечноавтоматным.

Довод Хомского строился на том факте, что существуют языки, которые в принципе невозможно описать с помощью конечноавтоматной грамматики. Представьте, к примеру, язык, состоящий всего из двух слов — «apple» и «banana». Правильные предложения в этом языке состоят из произвольного количества повторений слова «apple», за которыми следует точно такое же количество повторений слова «banana». Таким образом, цепочки «apple banana» и «apple apple banana banana» будут правильными предложениями, а «apple apple banana» — нет. Этот язык невозможно представить с помощью конечноавтоматной грамматики: вы не сможете создать такое игровое поле, которое порождало бы все правильные предложения этого языка путем простого перемещения по путям от старта к финишу. Попытавшись это сделать, вы обнаружите, что для каждого конкретного числа слов «apple» вам потребуется отдельный путь, чтобы гарантировать появление точно такого же числа слов «banana». Поскольку язык допускает любое количество слов «apple», вам понадобилось бы бесконечно большое игровое поле, чтобы охватить все бесконечное множество предложений этого языка, а это нарушает исходное условие о том, что наша грамматика имеет конечное число состояний.

Вдохновленный этим примером, Хомский начал искать подобные структуры в английском языке. Мы можем привести пример одной такой структуры, немного усложнив грамматику, показанную на рисунке 4.2. Мы уже установили, что предложение «The dog runs» грамматически правильно. Точно так же правильным является предложение «The dog the cat chases runs». И мы можем продолжать добавлять подобные придаточные предложения, получая конструкции вроде «The dog the cat the mouse fears chases runs». Вскоре становится довольно трудно уловить, о чем вообще идет речь (в последнем случае кошка, наводящая страх на мышь, заставляет собаку бежать), но Хомского это мало беспокоило — для него имело значение лишь то, что носитель английского языка, имея достаточно времени и лист бумаги для записей, в конце концов согласится, что это предложение грамматически верно. Если мы допустим бесконечно длинные предложения такой формы, мы получим язык, который невозможно описать с помощью конечноавтоматной грамматики. Причина та же, что и в случае с нашим языком из яблок и бананов: каждое существительное (dog, cat, mouse) должно соответствовать определенному глаголу (runs, chases, fears) точно так же, как каждое «apple» должно соответствовать «banana». Чтобы понять, что в конце предложения нам нужно сказать «runs», а не «run», нам необходимо знать, что первым словом было именно «dog», а не «dogs».

Вывод Хомского был однозначен: конечноавтоматные грамматики не способны отразить структуру английского языка. Точнее говоря, «если мы построим конечноавтоматную грамматику, порождающую только английские предложения, мы заранее знаем, что она окажется не в состоянии породить бесконечное число этих предложений; в частности, она не сможет породить бесконечное число истинных предложений, ложных предложений, разумных вопросов, которые можно было бы внятно задать, и тому подобного». А если конечноавтоматные грамматики не подходят для английского, то они уж точно не могут претендовать на роль описания структуры всех человеческих языков.

Итак, со злодеем покончено. На сцену выходит герой: грамматика непосредственных составляющих.

Подозреваю, что половина из вас мгновенно уснула, едва прочитав эти три слова, а у другой половины побежали мурашки по коже от воспоминаний о неприятном опыте на уроках английского языка. Я постараюсь объяснить, что такое грамматика непосредственных составляющих, так, чтобы свести к минимуму скуку и психологические травмы, ведь это один из лучших способов продемонстрировать мощь систем правил и символов.

С помощью грамматик непосредственных составляющих Хомский попытался определить тип формальной системы, которая более непосредственно отражает структуру предложений. Предложение «Colorless green ideas sleep furiously» можно разбить на две части: именную группу, описывающую деятеля («colorless green ideas»), и глагольную группу, обозначающую действие («sleep furiously»). Каждую из этих частей можно заменить другими именными и глагольными группами соответственно, получая новые грамматически правильные предложения («Involuntary beige liberties sleep furiously», «Colorless green ideas run motionlessly»). Они также важны для других операций, которые мы производим с предложениями, например для преобразования их в вопросы и ответы: «What slept furiously?» — «Colorless green ideas».

Формальная система, которую Хомский ввел для отражения этих свойств языка, использовала идею, с которой мы познакомились в предыдущей главе: правила продукций. Напомню, что продукция — это правило вида «если — то», описывающее действие, которое необходимо предпринять в определенной ситуации. Правила продукций Хомского были правилами «перезаписи», определяющими, как конкретные символы могут быть заменены другими символами. Например, правило Sentence → NounPhrase VerbPhrase означает, что символ, обозначающий предложение, может быть заменен символами именной группы и глагольной группы. При применении этого правила мы записываем новые символы, проводя линии назад к символу, от которого они были получены:

Теперь мы можем добавить еще несколько правил:

Мы можем использовать эти правила для перезаписи символов NounPhrase и VerbPhrase

а затем просто продолжать этот процесс, перезаписывая символы до тех пор, пока не получится последовательность слов:

На самом деле эта грамматика уже порождает бесконечное множество предложений: если мы продолжим применять первое правило для NounPhrase, то сможем добавлять сколько угодно определений вроде «colorless» или «green». Но мы можем сделать ее богаче, добавив другие правила. Например, добавление правил

Adjective → hairy Adjective → brown Noun → dogs

Verb → run

Adverb → happily

позволяет нам получить

Это предложение имеет точно такую же глубинную структуру, как и «Colorless green ideas sleep furiously» (все, кроме самих слов, порождается абсолютно одинаково), что наглядно объясняет, почему оба эти предложения грамматически правильны. Неважно, что эти слова никогда прежде не стояли рядом друг с другом, ведь глубинная структура — это именно то, что разрешено в английском языке. Чего нельзя сказать о цепочке слов «Furiously sleep ideas green colorless», и теперь у нас есть способ понять, почему одно предложение грамматически верно, а другое — нет.

Грамматика непосредственных составляющих — это всего лишь формальная система, где начальным состоянием служит символ Sentence, игровыми фигурами — такие символы, как NounPhrase и VerbPhrase, а также слова вроде «green» и «dogs», а правила предписывают, какие ходы нам разрешено делать. Тем не менее грамматики непосредственных составляющих можно использовать для описания языков, которые не поддаются описанию с помощью конечноавтоматных грамматик. Возьмем наш язык «яблок и бананов», где бананов должно быть ровно столько же, сколько и яблок. Его можно описать простой грамматикой непосредственных составляющих всего с двумя правилами:

Sentence → apple Sentence banana

Sentence → apple banana

Начав с символа Sentence, мы имеем два варианта:

Если мы выберем второй вариант, у нас снова появятся две альтернативы:

Мы можем повторять этот процесс сколько угодно раз. Количество перезаписей символа Sentence определяет, сколько раз мы напишем «apple» и сколько раз — «banana», поэтому число яблок и бананов всегда будет совпадать. Таким образом, некоторые языки, которые невозможно было описать с помощью конечноавтоматных грамматик, не представляют никакой проблемы для грамматик непосредственных составляющих.

Грамматики непосредственных составляющих были второй моделью Хомского. Он выписал несколько простых грамматик и показал, как с их помощью можно описать конкретные аспекты английского языка. Однако он также понимал, что сами по себе они не справятся со всей работой. Чтобы помочь им, он ввел нового персонажа: трансформации.

Многие предложения в английском языке связаны друг с другом. Выше я приводил пример: мы можем вывести форму вопросов и ответов из простого предложения. Другой пример — различие между активным и пассивным залогом: «The man ate the food» и «The food was eaten by the man» представляют собой совершенно разные последовательности слов, но очевидно связаны друг с другом. Третья модель Хомского предполагала, что эти связи можно сделать явными с помощью идеи трансформаций — правил, которые берут одно предложение и преобразуют его в другое.

Наставник Хомского Зеллиг Харрис исследовал трансформации как способ разложения сложных предложений на более простые составляющие. Хомский же рассматривал трансформации как еще один механизм, который можно использовать для того, чтобы порождать предложения. Базовое предложение могло быть создано грамматикой непосредственных составляющих, а затем преобразовано в другую форму с помощью трансформации. Таким образом, трансформации обеспечивали элегантный способ описания некоторых правил языка более высокого уровня, а также упрощали задачу построения грамматики непосредственных составляющих, поскольку теперь этой грамматике требовалось описывать лишь базовый набор предложений, составляющих ядро языка.

На этом он и закончил. Его заключительные слова гласили: «Подводя итог, мы представляем себе язык как имеющий небольшое, возможно, конечное ядро базовых предложений со структурой непосредственных составляющих […] наряду с набором трансформаций, которые могут применяться к ядерным предложениям или к полученным ранее трансформациям для создания новых, более сложных предложений из элементарных компонентов. Мы увидели определенные указания на то, что этот подход может позволить нам свести огромную сложность реального языка к обозримым масштабам и, кроме того, может дать глубокое понимание процессов реального использования и понимания языка».

Иерархия Хомского

Трудно сказать, как отреагировали на презентацию остальные слушатели, но Джордж Миллер был заинтригован. Следующие несколько месяцев он провел в напряженных беседах с Хомским о формальных моделях языка. В конце концов он убедил Хомского одолжить ему рукопись Логической структуры лингвистической теории, испещренную авторскими заметками и исправлениями. Но это чуть не обернулось катастрофой:

«Как-то днем я изучал ее в своем кабинете в подвале Мемориал-холла, когда Эдди Ньюман просунул голову в дверь: „Эй, Джордж! Мемориал-холл горит!“

Мы вместе выбежали на улицу и, задрав головы, увидели пламя, поднимающееся над часовой башней. Пожарная часть Кембриджа находилась прямо через дорогу, но они были бессильны — напора воды не хватало, чтобы достать до огня. У нас было ровно столько времени, чтобы спасти наши самые ценные вещи: Эдди схватил лабораторную кошку, а я схватил рукопись Ноама. Отягощенные этой ношей, мы наблюдали с безопасного расстояния, как огонь догорает, постепенно опускаясь до тех пор, пока вода не смогла до него достать».

Миллер и Хомский подружились, и летом 1957 года их семьи вместе провели время в Калифорнии, исследуя связи между теорией Хомского и интересом Миллера к психологии языка.

Тот год также ознаменовал момент, когда и другие начали проявлять интерес к работам Хомского. В дополнение к своим курсам французского и немецкого языков, Хомский вел у студентов бакалавриата курс по языку, где у него была возможность отточить свои идеи и сделать их доступными для студентов MIT. Конспекты лекций для этого курса были опубликованы голландским издательством под названием Синтаксические структуры. Роберт Лиз, аспирант MIT, написал для ведущего лингвистического журнала Language восторженную рецензию на эту книгу. Рецензия занимала тридцать четыре страницы — около трети объема самой книги — и содержала такие смелые заявления, как: «Книга Хомского о синтаксических структурах представляет собой одну из первых серьезных попыток со стороны лингвиста построить в рамках традиций создания научных теорий всеобъемлющую теорию языка, которую можно понимать в том же смысле, в каком специалисты в соответствующих областях понимают химические или биологические теории». Лингвисты, что вполне понятно, обратили на нее внимание, и в течение следующих нескольких лет Хомский провел серию дискуссионных, но вызвавших большой резонанс выступлений на лингвистических конференциях.

Одна из идей, прозвучавших в докладе Хомского на Симпозиуме по теории информации, особенно поразила воображение лингвистов: идея о том, что различные типы языков можно выстроить в иерархию и что мы, возможно, сумеем определить, где именно в ней находится человеческий язык. Хомский не просто показал, что грамматики непосредственных составляющих могут порождать языки, недоступные для конечноавтоматных грамматик. Он доказал, что конечноавтоматные языки являются подмножеством тех, что могут быть порождены грамматиками непосредственных составляющих.

Чтобы убедиться в этом, мы можем записать простую конечноавтоматную грамматику, показанную на рисунке 4.2, в виде грамматики непосредственных составляющих:

Sentence → the theLast

theLast → dog dogLast

theLast → dogs dogsLast

dogLast → runs

dogsLast → run

Следуя правилам грамматик непосредственных составляющих, мы начинаем с символа Sentence, который переписываем как «the theLast», затем переписываем theLast как «dog dogLast» или «dogs dogsLast», а затем перезаписываем последний символ как «runs» или «run». Символы theLast, dogLast и dogsLast помогают нам отслеживать последнее слово. Подобным же образом любая конечноавтоматная грамматика может быть переписана в виде грамматики непосредственных составляющих. Таким образом, грамматики непосредственных составляющих могут порождать любой конечноавтоматный язык, а также множество других языков — например, язык «яблок и бананов».

Хомский также выделил два типа грамматик непосредственных составляющих. Один тип, подобный тем, что мы использовали до сих пор, содержит правила, позволяющие переписывать символ везде, где бы он ни появился: X → Y означает, что вы всегда можете заменить символ X символом Y. Такие грамматики называются контекстно-свободными грамматиками, поскольку контекст, в котором появляется символ, не имеет значения. Другой тип грамматик непосредственных составляющих позволяет переписывать символ только в том случае, если он находится в определенном контексте. Например, правило Z X W → Z Y W позволяет перезаписать X как Y только тогда, когда он находится между символами Z и W. Такая грамматика называется контекстно-зависимой грамматикой. Языки, которые могут быть порождены контекстно-свободными грамматиками, являются подмножеством языков, порождаемых контекстно-зависимыми грамматиками, поскольку любую контекстно-свободную грамматику можно записать как контекстно-зависимую (просто опустив контекст), при этом существуют другие языки, которые могут быть порождены только контекстно-зависимой грамматикой. Например, язык, в котором предложения состоят из слова «apple» некоторое число раз, за которым следует «banana» столько же раз, а затем «cherry» столько же раз, может быть порожден контекстно-зависимой грамматикой, но не контекстно-свободной.

Сложив всё это вместе, мы получим иерархию Хомского — упорядоченную структуру различных классов языков, где каждый класс является подмножеством следующего. Языки с конечным числом предложений находятся на самом нижнем уровне этой иерархии, за ними следуют конечноавтоматные языки, затем контекстно-свободные и контекстно-зависимые языки, которые, в свою очередь, являются подмножеством всех языков, которые способна генерировать машина Тьюринга. Глядя на эту иерархию, естественно задаться вопросом: какое место в ней занимают человеческие языки? Хомский утверждал, что человеческие языки являются как минимум контекстно-свободными, показав, что английский язык содержит структуры, которые не могут быть порождены конечноавтоматной грамматикой. Но действительно ли это предел?

В 1970-х и 1980-х годах последовала целая волна попыток обнаружить неконтекстно-свободные структуры в языках мира. Одной из таких структур-кандидатов является редупликация: язык, в котором предложения состоят из последовательности слов, за которой снова следует точно такая же последовательность, не может быть порожден контекстно-свободной грамматикой. На этом основании один лингвист предположил, что пренебрежительная редупликация, заимствованная из идиша, делает английский язык неконтекстно-свободным, поскольку она порождает такие сочетания, как «context-free, shmontext-free», где префикс «shm» предшествует скопированной последовательности слов. Но для тех, кого не убедила эта «шмедупликация», решающим аргументом оказалась структура, встречающаяся в нидерландском и швейцарском диалекте немецкого языка. В английском мы можем сказать что-то вроде «Al saw Bo make Cy let Di help Ed shave» (Эл видел, как Бо заставил Си позволить Ди помочь Эду побриться), но соответствующее предложение в нидерландском и швейцарском немецком может принимать форму вроде «Al Bo Cy Di Ed saw make let help shave». В таком предложении первое существительное соотносится с первым глаголом, второе существительное — со вторым глаголом и так далее. Если вы представите себе линию, проведенную от каждого существительного к соответствующему ему глаголу, эти линии будут пересекаться. Подобный тип структуры — называемый перекрестными зависимостями — не может быть порожден контекстно-свободной грамматикой (опять же, в предположении, что мы допускаем бесконечно длинные предложения).

Исходя из этого аргумента, человеческие языки являются контекстно-зависимыми. Впоследствии было высказано предположение, что они являются лишь слабо контекстно-зависимыми. Тщательное уточнение иерархии Хомского позволило провести разграничения внутри её классов, и существует множество контекстно-зависимых структур, которые, по всей видимости, не встречаются в человеческих языках. Контекстно-свободные грамматики работают достаточно хорошо в качестве первого приближения для описания структуры такого языка, как английский, однако расширение нашего взгляда на языки мира требует от нас шага в область контекстно-зависимых грамматик.

Притягательность формальных систем

Новый подход Хомского к лингвистике сравнивали с научными революциями — переходом от алхимии к химии или от аристотелевской физики к ньютоновской. Независимо от того, насколько удачны эти сравнения, его работа, безусловно, изменила направление лингвистики как науки. Переход от понимания грамматики как способа описания языка к пониманию её как способа порождения языка также открыл двери для решения множества других вопросов в когнитивистике. Например, генеративная грамматика звучит именно как то, что вы хотели бы иметь у себя в голове, если вы хотите порождать предложения.

Эта революция отнюдь не была бескровной. Один видный лингвист объявил генеративную грамматику «теорией, порожденной выводком гадюк». Другие, не стесняясь в выражениях, называли Хомского мошенником и лжецом. Ожесточенные споры о возможностях и границах генеративного подхода привели к тому, что некоторые из его бывших учеников покинули лоно школы и разработали собственные подходы к изучению языка.

Но влияние Хомского вышло далеко за пределы лингвистики. Его теория языка заставила Леонарда Бернстайна — композитора «Вестсайдской истории» и других знаменитых мюзиклов — иначе взглянуть на анализ музыки. Генеративная грамматика также привела к новому взгляду на этические суждения, предложив аналог грамматики для порождения морально приемлемых поступков, и повлияла на развитие языков программирования.

Отчасти влияние работ Хомского объясняется тем, как они демонстрируют силу формальных систем. Грамматики непосредственных составляющих показывают, как системы правил и символов могут быть использованы для объяснения продуктивности, иерархичности и композициональности — трех ключевых характеристик не только языка, но и человеческого поведения в целом.

Под продуктивностью понимается тот факт, что язык бесконечно созидателен. Мы можем с легкостью придумать новое предложение — такое, которое никогда раньше не произносилось, не записывалось и даже не приходило никому в голову. Эта способность к бесконечному варьированию требует объяснения, и разработанный Хомским генеративный подход предлагает его: мы можем получить эту бесконечную сложность, используя лишь конечный набор правил. Но наш творческий потенциал простирается далеко за пределы языка — каждое совершаемое нами действие вряд ли будет в точности таким же, как те действия, что мы совершали раньше.

Действия, которые мы совершаем, не просто новы — они обладают иерархической структурой. Предложение может состоять из именной группы и глагольной группы, каждая из которых, в свою очередь, складывается из других элементов. Если мы посмотрим на то, что еще делают люди, — от исполнения музыкального произведения до приготовления завтрака, — то увидим те же характерные признаки иерархической структуры, в которой каждую часть можно разбить на более мелкие составляющие. Приготовить завтрак — значит приготовить чай и тосты, что означает поставить чайник, что означает налить в чайник воду… даже эта книга построена иерархически: главы, разделы, абзацы и предложения служат для организации содержащейся в ней информации. Человеческое поведение пронизано иерархической структурой, и грамматики непосредственных составляющих — это способ описать такую структуру и породить новые ее примеры.

Наконец, человеческое поведение композиционально: дело не только в том, что предложения состоят из частей, которые состоят из других частей, но и в том, что эти части могут появляться в других предложениях. Грамматика указывает нам, как сочетать небольшой набор частей новыми способами для создания богатых, структурированных предложений. То же самое справедливо и для неязыкового поведения: многие действия, которые мы совершаем при приготовлении чая, совпадают с действиями при приготовлении кофе или чашки супа. Объединяя знакомые элементы непривычными способами, мы получаем выразительный арсенал действий, которые можем использовать для достижения своих целей.

Продуктивность, иерархичность и композициональность — это отличительные признаки формальных систем, и работа Ньюэлла и Саймона опиралась на те же свойства. Их подход к решению задач позволял справляться с новыми проблемами путем их разбиения на более мелкие, разрешимые части, формируя подцели, которые придавали задаче иерархическую структуру. Они также использовали продукции для описания выразительных стратегий решения задач, придя практически к тому же решению проблемы порождения композиционно структурированного поведения, что и Хомский. Вместе эти два направления работы, пересекшиеся в тот самый день 1956 года, служат идеальной иллюстрацией потенциала систем правил и символов для понимания человеческого разума.

Но столь богатые системы, основанные на правилах, также породили новые проблемы. Доказывая, что аспекты человеческих языков могут быть зафиксированы только с помощью чего-то вроде грамматики непосредственных составляющих, Хомский продемонстрировал, что язык устроен гораздо сложнее, чем предполагали бихевиористы или теоретики информации. Теперь перед ним встала новая задача: понять, как можно усвоить столь сложный набор правил.

Бедность стимула

В то время как Миллер, Саймон, Ньюэлл и Хомский запускали когнитивную революцию на симпозиуме в MIT, Скиннер совсем рядом, в Гарварде, вносил последние штрихи в свою новую книгу «Вербальное поведение». Он начал работать над ней более двадцати лет назад, в 1934 году, когда математик Альфред Норт Уайтхед за ужином бросил ему то, что сам он считал серьезным вызовом бихевиоризму: «А ну-ка объясните мое поведение, когда я сижу здесь и говорю: „Никакой черный скорпион не падает сейчас на этот стол“». Скиннер воспринял этот вызов всерьез: придя домой, он тут же начал планировать книгу, дающую бихевиористское объяснение языку. «Вербальное поведение» наконец вышло в свет в 1957 году, предложив амбициозную теорию о том, как значение слов и предложений, а также их синтаксис можно объяснить через обусловленности среды.

Эта теория была разгромлена всего два года спустя в рецензии, написанной Хомским.

Критика Хомского обрушилась на все аспекты теории Скиннера — от определения стимула до представления о том, что предложения строятся на многократном использовании простых грамматических форм. Те, кто уже проявлял интерес к когнитивной науке, увидели в рецензии Хомского смертельный удар по бихевиоризму: Джером Брунер описал ее как «Ноама в лучшем своем проявлении — безжалостно бьющего наповал, дерзкого, блестящего, выступающего на стороне ангелов» — и признался: «Когда я дочитал ее, мне захотелось ликовать». Но, пожалуй, самая интересная часть рецензии — это то, как в ней раскрывается отношение Хомского к обучению. Учитывая открытую Хомским сложность языка, то, как дети овладевают им, становится еще более впечатляющим достижением. Как выразился сам Хомский:

Ребенок, изучающий язык, в некотором смысле самостоятельно выстраивает для себя грамматику на основе наблюдений за предложениями и не-предложениями (то есть за исправлениями со стороны речевого сообщества). Изучение реально наблюдаемой способности говорящего отличать предложения от не-предложений, обнаруживать двусмысленности и т. д., по-видимому, вынуждает нас сделать вывод, что эта грамматика носит чрезвычайно сложный и абстрактный характер и что маленькому ребенку удается осуществить то, что, по крайней мере с формальной точки зрения, представляется поразительным примером построения теории. Более того, эта задача решается за удивительно короткое время, в значительной степени независимо от интеллекта и схожим образом у всех детей. Любая теория обучения должна считаться с этими фактами.

По сути, перед ребенком стоит та же проблема, что и перед лингвистом, пытающимся описать новый язык, — проблема, в возможности решения которой с помощью простых правил Хомский уже тогда сомневался.

Хомский столкнулся с проблемой, которая веками ставила в тупик величайшие умы, — проблемой, которую он позже назовет «проблемой Платона», поскольку она восходит к древнегреческому философу. Бертран Рассел хорошо описал ее суть: «Как получается, что люди, контакты которых с миром столь кратки, индивидуальны и ограниченны, способны тем не менее знать так много, как они знают?» Как дети, обладая столь ограниченным языковым опытом, способны знать о языке так много?

У Платона было простое решение этой проблемы: вместо того чтобы учиться всему с нуля, люди рождаются со знаниями, которые они просто припоминают, сталкиваясь с соответствующим опытом. Некоторые другие мыслители, о которых мы уже упоминали, придерживались схожих взглядов. Декарт замечал, что определенные мысли возникали у него без какого-либо участия внешней информации, и называл эти идеи «врожденными». Он объяснял это так: «Это врожденность в том же смысле, в каком мы говорим, что великодушие "врождено" в некоторых семьях или что определенные болезни, например подагра или камни, врожденны в других. Дело не в том, что младенцы в таких семьях страдают этими недугами во чреве матери, а просто в том, что они рождаются с определенной "способностью" или предрасположенностью к ним». Лейбниц также склонялся к мысли, что некоторые идеи даются человеческому разуму более естественно, чем другие. Он использовал аналогию со скульптором и глыбой камня. С одной стороны, камень можно использовать для создания абсолютно любой скульптуры. С другой стороны, определенные формы изначально лучше подходят для конкретных глыб: «Но если бы в камне были прожилки, которые намечали бы очертания Геркулеса предпочтительно перед другими фигурами, то этот блок был бы более определен по отношению к этой фигуре, и Геркулес был бы в нем в некотором смысле врожденным, хотя и потребовался бы труд, чтобы обнажить эти прожилки и очистить их, удалив все, что мешает им показаться. Именно так идеи и истины врождены в нас».

Хомский, стремившийся объяснить, как дети могут усваивать язык на основе столь ограниченных входных данных, видел решение именно во врожденном знании. В своей книге 1965 года Аспекты теории синтаксиса он писал:

«На основе наиболее достоверных имеющихся в настоящее время данных представляется разумным предположить, что ребенок не может не конструировать трансформационную грамматику определенного типа для объяснения предъявляемых ему данных, так же как он не в состоянии контролировать свое восприятие физических объектов или свое внимание к линиям и углам. Таким образом, вполне может оказаться, что общие черты структуры языка отражают не столько ход индивидуального опыта, сколько общий характер способности к приобретению знаний — в традиционном смысле, врожденные идеи и врожденные принципы».

Однако Хомский придал этой идее новый поворот в духе двадцатого века, поместив наше врожденное знание языка в наши гены. Позже он напишет, что язык развивается в разуме ребенка точно так же, как в теле растет орган вроде печени, имея ту же связь с генетическим наследием, общим для всех нас как человеческих существ.

Хотя изначально Хомский сосредоточился на синтаксисе, подобный аргумент можно применить и к другим аспектам языка, а от них — и к другим аспектам человеческого разума. Чтобы выучить язык, детям нужно усвоить не только то, какие последовательности слов грамматически верны, но и то, что эти слова означают. Значения слов таят в себе тонкие различия: нельзя сказать, что у вас есть «шесть унций идеи» или что за вами «гналось здание» (разве что в метафорическом смысле). Только физические объекты обладают массой, и только наделенные намерениями субъекты могут кого-то преследовать. Так, может быть, детям также необходимы врожденные представления об объектах, субъектах действия, намерениях и целях?

Аргумент Хомского в пользу врожденного знания языка известен как аргумент от бедности стимула, поскольку он утверждает, что язык, который мы наблюдаем (стимул), недостаточно богат, чтобы объяснить все, что мы о нем узнаем. Версия этого аргумента, предложенная им, опиралась на интуитивную сложность грамматики в сравнении с ограниченным объемом данных, получаемых детьми. Однако этот аргумент был бы гораздо сильнее, если бы удалось окончательно доказать, что определенные типы языков в принципе невозможно усвоить на основе таких данных. Хомский упоминал об этой возможности в своей рецензии на «Вербальное поведение», отмечая: «В данный момент этот вопрос не может быть поставлен со всей серьезностью, но в принципе возможно исследовать проблему определения того, какой должна быть встроенная структура системы обработки информации (формирования гипотез), чтобы она могла прийти к грамматике языка на основе имеющихся данных за имеющееся время».

Вопрос Хомского о том, что именно делает совокупность языков усваиваемой, вдохновил развитие множества сложных математических теорий, но интуитивно понять суть этой проблемы можно на примере ситуации, показанной на рисунке 4.4. Ключевая идея заключается в следующем: если истинный язык является подмножеством другого и вы наблюдаете только предложения, принадлежащие этому языку, вы никогда не сможете получить окончательного подтверждения того, что определили грамматику верно. Если истинный язык содержит предложения, которых нет в текущем языке обучающегося, то наблюдение за ними может помочь ему понять, что его гипотеза ошибочна. Но если все предложения истинного языка входят также в текущий язык обучающегося, он никогда не сможет сделать вывод о своей ошибке. Обучающийся, пытающийся логически вывести грамматику, зайдет в тупик, если истинный язык является подмножеством его текущей гипотезы.

Вот простой пример. В английском языке можно сказать как «I gave the book to her», так и «I gave her the book». Вы также можете сказать «I said no to her». Но вы не можете сказать «I said her no», хотя это выражение соотносится с «I said no to her» точно так же, как «I gave her the book» с «I gave the book to her». Никто никогда не говорил вам, что фраза «I said her no» неграмматична. Так откуда же вы знаете, что правы, используя язык, не содержащий этого предложения, — то есть подмножество того языка, который его содержит?

Рисунок 4.4. Три ситуации, которые могут возникнуть при усвоении языка. Истинный язык изображен в виде темно-серого круга, текущая гипотеза обучающегося — в виде светло-серого круга, а примеры предложений в языке — в виде черных точек. (а) Гипотеза обучающегося пересекается с истинным языком, но ни одна из областей не является подмножеством другой. В этом случае обучающийся может наблюдать примеры предложений, которые показывают, что его гипотеза неверна (то есть некоторые черные точки не входят в светло-серый круг). (б) Гипотеза обучающегося является подмножеством истинного языка. Наблюдение за примерами предложений снова покажет, что эта гипотеза неверна. (в) Истинный язык является подмножеством гипотезы обучающегося. В этом случае обучающийся не может наблюдать предложения, которые противоречили бы его текущей гипотезе, и, следовательно, не может окончательно обнаружить, что его гипотеза ошибочна.

Проблема, связанная с подмножествами, получила название логической проблемы усвоения языка, и в двадцатом веке она стимулировала огромный объем теоретических и эмпирических исследований в этой области. Однако сегодня, когда мы смотрим на этот вопрос из мира, в котором системы ИИ на удивление успешно справляются с усвоением языка без жестких ограничений на изучаемые языки, эта проблема уже не кажется столь практической. Понимание причин этого станет важной частью нашей задачи в оставшейся части книги. В следующей главе мы начнем с рассмотрения возможности того, что главная трудность кроется в самом подходе: возможно, процесс усвоения языка вообще не стоит рассматривать в категориях логики.

Предыдущая главаГлава 6 из 34Следующая глава