Драматический сериал канала Showtime «Любовники» — это история Ноа и Элисон, которые изменяют своим супругам и вступают во внебрачную связь. Этот сериал необычен тем, что повествование в нём ведётся отдельно с точки зрения Ноа и с точки зрения Элисон. Это приводит к возникновению противоречивых версий происходящего: каждый из главных героев помнит события по-своему, и порой эти различия просто поражают.

Например, в самом начале истории есть сцена, где Ноа со своей семьёй обедает в придорожном кафе, где их обслуживает Элисон. После еды дочь Ноа начинает задыхаться, подавившись игрушечным шариком. С этим фактом согласны обе стороны — и Ноа, и Элисон. Но их версии расходятся в том, что происходит сразу после этого. В версии Ноа он героически спасает дочь, придав ей нужное положение и похлопывая по спине, пока шарик не вылетает наружу. Семья говорит ему, что он «только что буквально спас ей жизнь». Ноа со скромным героизмом отмахивается — мол, обычное дело. В версии Элисон Ноа держит дочь неправильно, и она, Элисон, настаивает на том, чтобы он её перевернул. И именно она, Элисон, а не Ноа, наносит тот самый спасительный удар по спине, который возвращает ребёнка к жизни. Позже, в версии Элисон, Ноа благодарит её за спасение дочери и предлагает вознаграждение, от которого она вежливо отказывается.

Это, конечно, колоссальное расхождение из разряда «слово против слова». Кажется очевидным, что либо Ноа лжёт, либо Элисон. Однако в одном из интервью соавтор сериала Сара Трим подчеркнула, что столь разные версии возникают не из-за намеренной лжи, а из-за пластичности того, как люди конструируют воспоминания в реальной жизни. «Объективная истина заключается в том, что ни один человек не является её единственным носителем. Каждый воспринимает ситуацию через призму собственного восприятия. Поэтому каждый в какой-то степени субъективен в своих воспоминаниях и в том, как он рассказывает историю». К объективной истине любого эпизода можно в лучшем случае лишь приблизиться, тщательно изучив воспоминания всех участников процесса и сделав поправку на склонность каждого из них конструировать воспоминания в соответствии с собственными мотивами.

Эта «туманность памяти» (как называл её драматург Гарольд Пинтер) — не просто изящный повествовательный приём. Оказывается, в реальной жизни она имеет глубокие, а порой и разрушительные последствия. Людей регулярно признают виновными в преступлениях и отправляют за решётку на основании ошибочных воспоминаний. Чаще всего подобное происходит во время процедур опознания, которые дают огромную почву для злоупотреблений. Чтобы прочувствовать это, попробуйте выбрать настоящую монету из представленного ниже ряда. Если вы живёте в США, это будет довольно легко. Если нет, просто читайте дальше!

Рисунок 4.1: Какое пенни настоящее?

Те, кто знаком с американскими пенни, выбрали свой вариант? Насколько вы уверены в себе? Что бы вы ответили детективу, который попросил бы вас опознать настоящую монету? Многие люди, глядя на подобный рисунок, чувствуют полную уверенность в том, что нашли настоящее пенни.

На самом деле ни одно из этих пенни не является настоящим. Все они отличаются от подлинной монеты той или иной деталью. Возможно, вы чувствуете себя немного обманутыми? В конце концов, мы попросили вас указать настоящую монету, из-за чего вы, скорее всего, поверили, что она обязательно присутствует в предложенном ряду. Вероятно, всё сложилось бы иначе, если бы мы попросили вас попробовать найти монету в списке, который «может содержать, а может и не содержать настоящее пенни». Уверенность в том, что подлинная монета точно перед вами, могла исказить ваш выбор.

Чтобы избежать предвзятости свидетелей и излишнего давления, побуждающего их выбрать кого-то, кто просто похож на преступника в их памяти, полицейские обязаны сообщать свидетелям, что подозреваемый может как присутствовать на опознании, так и отсутствовать. Нам неизвестно, насколько часто соблюдается это правило на практике. Исследователи предполагают, что примерно 5 процентов подсудимых, признанных виновными, на самом деле невиновны. Ошибочные «воспоминания» — это главная и самая частая причина таких неверных приговоров.

Ненадёжность памяти

Примерно две трети американцев верят, что их память работает как видеокамера. Им кажется, что вспомнить какое-то событие — это всё равно что извлечь нужный видеофрагмент с жёсткого диска мозга, а затем прокрутить его мысленным взором.

Никто не сделал для развенчания этого мифа больше, чем психолог Элизабет Лофтус. Её работы доказали, что воспоминания — это не точные копии реальности, а скорее ментальные конструкции. Помимо самого реального события, на них влияют желания, ожидания и интуиция человека, а порой и намеренно вводящие в заблуждение чужие утверждения.

В ставшем классическим эксперименте Лофтус и её коллеги показали одной группе людей видеозапись смоделированной автокатастрофы и спросили: «С какой скоростью ехали машины, когда они столкнулись друг с другом?» Другой группе показали то же самое видео, но вопрос сформулировали иначе: «С какой скоростью ехали машины, когда они врезались друг в друга?» При вопросе со словом «столкнулись» средняя оценка скорости составила 34 мили в час; при вопросе со словом «врезались» средняя оценка выросла до 41 мили в час. Этот эксперимент показал, что даже малейшее наводящее слово в вопросе может существенно повлиять на свидетельские показания.

Лофтус и её коллеги предложили два возможных объяснения таких результатов. Во-первых, формулировка вопроса могла создать субъективную предвзятость при ответе — то есть повлиять на то, что именно сказал человек, но не привести к ложным воспоминаниям о самом событии. Во-вторых, формулировка вопроса могла действительно исказить саму память, заставив человека вспомнить аварию как более (или менее) серьёзную, чем если бы вопрос был задан нейтрально.

Чтобы сделать выбор между этими объяснениями, исследователи в ходе отдельного эксперимента вновь задали одной группе вопрос со словом «столкнулись», а другой — со словом «врезались». Оценки скорости повторили результаты предыдущего эксперимента. Но на этот раз неделю спустя исследователи снова пригласили испытуемых в лабораторию и задали им следующий вопрос: «Видели ли вы разбитое стекло? Да или нет?» В показанном им фильме никакого разбитого стекла не было, однако те, кому задавали вопрос со словом «врезались», более чем в два раза чаще утверждали, что видели разбитое стекло, по сравнению с теми, кому задавали вопрос со словом «столкнулись». Этот результат показал, что формулировка вопроса влияла не просто на ответ, но и на само воспоминание, лежащее в его основе.

В дальнейшем Лофтус показала, что воспоминания можно не только исказить — при помощи небольшого внушения можно создать совершенно ложные воспоминания. В ставшем знаменитым эксперименте «затерянные в торговом центре» участникам говорили, что в детстве они потерялись в торговом центре, хотя этого никогда не происходило. Около четверти испытуемых поверили, что действительно терялись в торговом центре, а некоторые даже делились яркими воспоминаниями о деталях события, которого на самом деле никогда не было.

Похвала памяти

Как и ошибочные судейские решения, ошибки памяти обычно резко бросаются в глаза. Но эти промахи кажутся столь поразительными именно потому, что в подавляющем большинстве случаев наша система памяти работает точно, гибко и адаптивно.

Представьте себе такую ситуацию: вы слышите лай. Ваш разум без малейших усилий порождает мысль: «О, это собака». Более того, системы памяти позволяют вам делать конкретные выводы: по характеру услышанного лая вы можете подумать: «Эта собака радуется» или «Эта собака в беде». В данном случае вы, по-видимому, опираетесь на воспоминания о других существах, издающих подобные звуки.

Но предположим, я попрошу вас подумать о конкретной собаке — возможно, о вашей собственной или о той, которую вы хорошо знаете. Теперь вы извлекаете из памяти образ конкретного животного и его индивидуальные свойства. Собака Гаурава по кличке Сону, например, золотисто-коричневого окраса, среднего размера, любит пляж, но боится океана, обожает раз за разом кататься по траве, и у неё часто одно ухо стоит торчком, а другое висит. Эти свойства приходят на ум Гаураву, когда он думает о Сону. Причём человеческая память работает в обоих направлениях: если Гаурава попросить подумать о собаке, у которой ровно одно ухо стоит торчком, он, скорее всего, сразу вспомнит Сону.

Интересно, что наши системы памяти также позволяют нам делать выводы о свойствах вещей, о которых у нас нет прямых данных. Допустим, вы живёте в квартире по соседству с собакой, которая звонко и заливисто лает. Вы можете предположить, что это маленькая собачка, поскольку крупные псы обычно лают басовито и рычаще. Вы никогда не видели соседскую собаку, но слышали достаточно лая, чтобы с достаточной уверенностью судить о её размерах; к тому же в многоквартирных домах чаще разрешают держать небольших собак, а не крупных. Или предположим, что вы едете на машине за полицейским автомобилем с надписью «К-9». Вы не видите, кто сидит внутри, но можете предположить, что там немецкая овчарка, поскольку, исходя из вашего опыта, в полиции чаще всего служат именно немецкие овчарки. Поразительно, но подобные умозаключения мы делаем постоянно и без каких-либо усилий. Да, иногда эти предположения оказываются ошибочными, но зачастую они бьют прямо в цель.

Кроме того, с нашей точки зрения, системы памяти позволяют нам обобщать. Тот, кто видел, как бегают хотя бы несколько грейхаундов, может автоматически сделать вывод, что грейхаунды обычно быстрее и поджарее других пород. Если человеку дать подсказку подумать о быстрых собаках, ему на ум могут прийти грейхаунды — даже если он эксплицитно не знает об общем свойстве грейхаундов — их быстроте. Разумеется, грейхаунды могут прийти на ум и в том случае, если человек задумается о междугородних автобусных линиях в Северной Америке.

Человеческая система памяти обладает удивительной гибкостью. Она принципиально отличается от компьютерных баз данных, которые зачастую полагаются на точные запросы и поисковые алгоритмы для извлечения конкретной информации по заранее заданным критериям. Компьютерные системы более точны, но менее пластичны, чем человеческая память, в которой ассоциации, подсказки и контекст играют важнейшую роль в запуске процесса воспоминания. Как же могут работать подобные системы?

«Джетс» и «Шаркс»

В августе 1981 года на конференции по когнитивным наукам в Беркли Джей Макклелланд представил нейронную сеть в качестве модели системы памяти. Спустя более чем три десятилетия Гаурав Сури, будучи тогда аспирантом, прочитал статью Джея и понял, что нейросети предлагают наилучший путь к пониманию разума.

Джей начал с создания набора данных на основе мюзикла «Вестсайдская история», повествующего о соперничестве двух банд — «Джетс» и «Шаркс». Этот набор данных описывал характеристики нескольких персонажей: их имена, принадлежность к банде (либо «Джетс», либо «Шаркс»), возраст, уровень образования, семейное положение и, шутки ради, фиктивный, сомнительный род занятий. Эти данные представлены на рисунке 4.2. Цель Джея состояла в том, чтобы создать нейросеть, в связях которой была бы закодирована информация из этой таблицы, а затем исследовать, как эту сеть можно использовать для извлечения информации, а также для спонтанных умозаключений и обобщений.

Чего бы мы хотели от нейросети, призванной воспроизвести особенности человеческой памяти? Во-первых, нам хотелось бы, чтобы она могла извлекать информацию по самым разным подсказкам. Например, подсказка «Арт» должна приводить к извлечению фактов об Арте: что он член банды «Джетс», ему за сорок, у него неполное среднее образование, он холост и является мелким наркоторговцем. Это похоже на то, как Гаурав думает о Сону и извлекает из памяти характеристики Сону. И наоборот, если ввести подсказку «член банды „Шаркс“ лет двадцати», система должна выдать имя Кена, поскольку он единственный, кто соответствует этому описанию. Это похоже на то, как Гаураву напоминают свойства Сону, и образ Сону мгновенно всплывает у него в голове.

Рисунок 4.2. Информация, которую Джей сохранил в связях между элементами нейросетевой модели извлечения, умозаключения и обобщения в памяти.

Мы также хотели бы, чтобы нейросеть умела восполнять пробелы или выдвигать предположения о свойствах, которым ее не обучали явно. Например, если мы не сообщим ей род занятий Лэнса, нейросеть должна предположить, что Лэнс, скорее всего, взломщик, поскольку другие люди в наборе данных, обладающие многими сходными с Лэнсом характеристиками (например, Джон), тоже оказываются взломщиками. Это похоже на то, как человек предполагает, что собака с высоким тявкающим лаем, живущая в квартире, скорее всего, окажется маленькой.

Кроме того, нейросеть должна быть способна обобщать предоставленную ей конкретную информацию, чтобы отвечать на вопросы о том, что представляют собой «Джетс» или «Шаркс». Например, сеть должна каким-то образом знать, что большинство членов «Джетс» около двадцати лет и они чаще всего холосты, даже если ей никогда об этом прямо не сообщали. Это похоже на то, как люди способны сделать обобщение, что большинство грейхаундов — поджарые и быстрые, хотя это знание и не хранится в их памяти в виде отдельного явного факта.

Помимо этого, нейросеть должна демонстрировать некоторые несовершенства памяти, на которые указывала Элизабет Лофтус и другие исследователи. Ни одно из этих требований не является тривиальным. Как же нам подступиться к созданию такой сети?

Создание нейросети «Джетс» и «Шаркс»

Естественным первым шагом было бы выделить по одному элементу для каждого из двадцати семи человек в базе данных «Джетс» и «Шаркс». Напомним, что элемент — это просто вычислительная единица, и поскольку нейросеть, которую мы хотим построить, будет содержать информацию о людях, кажется разумным начать с одного элемента на человека.

А теперь давайте подумаем об элементе, соответствующем одному человеку. Поскольку Арт — первый в списке, начнем с него и создадим элемент, который назовем Арт (человек). Мы хотим создать сеть, в которой мысль о любой отдельной характеристике человека заставляет нас вспомнить все остальные его характеристики. В нашей базе данных характеристики Арта таковы: его зовут Арт, он из «Джетс», ему за сорок, у него неполное среднее образование, он холост и работает мелким наркоторговцем. Обратите внимание, что человек, которого мы называем Артом, — это не то же самое, что его имя. Ваше имя, например, — это не вы как личность, ведь у другого человека может быть точно такое же имя. Ваше имя — это просто слово, которым люди вас называют. Следовательно, логично рассматривать имя «Арт» как характеристику человека, которого зовут Арт.

Теперь мы готовы сделать следующий шаг. Давайте выделим по отдельному элементу для каждой из характеристик Арта. Для удобства поместим элемент человека в центр, а элементы характеристик — на периферию. Получится что-то вроде рисунка 4.3.

Рисунок 4.3. Несвязанный Арт.

Размер и форма элементов (где-то круги, а где-то овалы) выбраны исключительно из соображений удобства, чтобы внутри помещалось обозначающее их слово.

Итак, что дальше? Мы хотим, чтобы эта сеть, при запросе по одной из характеристик Арта, могла извлечь все остальные его характеристики. Например, если кто-то произносит имя «Арт», мы хотим иметь возможность ответить: «О, Арт из „Джетс“» или «О, Арту за сорок, и он холост». И наоборот, если бы кто-то искал холостого мелкого наркоторговца лет сорока, мы хотим иметь возможность сказать: «Я знаю такого человека. Его зовут Арт». Как нам всего этого добиться?

В создаваемой нами нейросети мысль о какой-либо характеристике сводится к подаче входного сигнала на элемент, соответствующий этой характеристике. Например, мысль о ком-то по имени Арт возникает при подаче сигнала на элемент имени «Арт». Этот сигнал приведет к активации элемента имени «Арт», и мы хотим, чтобы эта активация передалась дальше и активировала элементы других характеристик Арта. Крайне важно, чтобы сеть каким-то образом обладала знанием о конкретных характеристиках Арта, и должен существовать механизм для их взаимной активации.

Напомним, что знания сети заложены в ее связях. И здесь мы делаем наш следующий шаг — пожалуй, самый важный в построении этой нейросети. Мы соединим каждый элемент характеристик, двунаправленно, с элементом «Арт (человек)». Двунаправленность означает, что активация может передаваться как от элементов характеристик к элементу «Арт (человек)», так и от элемента «Арт (человек)» к элементам характеристик. Мы изображаем эту двунаправленность линиями со стрелками на обоих концах. В действительности такие связи должны формироваться в процессе обучения на основе наблюдений.

После соединения элементов характеристик с элементом «Арт (человек)» наша сеть выглядит следующим образом:

Рисунок 4.4. Связанный Арт.

Предположим, что изначально все элементы имеют уровни активации покоя чуть ниже нуля и что при уровне ниже нуля они не посылают никаких сигналов другим элементам. Теперь представим, что кто-то видит имя Арт. Это подаст входной сигнал на элемент «Арт (имя)», заставляя его активироваться (то есть уровень его активации поднимется выше нуля). Между элементом «Арт (имя)» и элементом «Арт (человек)» существует связь. Благодаря этой связи элемент «Арт (человек)» тоже активируется, и его активация поднимается выше нуля. Обратите внимание, что между элементом человека и каждым элементом характеристик существуют двунаправленные связи. Эти связи приводят к активации элементов JH, Jet, Single, Pusher и 40s. Если бы между элементами характеристик и элементом «Арт (человек)» существовали только односторонние связи, активация в элементе «Арт (человек)» никак не могла бы вызвать активацию элементов характеристик. Благодаря двусторонним связям элемент «Арт (человек)» работает как хаб, позволяющий активации одного элемента характеристики вызывать активацию всех остальных элементов характеристик. Этот узловой элемент не получает входных сигналов извне сети, в отличие от остальных элементов. Вместо этого он принимает сигнал от одного или нескольких элементов характеристик и передаёт его дальше, другим элементам характеристик.

Двунаправленность связей обеспечивает чрезвычайно гибкий способ работы с информацией об Арте. Как мы видели, размышление об имени Арт — или, говоря языком нейросетей, подача входного сигнала на элемент «Арт (имя)» — вызывает в памяти все остальные характеристики Арта, то есть (выражаясь в терминах нейросетей) вызывает активацию в каждом из остальных элементов его характеристик. Это было одной из наших целей, и мы её достигли. Конечно, мы добились этого только для Арта, а ведь нам предстоит разобраться ещё с двадцатью шестью гангстерами!

Но идеи, которые сработали для Арта, подойдут и для остальных членов базы данных. Нам просто нужно несколько экземпляров узловых элементов, каждый из которых будет связан с соответствующими элементами характеристик. На рисунке 4.5 показана сеть для Арта, Грега, Неда и Рика. Мы сгруппировали элементы одного типа атрибутов (имя, возраст и т. д.) в отдельные кластеры, чтобы элементы атрибутов одного типа находились рядом друг с другом.

Рисунок 4.5. Сеть для четырёх членов «Джетс» и «Шаркс»: JH, HS и Col обозначают уровень образования; Sing, Mar и Div — семейное положение (как на рисунке 4.2).

Это всё ещё не вся сеть целиком, поскольку полную сеть с её изобилием связей, изображённых линиями между элементами, было бы трудно читать. Но вы, вероятно, можете представить её себе с двадцатью семью элементами людей, двадцатью семью элементами имён и связями между каждым членом банды и каждым из его атрибутов.

Есть ещё одна интересная особенность, которую мы хотим добавить в сеть на рисунке 4.5. И чтобы подобраться к ней, полезно проделать мысленный эксперимент: предположим, что мы подаём входной сигнал на элемент «Джетс». Подача сигнала на элемент нейросети соответствует размышлению о характеристике, которую этот элемент представляет. Изначально активация элемента «Джетс» вызовет активацию элемента «Арт (человек)» и элемента «Грег (человек)». Пока что всё идёт как надо, ведь Арт и Грег — члены банды «Джетс». Эти элементы людей будут возбуждать каждый из элементов характеристик, связанных с Артом и Грегом. Например, активация элемента «Грег (человек)» распространится на элемент «Грег (имя)», элемент High School, элемент Jet, элемент Pusher, элемент 20s и элемент Married. И тут всё пока складывается отлично.

По мере продолжения процесса активация от всех этих элементов начнёт распространяться по сети шире. Например, активация элемента Married, в свою очередь, передастся на элемент «Нед (человек)», поскольку элемент Married связан с элементом «Нед (человек)». А поскольку Нед — член банды «Шаркс», это, в свою очередь, начнёт возбуждать элемент «Шаркс». Таким образом, элемент «Шаркс» получит некоторую положительную активацию.

Но погодите-ка! Мы начали этот эксперимент с «размышлений» о «Джетс» (или, выражаясь терминами нейросетей, с подачи сигнала на элемент «Джетс»). Мы вовсе не хотим, чтобы обратная связь заставляла нас думать о «Шаркс».

Оказывается, для решения этой проблемы есть прекрасный способ.

С этим отлично справится взаимное торможение. Мы можем сделать так, чтобы элемент «Джетс» тормозил элемент «Шаркс», а элемент «Шаркс» тормозил элемент «Джетс». Поначалу это может показаться странным. Если торможение взаимное, то как это решает проблему? Хорошо, «Джетс» будет тормозить «Шаркс», но разве «Шаркс» не будет точно так же тормозить «Джетс»? Да, будет, но обратите внимание: элемент «Джетс» имеет более высокий уровень активации, чем элемент «Шаркс» (поскольку он получил прямой входной сигнал, а элемент «Шаркс» — нет). Как мы видели в главе 3, элементы с более высокой активацией оказывают большее влияние на снижение активации конкурирующих элементов, чем наоборот. В данном случае более сильная активация элемента «Джетс» приведёт к значительному снижению уровня активации элемента «Шаркс», тогда как более слабый элемент «Шаркс» лишь незначительно снизит уровень активации элемента «Джетс». Следовательно, разница в уровне активации между двумя элементами увеличится, и сеть в итоге придёт к состоянию, когда элемент «Джетс» останется активным, а элемент «Шаркс» — нет. Это пример эффекта усиления контраста, с которым мы столкнулись в главе 3.

В более общем смысле такое взаимное торможение внутри кластеров элементов, представляющих одно и то же свойство, как правило, приводит к появлению «победителя» внутри этого кластера. Это крайне полезно, ведь женатый человек не может одновременно быть холостым или разведенным, а тот, кому за двадцать, не может в то же время разменивать четвертый или пятый десяток и так далее. По этой причине мы делаем последний шаг в настройке нашей нейросети — вводим взаимное торможение между всеми элементами внутри каждого кластера. Элементы в каждом кластере относятся к одному и тому же свойству. Таким образом, элементы возраста будут тормозить друг друга, как и элементы образования, но элементы возраста не будут тормозить элементы образования. Элементы людей в центре схемы также будут тормозить друг друга.

В последних нескольких абзацах мы обратились к идее взаимного торможения, поскольку она заставляет нашу нейросеть вести себя нужным нам образом. Примечательно, что в мозге животных, в том числе человека, повсеместно присутствует взаимное торможение (иногда называемое латеральным торможением), при котором соседние нейроны стремятся подавлять активацию друг друга. Цель такого торможения — подчеркнуть различия между соседними сенсорными сигналами, сделав их более заметными. Вдохновившись этой особенностью нейронов, Джей использовал латеральное торможение для концептуально близкой цели. Это и другие свойства нейронов вдохновляли исследователей как до, так и после него на мысль о том, что обращение к принципам работы мозга позволяет создавать полезные модели для многих аспектов наших ментальных способностей. Одним из пионеров нейросетей, чьи труды вдохновили создателей этой стороны модели «Джетс» и «Шаркс», был нейротеоретик с математическим образованием по имени Стивен Гроссберг.

Итак, мы построили нашу сеть и готовы с интересом опробовать её в деле: подать входные сигналы и посмотреть, что получится. Но прежде стоит узнать её название. Представив эту модель, Джей назвал её сетью интерактивной активации и конкуренции (сокращенно IAC). Понятие интерактивная активация относится к взаимному влиянию элементов на активацию друг друга, а конкуренция означает взаимное торможение между элементами, представляющими одно и то же свойство (а также между узловыми элементами в центре). Как мы вскоре убедимся, сеть IAC обладает поразительной объяснительной силой в самых разных областях, в том числе и в качестве модели памяти.

Сеть интерактивной активации и конкуренции (IAC) в действии

Когда мы размышляли о желаемых свойствах системы памяти, мы пришли к выводу, что для неё крайне важно уметь извлекать характеристики человека по любому сочетанию признаков, уникально идентифицирующих эту личность. В данном контексте мы рассматриваем эти признаки как входные сигналы, подаваемые на элементы свойств.

Обладает ли сеть IAC таким свойством?

Допустим, к примеру, мы подаем входной сигнал на элемент «Кен» (имя). Концептуально структура сети ясно дает понять, что активация сначала распространится на элемент «Кен» (личность), а затем на элементы его свойств. На этом этапе сеть покажет более высокий уровень активации для элементов «Шаркс», «20-летние», «средняя школа», «холост» и «взломщик», чем для других элементов в каждой категории свойств. Но на этом распространение активации не прекращается. В конце концов, как только активация достигает различных элементов свойств, возникает обратная связь. Например, как только активируется элемент «20-летние», он через двусторонние связи активирует все элементы личностей, с которыми соединен (то есть всех гангстеров, которым за двадцать). Другие взаимные связи активируют иные элементы личностей. В совокупности эти элементы личностей активируют элементы свойств, с которыми они связаны. Ой-ой-ой!

Чтобы ситуация не вышла из-под контроля, нам нужно действовать более организованно, установить правила и вооружиться некоторыми инструментами. Во-первых, рост активации — будь то из-за внешнего сигнала или под влиянием других связанных элементов — происходит не мгновенно. Напротив, он идет постепенно. Концептуально мы представляем этот процесс как непрерывный, но при компьютерном моделировании он разбивается на последовательность шагов, каждый из которых соответствует малой доле секунды. Чтобы схема работала, на каждом отдельном шаге активация элемента должна оказывать лишь незначительное влияние на другие элементы. Джей обнаружил, что в его симуляциях отлично работает значение в 10 процентов. Например, если элемент А имеет уровень активации 0,8, то за один шаг его влияние на другие элементы составит всего 0,08 (10 процентов от 0,8). В-третьих, оказалось полезным предположить, что активация элементов удерживается в диапазоне от верхнего предела, равного 1, до нижнего предела чуть ниже 0. Наконец, активация имеет тенденцию снижаться (угасать) до своего исходного уровня покоя — чуть ниже 0.

Теперь нам остается лишь провести расчеты. Исходя из исходного уровня активации элементов в состоянии покоя, мы вычисляем уровни активации на конец первого временного шага: определяем возбуждающие и тормозящие сигналы от каждого элемента ко всем остальным, учитываем тенденцию к угасанию и следим, чтобы значения оставались в заданных пределах. Мы повторяем этот процесс снова и снова, обычно в течение ста временных шагов. Производить подобные вычисления вручную для человека было бы делом чрезвычайно трудоемким, но для компьютера это сущий пустяк. Поэтому для этой — как и почти для любой другой — нейросети обычно пишут компьютерную программу, которая делает всю рутинную работу за нас.

Рисунок 4.6. Моментальные снимки фрагментов сети для Кена и Ника. Цветовой ореол вокруг каждого элемента отражает уровень его активации. Показаны только элементы со значительной активацией. Мелкие пунктирные линии обозначают ключевые направления потоков активации. На схеме (а) входной сигнал, поданный на элемент «Кен» (личность), вызывает активацию всех элементов его свойств. Активация элемента «Кен» (личность) наиболее высока, так как он получает прямой внешний сигнал. На схеме (б) показан элемент «Ник» (личность), у которого совпадают три свойства с Кеном («Шаркс», «средняя школа» и «холост»). Активация от этих элементов свойств возвращается обратно к элементу «Ник» (личность), умеренно возбуждая его. Некоторые элементы свойств Ника не показаны, поскольку они еще не активировались в достаточной степени.

Теперь давайте вернемся к Кену (рисунок 4.6). Если мы подадим на элемент «Кен» (имя) входной сигнал +1 и позволим сети выполнить сто временных шагов — к этому моменту уровни активации элементов стабилизируются, — мы увидим отрадную картину: активируются именно те элементы, которые нужно. Мы наблюдаем положительную активацию элементов «Кен» (имя), «Шаркс», «20–29 лет», «средняя школа», «холост» и «взломщик», а также (рисунок 4.6а) крайне слабую активацию элементов свойств, не относящихся к Кену (эти элементы на рисунке не показаны). Кроме того, как и следовало ожидать, элемент «Кен» (личность) имеет самый высокий уровень активации среди всех элементов личностей. Но (и это удивительное явление) есть еще два элемента личностей с некоторой положительной активацией. Догадываетесь, какие именно? Возможно, вам поможет таблица, в которой были представлены характеристики каждого гангстера.

Это элементы «Ник» (личность) и «Нил» (личность). Почему? Потому что характеристики Ника и Нила очень похожи на характеристики Кена. Фактически Ник, Нил и Кен имеют все те же свойства, за исключением возраста и рода занятий. Из-за этого совпадения несколько элементов свойств, которые изначально активируются элементом «Кен» (личность), затем посылают обратную активацию элементам «Ник» (личность) и «Нил» (личность). Эти активации не так сильны, как активация элемента «Кен» (личность), поскольку элемент «Кен» (личность) получил мощный прямой сигнал от элемента «Кен» (имя), а также обратную активацию от своих собственных элементов свойств, к тому же у него была фора по времени. Элементы личностей тех людей, у которых мало общих свойств с Кеном, активируются минимально, поскольку они не получают обратной активации от элементов свойств.

Еще одно интересное наблюдение заключается в том, что некоторые элементы свойств Кена активируются сильнее других. Например, элемент «средняя школа» активирован сильнее, чем элемент «20–29 лет». Почему так происходит? Над этим тоже интересно поразмышлять. Давайте подумаем, как элемент «20–29 лет» вообще получает активацию. Если на него не подается внешний сигнал извне сети — а в нашем примере это не так, ведь сигнал получает только элемент «Кен» (имя), — он может получать активацию только от элементов личностей. Какие же элементы личностей активированы? Как мы уже выяснили, наиболее активными являются элементы «Кен», «Ник» и «Нил». Каждый из этих людей имеет среднее образование, поэтому элемент «средняя школа» получает возбуждение от соответствующих им элементов личностей, и эта активация суммируется. Напротив, элемент «20–29 лет» получает активацию от элемента «Кен» (личность), но не от элементов «Ник» (личность) и «Нил» (личность) — оба они активируют элемент «30–39 лет». Активация элемента «30–39 лет» стремится подавить активацию элемента «20–29 лет» из-за взаимно тормозящей связи между ними. Однако она не может полностью погасить активацию элемента «20–29 лет», поскольку по сравнению с ним обладает гораздо меньшей силой.

А что если вместо элемента «Кен» (имя) мы подадим сигнал на все остальные элементы его свойств («Шаркс», «20–29 лет», «средняя школа», «холост» и «взломщик»)? Как и следовало ожидать, эти элементы свойств совместно активируют элемент «Кен» (личность), который, в свою очередь, активирует элемент «Кен» (имя). Данный набор характеристик уникален для Кена, поэтому элемент его личности получает наибольшую активацию. Если бы Кен разделял все свои свойства с другим человеком — назовем этого нового персонажа Немо, — то элементы «Кен» (имя) и «Немо» (имя) активировались бы в равной степени, поскольку элементы «Кен» (личность) и «Немо» (личность) получили бы одинаковую активацию. Это кажется вполне разумным поведением для системы памяти. Если мы думаем о свойствах, общих для группы людей, то должны активироваться элементы, соответствующие всем этим людям.

Наш анализ до сих пор был сосредоточен на Кене, но, разумеется, те же рассуждения применимы и к Арту, и к любому другому гангстеру в нашей базе данных. В каждом случае работает один и тот же процесс: мы подаем сигнал на один или несколько элементов свойств, эти элементы активируют связанный с ними элемент личности, а тот, в свою очередь, активирует ранее не активные элементы свойств. Обратная связь, угасание и латеральное торможение вкупе с этими возбуждающими воздействиями — все они играют свою роль. Спустя множество циклов сеть приходит к стабильному состоянию, и именно в этот момент мы считываем результаты.

Вторым желаемым свойством, которое мы хотели видеть в системе памяти, была ее способность восполнять недостающую информацию. Как нам смоделировать отсутствие информации — или знаний — в сети? Например, как сделать так, чтобы сеть не «знала», что Лэнс — взломщик? Что ж, мы можем просто убрать связь между элементом «Лэнс» (личность) и элементом «взломщик». Что произойдет теперь, если мы подадим сигнал на элемент «Лэнс» (имя)? Активация перейдет на элемент «Лэнс» (личность), а оттуда распространится на элементы свойств Лэнса во всех категориях, кроме рода занятий (поскольку мы удалили эту связь). Элементы свойств Лэнса активируют другие элементы личностей — главным образом элемент «Джон» (личность), поскольку у Джона общие свойства с Лэнсом. Джон по случайности тоже оказывается взломщиком, и поэтому элемент «Джон» (личность) активирует элемент «взломщик», фактически восполняя недостающую информацию о Лэнсе.

Вы можете подумать, что нам тут немного повезло, ведь Джон мог оказаться наркодилером или букмекером, и в таком случае догадка сети была бы неверной. И вы будете правы в своей оценке. Нам действительно повезло в данном случае, и вполне возможно, что сеть может ошибаться. Однако важно то, что догадки сети не случайны. Они основаны на наборе наиболее близких совпадений из имеющихся, и эти совпадения могут увести сеть по ложному пути — точно так же, как смешение свойств похожих людей может запутать нашу собственную память. Таким образом, сеть демонстрирует вывод на основе сходства, восполняя недостающие признаки на основе их сходства с другими элементами. Часто это вполне оправданно, поскольку вещи, схожие в одних отношениях, скорее всего, будут схожи и в других. Но даже если следование этому правилу означает, что мы чаще будем правы, чем нет, оно легко может ввести нас в заблуждение. Если убрать из сети информацию о возрасте Кена, она ошибочно предположит, что Кену за тридцать (как и большинству членов банды «Шаркс»). Здесь у сети возникает нечто вроде ложного воспоминания, поскольку на самом деле Кену за двадцать.

Наконец, мы надеялись, что наша сеть сможет использовать информацию о конкретных людях, которой ее обучили, для обобщений относительно коллективных свойств целой группы. Например, если мы спросим сеть: «Каковы «Джетс»?», мы хотим, чтобы она ответила, что им обычно за двадцать (девять из пятнадцати «Джетс») и они в основном холосты (также девять из пятнадцати «Джетс», хотя и другие девять). С другой стороны, если мы спросим сеть: «Каковы «Шаркс»?», мы хотим, чтобы она сообщила нам, что им обычно за тридцать (девять из двенадцати «Шаркс») и они часто женаты (шесть из двенадцати «Шаркс»). Давайте проверим, дает ли наша сеть такие ответы.

Как же нам спросить сеть, каковы «Джетс»? Если хотите, подумайте над этим вопросом пару минут. Возможно, стоит взглянуть на схему сети IAC на рисунке 4.5 выше.

Ответ прост: нужно подать сигнал на элемент «Джетс». Эта входящая активация возбудит элемент личности каждого члена банды «Джетс», а каждый из этих элементов личности активирует свои соответствующие свойства. Элементы свойств, такие как «20–29 лет» и «холост», получат больше активации, чем конкурирующие с ними элементы свойств, поскольку их активируют девять из пятнадцати элементов личностей. В некотором смысле нейросеть действует как система голосования, где голоса подаются в виде активации. Сеть переходит в стабильное состояние, в котором элементы «20–29 лет» и «холост» имеют наивысшую активацию. Как мы и надеялись, наша сеть сообщает нам, каковы «Джетс» в целом. Фактически она сделала обобщение о «Джетс».

Здесь проявляется поистине прекрасная эмерджентность! Ни один из отдельных элементов или связей не знает общих свойств «Джетс». Но коллективно они ими владеют.

Интерлюдия: Чему мы должны учить?

Ноябрь 2025 года. Джин и Лев, двое высокопоставленных сотрудников Министерства образования, пытаются выбрать один из двух учебников для дошкольников. Первая книга под названием «Оживленный городок» состоит из сотен иллюстраций людей и животных, занятых делом. Например, на первой странице изображены плотник, забивающий гвоздь, летящая ворона, пожарный, тушащий огонь, парящий колибри и десятки подобных рисунков. Другая книга, «Как всё устроено», использует простые предложения и иллюстрации, чтобы рассказать о свойствах вещей. Например, на первой странице красуются фразы «Большинство птиц летают» и «У большинства деревьев есть листья».

Лев: Я считаю, очень важно прямо рассказывать детям о свойствах окружающего мира. «Как всё устроено» делает это так просто и красиво. Ребенок, которому родители раз за разом повторяют, что птицы летают, навсегда запечатлеет это свойство в своем сознании.

Джин: Не согласна. Не думаю, что дети узнают о том, что птицы летают, через явные утверждения. Мне кажется, они обобщают единичные случаи.

Лев: Мы же говорим о двухлетках! Они понятия не имеют об обобщениях.

Джин: Думаю, это обобщение происходит само собой, когда мы постоянно сталкиваемся с вещами. Тебе кто-нибудь прямо говорил, что большинство птиц летают?

Лев: (Улыбается.) Моя мама, скорее всего, говорила.

Джин: А она также говорила тебе, что у большинства стульев четыре ножки, у машин есть колеса, у самолетов — крылья, а бегемоты толстые? Этот список бесконечен! Думаю, многое из этого мы узнаем на примерах. Если я вижу, как летит голубь, летит ворона и летит колибри, а затем вижу другую птицу, которая немного похожа на голубя, ворону или колибри, этого должно быть достаточно, чтобы я ожидала, что и эта птица тоже умеет летать. Вот почему мне нравится «Оживленный городок». Всё, что делает эта книга, — просто приводит примеры.

Лев: Ты правда думаешь, что такие маленькие дети способны делать осознанные выводы о подобных вещах, например о полете?

Джин: Не думаю, что эти выводы обязательно осознанные, но они определенно происходят.

Лев: Не представляю, как такое возможно.

Джин: Мне кажется, не стоит быть столь уверенным в невозможности чего-то лишь потому, что ты не можешь себе этого представить!

Стереотипизация и модель IAC

У людей регулярно возникают обобщенные представления, которые они проецируют на всех членов той или иной группы или категории. Стереотип — это ожидание того, что свойство, приписываемое группе, распространяется на каждого ее представителя. Например, питбулей стереотипно считают агрессивными, пожилых людей — не в ладах с технологиями, а молодежь — ленивой и одержимой социальными сетями. Другие стереотипы строятся на основе гендера, расы, сексуальной ориентации, страны происхождения и практически любого признака, по которому можно выделить группу. Безусловно, некоторые стереотипы вредны. Негативные представления о группах нередко оказываются ложными, и даже если такое убеждение подтверждается статистически, кажется несправедливым и даже аморальным считать, что конкретный человек обладает отрицательной чертой просто потому, что принадлежит к определенной группе.

Модель IAC объясняет, как возникают стереотипы. Она показывает, как наш разум может осуществлять обобщение на основе примеров и предсказывать свойства конкретного человека исходя из вероятности их наличия у схожих людей. Мы наблюдали этот процесс на примере вымышленного набора данных о «Джетс» и «Шаркс». Например, когда мы думаем о возрасте членов «Джетс», наша сеть «знает», что большинству из них около двадцати лет, и это знание влияет на ее представление о возрасте Кена, особенно если в ее связях нет информации о его точном возрасте. Нетрудно заметить, как аналогичные когнитивные процессы могут проявляться в куда более серьезных реальных сценариях. Подобные когнитивные процессы, несомненно, жизненно важны для выживания во многих ситуациях (например, когда мы замечаем, что змеи с треугольной головой часто ядовиты), и в то же время, как мы уже отмечали, однозначно нежелательны в других случаях.

В отношении связи между стереотипизацией и моделью IAC важно помнить о двух ключевых идеях. Во-первых, модель IAC прокладывает путь к пониманию эмерджентности как явной, так и неявной предвзятости. Явная предвзятость возникает, когда человек осознает свои чувства и установки и действует на их основе намеренно. Кадровик, который отказывается нанимать кандидатов из определенной группы, поскольку открыто считает — и часто вслух называет — представителей этой группы ленивыми, демонстрирует явную предвзятость. Напротив, неявная предвзятость действует вне сознательного контроля человека и может противоречить его собственным декларируемым убеждениям и ценностям. Менеджер по найму, считающий, что групповая принадлежность кандидата на него совершенно не влияет, может, тем не менее, систематически оценивать представителей одной группы ниже, чем другой.

Когда предвзятость остается неявной, а когда становится явной? Как мы отмечали в главе 3, знания нейронной сети содержатся в ее связях. В рамках концепции нейросетей у нас нет прямого сознательного доступа к этим знаниям. Когда наши связи определяют действия без участия нашего сознания, мы имеем дело с неявной предвзятостью. Однако эти связи формируют паттерны активации, и именно к паттернам активации мы иногда можем получить доступ. Можем ли мы получить доступ к конкретному паттерну, зависит, в частности, от силы активации и от входных сигналов-подсказок, используемых для его извлечения (подробнее эти идеи рассматриваются в главе 10). Когда такой доступ появляется, он может стать отправной точкой для возникновения более явных форм предвзятости.

Во-вторых — и это важно, — мы не обречены на стереотипное мышление. Описанная нами модель IAC сосредоточена лишь на одном из многих процессов разума. Другие процессы протекают параллельно и обеспечивают работу иных аспектов нашей психики. Например, человеческий разум обладает способностью осуществлять контроль. Мы можем — пусть и не всегда идеально — контролировать свой порыв подпрыгнуть, если только он не сопровождается фразой «Саймон говорит»; мы можем контролировать свое желание съесть еще порцию десерта; и точно так же мы способны контролировать нашу склонность к стереотипизации. То, как люди осуществляют целенаправленный контроль и почему этот контроль порой дает сбой, мы обсудим в десятой главе.

Может ли модель IAC объяснить ненадежность памяти?

Мы начали рассмотрение памяти с подчеркивания ее туманности. Затем мы увидели, что модель IAC успешно предлагает механизмы для объяснения некоторых свойств человеческой памяти — таких как гибкое извлечение признаков в ответ на множественные подсказки, восполнение недостающей информации и спонтанное обобщение по набору данных. Но способна ли она также пролить свет на феномены, описанные Элизабет Лофтус и ее коллегами?

Задумаемся о результатах эксперимента, показавшего, что люди, которых просили оценить, с какой скоростью двигались два автомобиля, когда они столкнулись, давали более низкие оценки скорости, чем те, кого спрашивали о скорости тех же двух машин в момент, когда они врезались друг в друга. Как модель IAC может объяснить этот результат?

Давайте пофантазируем и представим, будто мы смотрим на сеть IAC в мозге человека из первой группы — того, у которого спрашивали, с какой скоростью ехали машины, когда они столкнулись. Разумно предположить, что в этом мозге хранятся воспоминания о нескольких авариях, свидетелем которых человек был в прошлом. Опираясь на модель IAC, мы можем представить, что каждая прошлая авария представлена в сети, содержащей огромный пул узловых элементов, каждый из которых двунаправленно связан с различными характеристическими элементами, отражающими особенности этого происшествия. Эти особенности могут включать визг шин, удар бамперов, натяжение ремней безопасности, дорожные споры, страховые претензии, описательные фразы вроде «машины столкнулись» или «машины врезались друг в друга» и, конечно же, представление о том, насколько быстро двигались автомобили в момент аварии. Для конкретики представим, что в памяти этого человека запечатлено двадцать семь аварий (по аналогии с двадцатью семью гангстерами, с которыми мы уже познакомились).

И вот наш испытуемый входит в лабораторию Лофтус; ему показывают видеозапись и задают вопрос, содержащий фразу «машины столкнулись». Кадры из видео, а также формулировка вопроса служат подсказками, которые активируют репрезентации аварий в сети. Какие аварии с наибольшей вероятностью активируются? Те, которые обладают общими характеристиками с подсказками, используемыми для доступа к памяти. В частности, если использовать подсказку «машины столкнулись», то аварии в памяти (из двадцати семи), которые были закодированы с использованием слова «столкнулись» (то есть слово «столкнулись» было характеристическим элементом в этом воспоминании), с большей вероятностью придут на ум.

В повседневной речи люди с большей вероятностью используют глагол «столкнулись» для описания автомобилей, движущихся на умеренной скорости. Следовательно, скорость автомобилей в тех авариях, которые всплывают в памяти, скорее всего, тоже будет умеренной. Это означает, что для аварии, показанной в лаборатории Лофтус, характеристический элемент скорости, который становится наиболее активным, вероятно, будет представлять умеренный уровень скорости — поскольку этот элемент получает активацию по обратной связи от всех пришедших на ум прошлых аварий с умеренной скоростью.

Если бы мы посмотрели на сеть IAC в мозге человека из второй группы — того, у которого спрашивали, с какой скоростью ехали машины, когда они врезались друг в друга, — то прошлые аварии (из общего числа двадцати семи), которые описывались фразами, содержащими глагол «врезались», имели бы большую склонность к активации. Если слово «врезаться» обычно используется при описании аварий на более высоких скоростях, то элементы, представляющие высокую скорость, с большей вероятностью активируются, когда «врезались» было частью подсказки для доступа к памяти.

Этот же аргумент применим и к (ложным) воспоминаниям о разбитом стекле. Случаи аварий в памяти, описываемые словом «врезаться», с большей вероятностью включали в себя разбитое стекло — элемент, который можно представить как такую же характеристическую единицу, как и любую другую. И согласно сети IAC, именно активация этой группы аварий направляет поток активации на характеристический элемент разбитого стекла, создавая тем самым ложное воспоминание.

Подобные соображения позволяют предположить, что сеть IAC как система памяти тоже может быть подвержена возникновению ненадёжных и искажённых воспоминаний, что во многом напоминает закономерности, присущие человеческой памяти. Как мы увидим в следующих двух главах, сеть IAC полезна не только для понимания человеческой памяти, но и для осмысления множества других аспектов разума.