Мы предположили, что наш собственный интеллект и интеллект машин — это разновидности эмерджентного разума, возникающего на основе активации и обучения связей в нейронных сетях. Следуют ли из этого какие-то важные выводы? Есть те, кто отвечает на этот вопрос «нет». По их мнению, лежащие в основе механизмы не важны; все дело лишь в более абстрактных программах, которые работают на «железе» — будь то биологическом или искусственном, — а не в фундаменте, на котором они построены. Наша же точка зрения состоит в том, что механизмы имеют значение — и значение определяющее, поскольку именно они формируют ключевые характеристики эмерджентных систем.

В этой главе мы начнем с небольшой зарисовки, иллюстрирующей ту позицию, которую мы призываем занять вас, наших читателей, при рассмотрении этих вопросов. Мы убеждены, что подобный взгляд, если оглянуться на пройденный на предыдущих страницах путь и представить наше эмерджентное «я» как продукт работы нейронных сетей, действительно ведет к важным выводам. Он высвечивает два ключевых принципа нашего существования, которые отражают модели нейросетей и которым — поскольку они тоже являются нейросетями — подчиняются наши машины. Эти принципы важны для того, как мы думаем о себе, друг о друге и о наших машинах и как уживаемся с собой, друг с другом и с ними; именно этим следствиям посвящен первый полноценный раздел главы. Кроме того, мы считаем крайне полезным и впредь искать в человеческой природе вдохновение для совершенствования машин. В чем-то они похожи на нас, а в чем-то принципиально отличаются. Во втором разделе главы мы рассмотрим некоторые особенности нейросетей нашего мозга, интеграция которых в системы искусственного интеллекта помогла бы лучше согласовать их с нашим собственным эмерджентным разумом. Мы полагаем, что непрекращающиеся попытки понять себя помогут нам создавать более совершенный ИИ в будущем. В завершение мы предлагаем послесловие, где устремляем взгляд в воображаемое будущее, в котором мы и наши эмерджентные машины живем в гармонии друг с другом — в полном соответствии с выводами, которые мы обсуждаем в основной части главы.

Представьте себе девочку-подростка — назовем ее Скаут, — которая гуляет с подругой в предгорьях неподалеку от дома. Они натыкаются на цепочку муравьев (похожих на тех, с которыми мы познакомились во 2-й главе), суетливо снующих между своим гнездом и недоеденным сэндвичем, который кто-то бросил у обочины тропы. Скаут замечает, что прямо на пути муравьев лежит камень и что они почти без исключения обходят его по более короткому маршруту. «Откуда они знают, как это делать?» — спрашивает она.

Подруга Скаут пожимает плечами: «Я и раньше видела, как они это делают. Наверное, муравьи просто так устроены».

Но Скаут хочет понять это неожиданное поведение муравьев с естественнонаучной точки зрения, не приписывая его замыслу всемогущего создателя. Она снова всматривается в муравьиную цепочку. Может, муравьи пошли по кратчайшему пути чисто случайно? Она сдвигает камень так, чтобы прежний короткий путь в обход камня стал длинным. Уже через несколько минут муравьи перестраивают свой маршрут, и большинство из них устремляется в обход по новому, более короткому пути.

Подруга уходит, но Скаут остается, пытаясь разобраться в происходящем. Она размышляет о возможных механизмах, которые заставляют муравьев находить кратчайший путь. Она допускает мысль, что муравьи могут как-то измерять расстояние и передавать эту информацию друг другу. Но у муравьев нет языка, а значит, они должны использовать какой-то другой способ передачи сигналов. Долго понаблюдав за муравьиной цепочкой, она приходит к мысли, что муравьи общаются с помощью какого-то выделяемого ими химического вещества. Но как именно это работает? Она понимает, что ей нужны бумага и карандаш, чтобы все обдумать. Скаут чувствует, что ее догадка — это шаг вперед, но знает, что впереди еще много работы.

Многим ученым, включая нас самих, которые стремятся раскрыть механизмы работы человеческого разума в рамках концепции нейронных сетей, очень близок образ мыслей Скаут по меньшей мере в двух ключевых аспектах. Во-первых, Скаут пыталась понять поведение муравьев через физические, механистические процессы. Мы и другие исследователи стремимся понять природу разума в таких же физических и механистических категориях. Точно так же, как Скаут не устраивало объяснение «просто так устроены муравьи», этих ученых не устраивает ответ «просто так устроены люди», когда речь заходит о процессах, происходящих в нашем мозге и сознании. Напротив, они ищут объяснения, основанные на причинах и процессах, которые можно наблюдать, измерять и проверять экспериментально. Они не пытаются вводить некий предопределенный свод правил, сверхъестественного руководителя или любые другие нематериальные сущности для объяснения человеческого мышления и поведения. Вместо этого они используют инструменты измерения и вычислений, чтобы глубже проникнуть в суть лежащих в основе механистических процессов.

Во-вторых, подобно тому как стремление Скаут понять поведение муравьиной колонии было непрекращающимся поиском, путь к пониманию работы разума с помощью нейронных сетей — это тоже бесконечный процесс. В науке ответы на одни вопросы часто порождают другие. В результате здесь редко можно заявить о полной и окончательной победе. Всегда есть куда двигаться дальше. В нашем путешествии по страницам этой книги мы убедились, что натуралистическая и механистически ясная концепция нейронных сетей не только принесла нам многообещающие выводы о природе человеческого мышления и поведения, но и поставила новые важные вопросы для будущих исследований. Мы словно поднялись на первые холмы и разбили лагерь на горном хребте. С нашей вершины видны и высоты, которые мы уже покорили, и величественные пики, что еще ждут впереди.

Один из самых высоких пиков вдали — тот, что мы видим уже очень давно, — олицетворяет извечный вопрос: как мы можем помочь себе, друг другу и нашим машинам жить лучше? Далее мы рассмотрим два принципа из концепции нейронных сетей, которые указывают путь к ответу на этот вечный вопрос.

Два ключевых принципа, отраженных в концепции нейронных сетей

Первый принцип заключается в том, что человеческие мысли и действия определяются множеством факторов, которые взаимно влияют друг на друга. Мы называем его принципом множественной взаимной причинности. Согласно этому принципу, любые результаты в нашем мозге, разуме и поведении — а также, по нашему мнению, и в большинстве естественных физических и социальных систем — в целом складываются под влиянием множества факторов, которые часто воздействуют друг на друга.

Этот принцип не так часто формулируют в явном виде, и он, по-видимому, не входит в привычный образ мыслей большинства людей — и даже большинства ученых. Зачастую люди, включая многих исследователей, склонны искать единственные, однонаправленные причины событий и явлений в мире. Почему один кандидат победил на выборах? Можно сказать: потому что другой кандидат был слишком мягким. Почему человек стал вегетарианцем? Потому что он заботится о животных. Почему сборная Индии по крикету проиграла финал чемпионата мира? Потому что ее суперзвезды слишком богаты, живут в комфорте и поэтому лишены мотивации к победе. Однако такой поиск единственной причины упускает из виду реальность: результаты выборов могут зависеть от огромного количества переменных, выходящих за рамки личности кандидата (например, от экономической ситуации и демографических изменений); решение стать вегетарианцем может быть продиктовано совместным влиянием факторов здоровья, экологии и культуры; а победы и поражения в матчах по крикету определяются множеством факторов, далеких от одной лишь мотивации звездных игроков, включая разницу в мастерстве и стратегиях и даже случайный отскок мяча. Более того, многие из этих многочисленных факторов взаимно усиливают друг друга. Размышления о собственном здоровье и благополучии могут повлиять на отношение к здоровью и благополучию животных или даже всей планеты, создавая взаимно подкрепляющие причины для перехода на веганство.

Даже наши простые повседневные решения и ощущаемые предпочтения могут определяться множеством причин. Например, выбор между батончиками в торговом автомате может зависеть от случайности, привлекшей наше внимание (один батончик оказался на уровне глаз), влияния рекламы (рекламный джингл одного из брендов мог создать ассоциацию между батончиком и каким-то привлекательным — пусть и надуманным — качеством), наших внутренних физиологических потребностей (нам хочется быстро получить заряд энергии), приобретенных привычек (мы обычно берем именно этот батончик в этом автомате), контекстуальных факторов (возможно, мы привыкли съедать этот батончик перед уроком математики) и от общих целей, которые в данный момент могут осознаваться, а могут и нет (например, желания потреблять меньше калорий). Часто эти многочисленные причины взаимно подкрепляют друг друга. Так, рекламный джингл компании может подчеркивать, что их батончик дает быстрый прилив энергии, и наша потребность в энергии заставит нас вспомнить этот джингл.

Как мы убедились на страницах этой книги, нейронные сети отлично подходят для моделирования процессов, зависящих от множества причин. В главе 3 мы столкнулись с мыслью о том, что мы можем встать и пойти к холодильнику под воздействием сочетания факторов, ни один из которых по отдельности не вызвал бы такого поведения. Нейросети также помогают описывать ситуации, в которых несколько результатов взаимно зависят друг от друга. В модели интерактивной активации восприятия букв (глава 5) активация элементов букв и слов вызывается множественными и взаимными причинами. Двунаправленные связи — например, между буквами и словами — обеспечивают механизм, позволяющий элементам букв внутри слова влиять на активацию друг друга через элементы слов.

Множественная взаимная причинность применима и к социальным явлениям. Рассмотрим взаимозависимые отношения — например, между романтическими партнерами. Что определяет успех таких отношений? Люди, в них состоящие, безусловно, играют важную причинную роль, но они также оказывают глубокое и взаимное влияние друг на друга. Внешние стрессогенные факторы, воздействующие на одного из партнеров, могут вызывать гнев и нетерпение. Другой партнер, если он испытывает меньше стресса, может проявить понимание и найти способы помочь отношениям пережить этот трудный период и, возможно, даже облегчить состояние любимого человека. Но если оба партнера находятся в состоянии сильного стресса, их общение может перерасти в ссоры, и отношения, которые могли бы быть взаимно поддерживающими, могут прекратиться.

Даже тропы, прокладываемые муравьями Скаут, определяются множеством взаимных причин. На путь каждого муравья влияют такие переменные, как положение гнезда, расположение источника пищи и феромоновые следы, оставленные другими муравьями. Эти переменные взаимно влияют друг на друга, определяя траекторию движения каждого отдельного муравья (глава 2).

Второй принцип, ограниченная доступность, отсылает к идее о том, что мы обладаем неполными знаниями о множестве переменных, определяющих наши мысли и действия. Иными словами, мы часто не знаем, почему поступаем так, а не иначе, и почему другие люди ведут себя именно так. Например, мы можем не осознавать, что выбрали салат вместо бургера под влиянием мельком увиденного рекламного баннера о здоровом питании. Или что подруга выбрала кока-колу отчасти потому, что она стояла на полке прямо перед ее глазами, тогда как напитки конкурентов находились выше или ниже. В целом трудно представить, что мы способны полностью осознавать весь спектр факторов, потенциально формирующих наши мысли и поступки. К таким факторам могут относиться фоновые звуки, сигналы на периферии зрения или ассоциации в памяти, которые мы никогда не осознавали.

Знания, направляющие активность нейросети, кроются в ее связях. Что важно, у нас нет сознательного доступа к этим связям. Связи, наряду с сигналами из внешнего мира, порождают паттерны активации, которые соответствуют нашим мыслям. Лишь часть этой активности связана с сознательным опытом; большая ее часть, по-видимому, не зависит от сознания (глава 10). Мысли, недоступные для сознания, могут приводить к другим мыслям и/или действиям, источник которых останется для нас неизвестным. Более того, в конкретной ситуации мы можем не знать о входных переменных, имеющих к ней отношение, можем не осознавать влияние каждой из этих переменных и даже не подозревать о связанной с целью (или иной нисходящей) активации, возникающей в данном контексте. В результате мы часто не знаем, почему думаем именно так, а не иначе, и почему совершаем те или иные поступки.

Сталкиваясь с этой ограниченной доступностью, люди часто придумывают неверные или неполные интерпретации своих и чужих поступков (глава 3). Например, они могут объяснять то, что всегда заказывают курицу пармезан в местном ресторанчике, исключительно своей любовью к этому блюду. Однако на их выбор может влиять и то, что такое постоянство в заказе уже стало забавной темой для разговоров в кругу семьи и друзей. Этот же паттерн применим и к тому, как мы объясняем поступки других людей. Молодой человек может быть уверен, что привлекательная девушка тепло улыбается ему при встрече из-за особой симпатии, тогда как на самом деле она приветлива и дружелюбна со всеми. Нам может казаться, что тюремный надзиратель агрессивно ведет себя по отношению к часто протестующему заключенному из-за своего врожденного агрессивного характера, но в действительности здесь, скорее всего, задействован целый спектр иных факторов.

Принцип ограниченной доступности подразумевает, что люди часто конструируют объяснения наблюдаемым ими действиям. Эти конструкты сами по себе являются эмерджентными мыслями, возникающими под влиянием факторов, связанных с вниманием, намерением и знаниями. Сконструированные объяснения могут оказаться более или менее полезными для понимания задействованных переменных и могут приводить к прогнозам — как совершенно неверным, так и поразительно точным. Идея о том, что муравьи Скаут совершенно случайно выбрали более короткий путь в обход препятствий, не приносила особой пользы и не позволяла делать верные прогнозы. Объяснение, что муравьи общались с помощью феромона, было более полезным, но еще недостаточно детализированным, чтобы предсказывать их поведение. Модель, описанная в главе 2, раскрывала механику процесса и позволяла делать прогнозы, но и она была неполной, так как не могла до конца детализировать то, как именно муравьи огибают препятствия. Она, к примеру, не объясняла, почему некоторые муравьи не пошли по короткому пути вокруг препятствия, ведь меньшинство из них все же выбрало длинную дорогу.

Применение двух принципов

Далее мы воспользуемся принципами множественной взаимной причинности и ограниченной доступности, чтобы исследовать, почему человек решает (или не решает) прервать свои дела и помочь нуждающемуся, а также как другие люди объясняют, почему кто-то остановился или прошел мимо. Эта ситуация знакома многим, и ее тщательно изучали во множестве психологических экспериментов, так что нам не придется полагаться исключительно на интуицию — в нашем распоряжении есть реальные данные. В этом упражнении мы хотим рассмотреть два вопроса. Во-первых, как несколько факторов в совокупности влияют на конечное действие человека — в данном случае на то, остановится ли он, чтобы помочь, или продолжит свой путь? Во-вторых, какие объяснения придумывают люди, чтобы осмыслить поступок — как оказание помощи, так и отказ от нее?

Для начала давайте представим ситуацию, в которой кому-то требуется помощь. Возможно, человек кажется травмированным, или горько плачет, или рассыпал стопку бумаг, которые теперь разлетаются по ветру. И вот вопрос: в каких случаях люди останавливаются, чтобы помочь, а в каких — нет?

Первая интуитивная мысль у многих людей такова: мир делится на два типа людей — добрых и готовых помочь, и эгоистичных, безучастных. Соответственно, человек из первой категории остановится, чтобы помочь, а человек из второй — пройдет мимо.

Подобная интуитивная оценка широко распространена, поскольку наши объяснения поступков — чужих или собственных — часто апеллируют к неизменной сути человека, совершившего это действие. Почему Эми помогла бездомному? Потому что у Эми добрая душа. Почему Драко не помог? Потому что Драко думает только о себе.

Однако социальные психологи Джон Дарли и Дэниел Бэтсон сомневались, что неизменная суть человека полностью объясняет происходящее. В полном соответствии с принципом «ограниченной доступности» они подозревали, что в игре участвуют и другие факторы, влияющие на то, остановится ли человек для оказания помощи. Чтобы доказать свою гипотезу, они пригласили студентов Принстонской теологической семинарии (которые обычно готовились к пасторскому служению) якобы для записи проповеди по притче о добром самаритянине — библейскому сюжету, где милосердный самаритянин бескорыстно помогает попавшему в беду незнакомцу. Это было особенно показательно, поскольку в самой притче несколько священнослужителей, включая священника, прошли мимо несчастного, заметив его страдания, но ничего не предприняли. И только самаритянин, движимый добротой сердца, отвез его на постоялый двор и оплатил уход за ним.

Без ведома студентов-семинаристов Дарли и Бэтсон организовали эксперимент таким образом, что одни из них думали, будто сильно опаздывают в студию звукозаписи и крайне ограничены во времени, тогда как другие полагали, что пришли с запасом времени. Кроме того, исследователи подстроили так, что по пути в студию студенты сталкивались с незнакомцем, который, судя по всему, попал в беду, но на самом деле был актером — помощником экспериментаторов. Перед семинаристами стоял выбор: остановятся ли они, чтобы помочь, или просто пройдут мимо?

Изящество экспериментального дизайна очевидно: ничего не подозревавшие участники направлялись записывать проповедь о выборе, перед которым встал библейский добрый самаритянин, как раз в тот момент, когда перед ними возник точно такой же выбор. Никто не мог бы возразить, что мысли о помощи человеку в беде не занимали в этот момент умы участников.

Так что же определяло, кто остановится, чтобы помочь? Выяснилось, что участники, считавшие, что пришли пораньше и не спешат, помогали гораздо охотнее: 63 % из них остановились, чтобы помочь незнакомцу, в то время как среди тех, кто думал, что опаздывает, остановились лишь 10 %. Это указывает на то, что зачастую сильнейшие стимулы к человеческим поступкам кроются в ситуационном контексте — в данном случае в том, спешил человек или нет, — а не в его сути или характере. Если бы определяющим фактором была внутренняя суть человека, логично было бы ожидать, что доля оказавших помощь в обеих группах окажется более схожей.

Эксперимент Дарли и Бэтсона наглядно показал, что ситуационные переменные выступают ключевыми факторами, определяющими действия людей. Целая серия подобных исследований, проведенных примерно в то же время, захватила воображение как психологов, так и широкой общественности, и многие начали признавать важную роль ситуационных факторов в формировании поведения. Однако некоторые психологи, занимавшиеся изучением личности, остались недовольны. Они утверждали, что, хотя социальные психологи и продемонстрировали влияние ситуационных переменных, которые ранее недооценивались, они не учли должным образом влияние личностных факторов (например, уровня эмпатии). По сути, они заявляли, что социальные психологи сами стали жертвами принципа ограниченной доступности. В подтверждение этой мысли они указывали, что, хотя 63 % семинаристов, которые не спешили, остановились помочь, остальные 37 % прошли мимо. Кем были эти 37 % и почему они не остановились? И наоборот, кем были те 10 % семинаристов, которые пришли на помощь, несмотря на то что опаздывали? Исследователи предположили, что индивидуальные особенности личности могут объяснить часть этого расхождения в поведении. Например, они отметили, что в исследовании Дарли и Бэтсона личностная переменная, связанная с «религиозностью», судя по всему, действительно влияла на поступки участников. Кроме того, они сетовали, что исследование Дарли и Бэтсона (и другие подобные работы) задействовало настолько сильные ситуационные переменные (например, спешку перед важным докладом), что личностные качества просто не могли себя проявить. Используя самые разные экспериментальные контексты, они доказывали, что сила влияния личностных переменных сопоставима по масштабу с силой влияния ситуационных факторов.

Однако в игре участвовали и другие переменные. Психологи, изучавшие влияние культуры на поступки людей, предположили, что как сторонники ситуационного, так и сторонники личностного подхода упустили из виду важнейшую роль культуры в формировании поведения. Культуру можно определить как совокупность общих убеждений, ценностей и практик группы людей, определяющих их образ жизни. Она включает в себя социальные нормы, общественные ценности и, для многих людей, свод религиозных принципов.

Психологи, ориентированные на культурный контекст, предположили, что религиозный прайминг (предъявление участникам религиозных символов или идей) может побуждать людей помогать другим, поскольку многие религии, включая христианство, призывают к милосердию по отношению к нуждающимся — особенно когда этот нуждающийся принадлежит к аутгруппе (как и было в библейской притче о добром самаритянине). Проведя прайминг для одной группы студентов-христиан с помощью стихов о милосердной помощи, а для другой — с помощью светских цитат, не связанных с благотворительностью, они создали экспериментальную ситуацию. Они даже подстроили ситуацию, в которой участники проходили мимо девушки (помощницы экспериментаторов), которая была либо в мусульманском головном уборе (хиджабе), либо без него, и которая «случайно» роняла большую стопку конвертов прямо у них на пути. Поскольку участники были христианами, хиджаб сигнализировал о том, что попавший в затруднительное положение человек принадлежит к аутгруппе. Кто же из участников придет на помощь?

Выяснилось, что участники, прошедшие прайминг религиозными стихами о милосердии, помогали девушке в хиджабе значительно чаще, чем те, кого настраивали с помощью светских цитат. Таким образом, оказалось, что обращение к религиозности составляет еще один ряд переменных, влияющих на то, решит ли человек помочь ближнему.

И это, возможно, далеко не всё. Вполне вероятно, что и другие переменные — такие как наличие личной цели быть добрым к нуждающимся, внутренний отклик на конкретное несчастье, с которым сталкивается человек (некоторые охотно помогут тому, кто выглядит больным, но пройдут мимо того, кто кажется пьяным), реакция на присутствие посторонних и даже текущее настроение — также могут играть роль в прогнозировании альтруистического поступка.

В соответствии с принципом множественной взаимной причинности, вполне вероятно, что помимо десятков переменных, оказывающих самостоятельное влияние, эти факторы также взаимно поддерживают друг друга — порой самым неожиданным образом. Человек может помочь прохожему, даже если устал, или проголодался, или просто не в духе, но вряд ли сделает это, если он одновременно и устал, и голоден, и в плохом настроении — при этом усталость и голод сами по себе могут влиять на то, окажется ли человек не в духе.

В соответствии с принципом ограниченной доступности, люди могут обладать неполным знанием о том, почему они сами или кто-то другой решают помочь или же ничего не предпринимать. Неудивительно, что в примере с добрым самаритянином социальные психологи подчеркивали объяснительную силу ситуационных переменных, психологи личности — объяснительную силу личностных переменных, а культурные психологи — переменных, связанных с культурой. По мере того как мы изучаем поступок глубже и с разных точек зрения, наши объяснения его причин, по всей видимости, становятся точнее, и мы можем использовать их для более точного прогнозирования аналогичных действий в будущем.

Вывод: будьте добры и стремитесь понять

Концепция нейросетей указывает на важную причину для принятия установки на доброту: эмерджентное «я» каждого человека возникает на основе единого набора принципов. Мы — чувствительные к контексту системы, на выходные сигналы которых (то есть на наши действия) глубоко влияют особенности сигналов входных. Да, во внутреннем устройстве этих систем есть различия — например, у разных людей в мозге существуют разные врожденные связи, — но мы зачастую слишком сильно фокусируемся на предполагаемых внутренних различиях между людьми и слишком мало внимания уделяем различиям в их «входах» или контексте. Учитывая, что все мы — природные системы, развивающиеся в рамках своих конкретных ограничений, возможно, нам стоит проявлять чуть больше доброты.

Более того, как мы уже видели, действия — наши собственные или чужие — рождаются из множества взаимно влияющих переменных. Наши суждения об этих действиях, продиктованные нашими прежними знаниями и мировоззрением, скорее всего, фокусируются лишь на малой части этих переменных. Поэтому мы редко в полной мере понимаем, почему мы сами или другие люди поступаем так, как поступаем. Мы можем довольствоваться объяснениями, которые кажутся совершенно разумными, но на самом деле являются неполными или ошибочными.

Осознавая это, нам, пожалуй, стоит сделать стремление к пониманию своей позицией по умолчанию при осмыслении как собственных, так и чужих поступков. Это ценная установка, ведь когда мы не знаем всех переменных, определяющих то или иное действие (даже если мы твердо уверены, что знаем их), будет разумно воздержаться от суровых суждений.

Например, как показало исследование о добром самаритянине, очень легко осудить человека, который не остановился помочь тому, кто попал в беду. Мы можем счесть его эгоистичным или бессердечным, совершенно не подозревая, что им двигало желание не опоздать на доклад, с которым он обещал выступить. Знай мы об этом факте, мы, возможно, судили бы его менее строго. А если бы мы знали, что в прошлый раз, когда он остановился помочь прохожему, его ограбили, это еще сильнее смягчило бы наше суждение.

То, что применимо к другим людям, применимо и к нам самим. Многие совершают поступки, которые кажутся взаимоисключающими. Они идут утром в спортзал, но выбирают вредную еду на обед. Они открывают сберегательный счет, но регулярно покупают вещи, которые им не нужны и которыми они не пользуются. Они жалуются на вред социальных сетей, но проводят в них по несколько часов в день. Одной из реакций на такие, казалось бы, противоположные действия становится самобичевание за собственную иррациональность и несовершенство. Подобная реакция проистекает из убеждения, будто наше поведение подчиняется набору правил, исключающему противоречивые поступки. С точки зрения концепции нейросетей, это не так. Наши действия рождаются, согласно этой концепции, из зачастую сложного взаимодействия множества переменных. Суровое осуждение людей — в том числе и самих себя — обычно полностью игнорирует эту сложность.

Понимание, по-видимому, прекращается, как только выносится суждение. Если мы решим, что наш коллега ленив и немотивирован из-за частых опозданий, мы можем никогда не узнать, что он в одиночку ухаживает за престарелым родителем. Но если бы мы поговорили с ним, проявив доброжелательность, мы могли бы лучше понять проблему и найти способы справиться с ситуацией. Точно так же, если мы сочтем себя несовершенными людьми из-за того, что нам не нравятся поступки, которые мы за собой замечаем, мы можем перестать двигаться к пониманию этих поступков. Но если мы отнесемся к себе с добротой, у нас появится больше шансов понять, почему мы поступаем именно так. А подобное понимание способно привести к реальным переменам — что подводит нас ко второму выводу.

Вывод: у нас есть кое-какие суперспособности!

Как мы обсуждали в главе 10, наши объяснения результатов, которые мы наблюдаем вокруг, могут сильнейшим образом влиять на наши будущие действия. Например, если студент думает, что плохо справился с тестом по математике, потому что он в ней не силен, он с меньшей вероятностью выберет еще один курс по этому предмету. Или если законодатель считает, что биржевые брокеры, которые обманом лишают клиентов всех их сбережений, делают это просто потому, что они злые люди, он может попытаться инициировать закон, требующий тестирования личностных качеств для будущих брокеров.

Два принципа, о которых мы говорили — множественная взаимная причинность и ограниченная доступность, — позволяют предположить, что наши объяснения наблюдаемых вокруг результатов не всегда верны, поскольку то, что мы считаем их причиной, на самом деле может ею не являться. Более того, эти объяснения не всегда полезны, так как они могут заставить нас действовать на основе ошибочных предположений, что приведет к нежелательным последствиям для нас самих и тех, кто нам дорог. Возможно, студент, который плохо справился с тестом по математике, показал такой результат потому, что тест был ориентирован на зазубренные алгоритмы, а не на оригинальное мышление. Вместо того чтобы видеть в тесте знак, что математику пора бросить, иной образ мыслей привел бы студента к прямо противоположному выводу. Точно так же биржевые брокеры (и любые другие люди) могут мошенничать по множеству причин, включая психологическое давление, финансовые стимулы, лазейки в системе и социальные нормы, принятые в этой сфере. Брокер, работающий в условиях, где агрессивные методы продаж поощряются, а контроль слаб, с большей вероятностью пойдет на неэтичные поступки — и не обязательно потому, что он порочен по своей природе, а просто потому, что сама система подталкивает его к этому. Вместо введения тестов на благонадежность, иной подход мог бы подтолкнуть законодателя к созданию системы сдержек и противовесов, снижающей саму вероятность подобного поведения.

Признание того, что наши сознательные мысли не обязательно верны, может принести глубокое чувство освобождения. Это знание, если мы обратим на него внимание, способно наделить нас как минимум двумя суперспособностями! Во-первых, поскольку наши мысли вовсе не обязательно истинны, мы не находимся у них в плену. Мы можем рассматривать и принимать альтернативные суждения, которые переосмысливают причины важных для нас результатов. Мы можем принимать более полезные установки, которые ведут к более желаемым результатам. Во-вторых, поскольку на конечный результат сообща влияет множество факторов, мы можем освободиться от ограничений наших причинно-следственных объяснений и выстраивать процессы с контролем и мерами предосторожности, которые повышают вероятность просоциальных результатов.

Чтобы проиллюстрировать этот самый рефрейминг, представьте себе следующий сценарий: представьте, что вы застряли в пробке по дороге на важную встречу. Машины не двигаются, ваши руки сжимают руль, внутри закипает раздражение. Вы начинаете думать: Это катастрофа. Я опоздаю. Я такой неудачник. Ничего не могу сделать нормально. Чем дольше вы прокручиваете эти мысли в голове, тем сильнее злитесь и тем глубже погружаетесь в стресс.

А теперь давайте применим суперспособность рефрейминга. Вы делаете глубокий вдох и переоцениваете ситуацию: Эта пробка от меня не зависит. Я ничего не мог сделать, чтобы ее предотвратить. Мои переживания ничего не изменят. Вы чувствуете себя спокойнее, мысли утихают, и раздражение внезапно улетучивается. Тот факт, что вы опоздаете, не изменился, но изменилась ваша атрибуция. И изменив эту атрибуцию, вы изменили свою эмоциональную реакцию. Вместо того чтобы позволить стрессу поглотить вас, вы восстановили душевное равновесие. Наконец, осознание того, что в случившемся нет вашей вины, позволит вам без лишней неловкости позвонить тем, с кем вы должны встретиться, и объяснить ситуацию. Возможно, вам даже удастся обсудить часть вопросов по телефону.

Философ-стоик Эпиктет знал об этой суперспособности. В своей знаменитой фразе из «Бесед» он заметил: «Нас расстраивают не сами события, а наши суждения о них». Эпиктет понимал, что интерпретация событий зависит только от нас. Мы можем выбирать такие интерпретации, которые служат нашим целям. Исследователи в области регуляции эмоций тоже знают об этой суперспособности. В течение трех десятилетий они проводили эксперименты, которые показывают, что изменение оценки событий, вызывающих негативные эмоции, — это эффективный способ регулирования этих самых эмоций.

Но для одного из нас, по имени Гаурав, одного лишь знания стоицизма и открытий в области регуляции эмоций было недостаточно, чтобы начать пользоваться суперспособностью рефрейминга. Ему всегда казалось, что привлекать причинно-следственный элемент, в истинности которого он не был уверен, — это своего рода жульничество. Или осознанный самообман. Он считал, что у событий в мире есть вполне определенные причины, а придумывать удобные для себя объяснения означало — хотя бы отчасти — жить в вымышленной вселенной. Лишь когда Гаурав привык использовать концепцию нейросетей для понимания окружающего мира, он осознал: применение рефрейминга — это вовсе не попытка обмануть систему, а путь к лучшей жизни.

Вторая суперспособность выходит за рамки отдельной личности — она заключается в нашей способности выстраивать процессы и проектировать системы, которые способствуют этичному поведению и подотчетности.

Авраам Линкольн, как известно, взывал к «лучшим ангелам нашей природы», призывая нас руководствоваться своими добродетелями в поступках. Хотя это прекрасный идеал, это далеко не единственный рычаг для поощрения хорошего поведения или предотвращения вреда. Множественная взаимная причинность напоминает нам, что человеческие поступки формируются множеством взаимосвязанных факторов, и наша способность вводить меры предосторожности и контроль может служить своего рода суперспособностью, многократно увеличивая нашу общую способность поступать правильно.

Например, вспомните, как в больницах используют хирургические чек-листы и систему многоэтапного согласования, чтобы предотвратить ошибки в операционной. Вместо того чтобы полагаться исключительно на профессионализм или добрую волю хирурга, эти чек-листы и процедуры согласования задают четкую структуру, гарантирующую, что критически важные шаги — такие как подтверждение правильности процедуры, проверка личности пациента и подсчет хирургических инструментов — будут выполняться каждый раз. Исследования показали, что внедрение чек-листов и многоэтапного согласования резко снижает количество осложнений и летальных исходов. Встраивая меры предосторожности и подотчетность в рабочий процесс, мы создаем условия, в которых правильные действия совершаются систематически — не потому, что люди безупречны по своей природе, а потому, что сама система работает на успех.

Эта вторая суперспособность относится не только к нашим усилиям по продвижению этичного поведения и подотчетности людей — она в равной степени применима и к стремлению сделать этичными и подотчетными наши системы ИИ. Точно так же, как защитные барьеры, чек-листы и структурированные процессы согласования помогают минимизировать трагические ошибки в больницах, бдительный надзор позволяет создавать системы ИИ, которые будут максимально безопасными, полезными и наименее склонными к выходу из-под контроля. Вот почему мы призываем к большей осведомленности о системах ИИ и лучшему их пониманию, а также к более активному вовлечению общественности в обеспечение того, чтобы их дальнейшее развитие происходило в условиях прозрачности и контроля.

Как понимание человеческого разума может усовершенствовать ИИ будущего

До сих пор в этой главе мы рассматривали, как концепция нейронных сетей может помочь нам улучшить жизнь, позволяя мыслить иначе. Здесь же мы обсудим, как наше растущее понимание нейронных механизмов мозга способно направить будущее развитие систем искусственного интеллекта.

На протяжении веков человечество мечтало о создании машины, чей интеллект отражал бы или даже превосходил наш собственный. Искусственный общий интеллект (AGI) — это современное название такой машины. Текущий подход к созданию AGI, который мы назовем подходом инженерии интеллекта, направлен на улучшение искусственных нейронных сетей (ИНС) без учета преимуществ или ограничений биологического мозга. Нам этот подход кажется вполне разумным. В конце концов, люди создали самолеты не путем точного копирования птиц, а применив полезные принципы, такие как форма крыла, и в то же время задействовав нехарактерные для птиц особенности, например жесткое соединение крыла с фюзеляжем. Подобным образом, хотя нейросети и сыграли ключевую роль в ИИ, современный ИИ также использует компьютерное аппаратное обеспечение и вычислительные методы, недоступные человеческому разуму. С точки зрения инженерии интеллекта, любой метод, улучшающий ИИ — включая достижения в обработке информации, символьных вычислениях и нейросетях, — должен считаться абсолютно допустимым средством.

Представляется неизбежным, что индустрия ИИ продолжит следовать этому пути инженерии интеллекта. Однако возникает вопрос: может ли биологический мозг предложить нечто такое, что способствовало бы прогрессу? Далее мы рассмотрим аспекты нашего познания и то, что нам известно об их нейронной основе (со многими из них мы уже сталкивались в предыдущих главах), — все это может послужить полезной отправной точкой для будущего развития ИИ. Мы убеждены, что изучение мыслительных способностей человека и их нейробиологической основы поможет усовершенствовать искусственные системы. Точно так же и достижения в области ИИ могут пролить свет на то, как эти процессы протекают в человеческом мозге.

Прежде всего, мы, люди, учимся гораздо эффективнее, чем современные системы ИИ. Лучшие системы ИИ середины 2020-х годов обучаются на объеме данных, который примерно в 100 000 раз превышает то, что человек способен воспринять за всю свою жизнь. Кроме того, такие сети работают по принципу «обучение, затем фиксация и внедрение». То есть сначала они проходят обучение (иногда в несколько этапов, называемых предобучением и тонкой настройкой), затем веса их связей замораживаются (то есть лишаются возможности дальнейшего изменения), и только после этого сеть вводится в эксплуатацию. В отличие от них, мозг способен к непрерывному обучению, усваивая новую информацию практически без ущерба для того, что он выучил ранее. Мы предполагаем, что эти функциональные различия отражают важные контрасты между тем, как обучаются современные нейросети и как учится наш мозг. Сегодняшние сети обучаются с помощью обратного распространения ошибки, что требует огромных наборов данных для выявления скрытых закономерностей. Обратное распространение ошибки также плохо справляется с непрерывным обучением, часто демонстрируя феномен под названием катастрофическое забывание, при котором, к примеру, сеть, обученная распознавать одну группу категорий (скажем, кошек и собак), теряет эту способность, когда ее позже обучают распознавать другую группу (например, лошадей и коров). Алгоритмы обучения, используемые мозгом, избегают этих трудностей; судя по всему, они меньше зависят от объема данных и более гибки, чем обратное распространение ошибки, хотя механизм их работы до конца не изучен. Весьма вероятно, что мозг использует несколько подходов к обучению, включая варианты геббовского обучения (глава 9). Текущие исследования в области нейробиологии открывают новые подробности работы этих мозговых механизмов, что по мере продвижения вперед может способствовать будущему совершенствованию алгоритмов обучения, применяемых в ИИ.

Во-вторых, и это тесно связано с первым пунктом, наш мозг оснащен мощным дуэтом дополняющих друг друга систем обучения, состоящим из гиппокампа и неокортекса (глава 10). Гиппокамп отличается быстрым обучением и связывает конкретные детали пережитого опыта ассоциациями, благодаря чему он служит хранилищем воспоминаний о конкретных событиях. Неокортекс обучается медленнее, но позволяет выявлять закономерности и общие принципы на основе разнообразного опыта. Считается, что во время сна или периодов покоя гиппокамп «воспроизводит» паттерны, представляющие пережитый опыт, обратно в неокортекс, и этот процесс может иметь решающее значение для того, чтобы неокортекс консолидировал новые воспоминания и извлекал из них общие правила или знания, попутно помогая ограничить катастрофическое забывание. Хотя некоторые системы ИИ включают отдельные подсистемы для быстрого фиксирования конкретного опыта и для более медленного анализа с целью поиска закономерностей, эти подходы опираются на наличие гигантских компьютерных систем хранения данных. Более глубокое понимание систем быстрого гиппокампального обучения в мозге и того, как полученные в них знания интегрируются в более медленные неокортикальные системы обучения мозга, может помочь будущим системам ИИ стать более эффективными системами непрерывного обучения.

В-третьих, наш мозг бесшовно интегрирует информацию от различных органов чувств (зрение, слух, осязание), создавая единое восприятие мира. Хотя некоторые системы ИИ уже начали обрабатывать и объединять информацию из нескольких модальностей — таких как текст, изображения, аудио и видео, — согласование и интеграция данных из разных модальностей (например, текста и изображений) остается сложной задачей, и современным моделям зачастую трудно улавливать тонкие кросс-модальные взаимосвязи. Более полное понимание того, как мозг достигает подобной интеграции, может дать ценные подсказки для развития будущих систем ИИ.

В-четвертых, мы уже сталкивались с несколькими примерами (главы 4–5), когда двунаправленные влияния между обрабатывающими элементами в искусственных нейронных сетях имели решающее значение для воссоздания всепроникающего влияния контекста на восприятие и познание, а нейроны в мозге очень часто соединены взаимными связями. Это говорит о том, что мозг действительно использует двунаправленные ограничения и не работает исключительно в режиме прямого распространения сигнала, хотя детали того, как эти двунаправленные влияния функционируют в мозге, еще не до конца изучены. Хотя некоторые сети ИИ используют двунаправленные связи, многие этого не делают, несмотря на ряд потенциальных преимуществ такого подхода. С одной стороны, весьма вероятно, что подобные двунаправленные влияния способствуют нашей способности успешно интегрировать информацию от различных сенсорных систем. Дальнейшее понимание того, как эти двунаправленные процессы работают в мозге, может привести к совершенствованию систем ИИ в будущем.

В-пятых, широко распространено мнение, что мыслительные способности высшего порядка у людей зависят от систематических форм рассуждения (глава 10). Они включают применение формальных структур и систем правил, подобных тем, что используются в логике и математике. Хотя некоторые исследователи по-прежнему склоняются к идее о том, что наш мозг содержит врожденные системы обработки символов, хорошо приспособленные к формальной структуре этих дисциплин, мы рассматриваем систематические способы мышления как человеческие изобретения, созданные для того, чтобы задействовать и расширить наши естественные способности к рассуждению, основанные на нейросетевых механизмах. Более того, обширные исследования показывают, что наша способность использовать эти мыслительные навыки напрямую зависит от погружения в культурную и образовательную среду, способствующую их развитию. Соответственно, чтобы искусственные нейронные сети могли приобрести эти когнитивные способности, им крайне важно пройти через аналогичный опыт погружения в специально спроектированные обучающие среды. Такое погружение сейчас активно конструируется и уже приносит многообещающие результаты. Частично резкое улучшение показателей систем ИИ в первой половине 2020-х годов было связано с включением формально структурированных материалов в их обучающие данные. Эти материалы включают учебники и статьи, излагающие системы формальных математических рассуждений и подробно разбирающие примеры их использования для решения задач. Сюда же относятся и компьютерные программы, которые сами по себе являются явными системами обработки символов. Продолжающиеся попытки понять, как подобное воздействие структурирует когнитивные способности человека, могут помочь лучше разобраться в том, как эффективнее внедрить такие способности в искусственные нейронные сети.

В-шестых, по мере того как в середине 2020-х годов исследователи ИИ стремились достичь человеческого уровня в решении сложных задач, все больше внимания уделялось концептуализации мышления как богатого, протяженного во времени процесса. Одним из заметных достижений стало поощрение моделей к выстраиванию пошаговой цепочки рассуждений. Это было достигнуто путем предоставления моделям примеров пошаговых рассуждений на входе, а также использования обучения с подкреплением для стимулирования длинных цепочек логических шагов. Действительно, когда люди решают мыслительные задачи, они часто действуют шаг за шагом, и побуждение моделей делать то же самое порой приводило к существенному росту эффективности. Однако ключевая трудность заключается в том, что выбор следующего шага часто определить крайне сложно. Люди, судя по всему, разбивают сложные задачи на более простые подзадачи, но то, как нам удается делать это столь эффективно, остается предметом непрекращающихся исследований. Разработчики ИИ начали осознавать важность декомпозиции задач и используют для этого самые разнообразные подходы. Мы полагаем, что более глубокое понимание того, как люди генерируют свои промежуточные шаги на пути к решению — возможно, под влиянием целей (см. наш последний пункт ниже) и разбиения целей на подцели, — окажет взаимовыгодное синергетическое влияние на прогресс в этой области ИИ.

В-седьмых, наш мозг обладает «поисковой» системой, которая активируется детекторами потребностей (например, детекторами, сигнализирующими о голоде) и возможностями для удовлетворения этих потребностей в окружающей среде (глава 10). Эта система служит источником аппетитивного мотивированного действия, которое обеспечивает обучение, проактивное решение задач, мобилизацию ресурсов для одних действий в ущерб другим и автономное формирование целей. Другие системы мозга лежат в основе наших эмоций, которые помогают принимать более взвешенные решения и улучшают память на личностно значимые события (глава 5). ИИ середины 2020-х годов лишен этих систем поиска и эмоций.

Наконец, одно из наиболее существенных различий между людьми и машинами заключается в том, что у нас есть системы мозга, позволяющие нашим целям формировать все аспекты нашего поведения и познания, включая сбор информации, планирование, решение задач и рассуждение (глава 10). Системы ИИ середины 2020-х годов, как правило, не имеют собственных систем целеполагания. Вместо этого цели, которые организуют их поведение, во многом задаются их создателями-людьми, которые отбирают данные для обучения и разрабатывают протоколы вознаграждения, используемые при тонкой настройке моделей. Хотя наше человеческое поведение может (отчасти) формироваться сходным образом, способность направлять свои мысли и действия на достижение поставленных целей чрезвычайно важна — не только для нашего выживания, но и для самых выдающихся достижений человечества. Наша способность создавать великие произведения искусства или разрабатывать новые научные теории зависит от постановки целей и следования им на протяжении длительных периодов времени — в некоторых случаях до десятилетия и более.

Внедрение человекоподобных систем поиска, эмоций и целеполагания может привести к созданию более автономных искусственных систем, что расширит их способность дополнять и приумножать наши собственные возможности. Однако здесь необходимо действовать крайне осторожно. Точно так же, как нам важно обеспечивать друг другу взаимный контроль и устанавливать рамки безопасности, будет важно — более того, критически важно — ограничить системы ИИ будущего предохранительными барьерами, чтобы гарантировать, что они приносят пользу людям, а не вред. Определение того, как этого достичь, во многом будет опираться на будущие нейробиологические исследования того, как наш собственный мозг стимулирует созидательные и просоциальные цели и результаты внутри нас самих.

Размышляя о множестве путей, благодаря которым ИИ будущего может выиграть от более глубокого понимания нас самих, мы видим впереди как светлое будущее, так и долгий путь. Более полное понимание нейронных сетей, лежащих в основе человеческих способностей, могло бы помочь расширить возможности будущих систем ИИ, однако достижение этого понимания будет непрерывным процессом, в котором по мере решения нынешних задач неизбежно возникнут новые вызовы.

Несмотря на значительные достижения, наша способность создавать искусственный разум все еще находится в зачаточном состоянии. Технологии ИИ будут со временем созревать и развиваться благодаря новому пониманию мозговых механизмов, лежащих в основе наших собственных ментальных способностей. По мере развития этого процесса мы должны стремиться использовать наши знания о собственном разуме, чтобы жить в гармонии друг с другом. Мы также должны стремиться к тому, чтобы ИИ оставался согласованным с человеческими интересами и ценностями. Наша способность достичь этого будет иметь жизненно важное значение для наших перспектив процветания как вида и нашей совместной эволюции с системами ИИ.

Постлюдия: Капли росы на острове

2051 год. Сан-Франциско. Совершив ошеломляющий прорыв, доктор Лайла Сингх-Петерсон создала новый, вдохновленный принципами работы мозга алгоритм обучения для нейронных сетей. Ее алгоритм раскрыл механизмы того, как обучается человеческий мозг, и указал путь к созданию того, что многие считают первым искусственным общим интеллектом. В знак признания ее беспрецедентного вклада она награждается одновременно премией имени Дэвида Румельхарта в области когнитивных наук и премией Тьюринга в области компьютерных наук. Она только что закончила свою благодарственную речь, и ее поздравляют члены различных комитетов. В холле у лекционного зала ее отец Аттикус (которому 102 года) и сын Пракаш (которому 32 года) пьют кофе, ожидая, когда Лайла к ним присоединится.

Пракаш: Ты выглядишь умиротворенным, дедушка!

Аттикус: Именно так я себя и чувствую! Картина, которую Лайла нарисовала, описывая природу нашего разума, дает мне ощущение умиротворения и устойчивости.

Пракаш: Умиротворения и устойчивости? А я думал, ты испытываешь гордость.

Аттикус: Гордости во мне много, но это чувство гораздо глубже. В своем выступлении, когда твоя мама описывала эти нейронные сети, в которых элементы соединяются и взаимодействуют, я вдруг всем существом ощутил свое единство со всем сущим.

Пракаш: Единство со всем сущим?

Аттикус: Мы созданы из той же материи, что и Вселенная. Из звездной пыли. Как и все это вещество в скалах и камнях. На краткий миг наша часть этой материи, организованная в виде нейронных сетей, ожила и позволила нам чувствовать и мыслить. Как и все остальное во Вселенной, это абсолютно механистично, абсолютно естественно и абсолютно прекрасно. Я словно капля росы, которая возникла из водяного пара в воздухе и вскоре снова исчезнет в небе, откуда я и пришел.

Пракаш: И это дает тебе спокойствие?

Аттикус: Это помогает мне понять, что смерти бояться нечего. Я возник из обычной звездной пыли и совсем скоро снова стану обычной звездной пылью, но, по какому-то волшебству, по пути я успел столько всего повидать! (Смеется.) Похоже, ты не согласен?

Пракаш: Я понимаю твою мысль о том, что мы созданы из материи Вселенной. Но мне на ум приходит не идея нашей связи со Вселенной, а, наоборот, идея нашей обособленности.

Аттикус: Обособленности?

Пракаш: Когда мы смотрим на другие миры в нашей галактике, кажется, будто там нет ничего, кроме бескрайней пустоты. Камни и газы — немыслящие и нечувствующие. Это заставляет меня осознать, насколько бесценны наши эмерджентные человеческие нейронные сети. Насколько я могу судить, мы — единственный островок смысла во Вселенной.

Аттикус: Я согласен с тобой. Между моим чувством связи и твоим ощущением обособленности нет никакого противоречия. То, что произошло здесь, на Земле, прекрасно и необычайно.

Пракаш: Это заставляет меня понять, как важно человечеству выжить. Мы знаем, что впереди нас ждут катастрофы: мы можем уничтожить себя ядерным оружием, может случиться эпидемия, или к нам устремятся метеориты — все это способно стереть нас с лица земли в одно мгновение. И даже если мы как-то все это переживем, со временем наше солнце все равно погаснет. Но мы должны все преодолеть. На самом фундаментальном уровне в этом и заключается наше предназначение. А работа мамы указала нам на особый инструмент, который может помочь нам это предназначение исполнить.

Аттикус: Да, мы должны выстоять. Мы все в одной лодке, и успех каждого из нас неразрывно связан с успехом остальных. Нам нужно стремиться быть добрее к себе и друг к другу; нам нужно построить общество, где мы установим барьеры и меры безопасности, которые будут направлять наше поведение — и поведение наших машин. Мы должны стремиться и дальше познавать эту удивительную Вселенную, в которой мы рождены.