Когда одному из авторов этой книги, Гаураву, исполнилось четырнадцать лет, родители подарили ему на день рождения сумму, эквивалентную примерно пятидесяти долларам. Этих денег хватало либо на джинсы-клеш — абсолютный писк моды для любого подростка того времени, — либо на то, чтобы забронировать место в долгожданной школьной поездке вместе со многими своими друзьями. Проблема заключалась в том, что он мог выбрать только что-то одно, хотя ему безумно хотелось и то, и другое. Нужно было принимать решение. И вот тем вечером он стиснул зубы и сделал выбор: он поедет в эту поездку. Джинсы, в конце концов, могли и подождать. Он чувствовал уверенность в том, что поступает правильно.

Но на следующее утро произошло нечто неожиданное: Гаурав проснулся с твердой уверенностью, что ему следует выбрать джинсы. Сами варианты выбора ничуть не изменились, и тем не менее его решение переменилось. Эти колебания, повторявшиеся в течение следующих нескольких дней, сильно его озадачили. В то время он только начинал работать с компьютерами и представлял себе разум как своего рода компьютер, работающий на основе логических принципов. Что это за компьютер, который вечером выдает один ответ, а утром — другой? Как могут ответы, основанные на логике, меняться без видимой причины? И если его мысли и предпочтения не были результатом логики и разума, то чем же они тогда были?

Гаурав столкнулся с некоторыми из вечных вопросов человечества: как возникают наши мысли? Почему мы поступаем так, как поступаем? Можем ли мы доверять собственным мыслям? И в более широком смысле: что такое разум и как он работает?

Общепринятые представления о разуме (и их ограниченность)

Что такое разум? Мы можем рассматривать его как нечто внутри нас, что порождает наши мысли, восприятие, воспоминания, чувства, решения и действия. Но что это такое на самом деле? Откуда он берется? Здесь мы кратко рассмотрим несколько распространенных концепций и их ограничения.

Одно из представлений о разуме основано на наших религиозных традициях, многие из которых сходятся во мнении, что разум берет свое начало в божественной материи или духовной субстанции, способной одушевить человеческую плоть и превратить ее в личность. Понять истоки этой идеи несложно: человеческая плоть кажется прозаичной и лишенной разума. Как она вообще способна породить интеллект? Разум наверняка должен исходить из чего-то другого — чего-то неведомого, неземного. Чего-то, что связывало бы нас с бессмертным, священным и исполненным смысла. Чего-то божественного.

Проблема в том, что хотя возведение разума к чему-то вечному — идея волнующая и даже красивая, она не дает реального объяснения того, что такое разум и как возникают мысли. Вместо этого разум трактуется как некая невыразимая сущность, не поддающаяся дальнейшему пониманию. Если же наша цель — понять, как именно разум порождает мысли и все остальное, что мы ему приписываем, то останавливаться на этом никак нельзя.

Согласно второй концепции, разум представляет собой набор убеждений и желаний, сформулированных в виде предложений. Например, утверждение «Люди с ученой степенью зарабатывают больше» — это пример убеждения. Соответственно, «Я хочу в конце концов устроиться на высокооплачиваемую работу» — это пример желания. Кажется вполне логичным, что убеждения и желания могут взаимодействовать, рождая намерения и действия. Если нас спросят, почему мы решили поступить так, а не иначе, мы сошлемся на убеждения и желания, которые, судя по всему, и подтолкнули нас к этому решению. Почему мы подали документы в аспирантуру? Ответ может быть таким: «Чтобы получить более высокооплачиваемую работу». Возможно, работа разума сводится к взаимодействию убеждений и желаний для формирования целей, которые затем направляют наше поведение.

Одно из ограничений модели «убеждение — желание» заключается в том, что она не объясняет, откуда эти самые убеждения и желания берутся. Как столь абстрактные вещи, как убеждения и желания, могут возникать в результате физических процессов, происходящих в нашем мозге, и как они могут порождать физические действия, включая движения, поступки и речь? Более того, эта модель не объясняет, почему люди зачастую действуют вопреки своим убеждениям и желаниям. Например, пациенты нередко не принимают жизненно важные лекарства, а сотрудники не открывают пенсионные счета, критически важные для их финансового будущего. И это происходит вопреки тому, что данные люди искренне верят в эффективность лекарств и желают безопасности, которую обеспечивают пенсионные накопления. И тем не менее они бездействуют.

Еще одна концепция представляет разум в виде программного обеспечения, которое получает данные из внешнего мира и применяет к ним набор правил — возможно, выработанных в ходе эволюции. И действительно, в некоторых случаях работа разума выглядит как применение правил: если у животного есть крылья и оно умеет летать, мы, скорее всего, классифицируем его как птицу; мы выбираем конкретное блюдо в меню ресторана, поскольку считаем, что оно принесет нам наибольшую выгоду по сравнению с другими вариантами; и мы предсказываем, что формой прошедшего времени для недавно изобретенного глагола вроде fax будет faxed, в соответствии с простым правилом, гласящим, что прошедшее время любого слова, относящегося к глаголам, образуется путем добавления ed.

Проблема с представлением о разуме как о программном обеспечении заключается в том, что оно не позволяет нам продвинуться далеко в его понимании. Да, многие птицы умеют летать, но мы все равно способны распознать птицу, которая летать не умеет. Да, мы часто выбираем те блюда из меню, которые нам нравятся больше, однако на наш выбор нередко влияют переменные, никак не связанные с истинной ценностью, — например, находится ли это блюдо в верхней части страницы. И да, мы часто добавляем окончание ed для образования прошедшего времени, но существует множество неправильных глаголов, с которыми это правило не работает (например, sleep превращается в slept). Еще одно важнейшее ограничение подобных моделей состоит в том, что они так и не привели к созданию работающих систем искусственного интеллекта. Подход, который мы представляем в книге «Эмерджентный разум», оказался гораздо более успешным.

Последняя концепция, с которой мы часто сталкиваемся, представляет различные аспекты разума как зависящие от отдельных «специалистов», каждый из которых располагается в своей специализированной области мозга. Согласно этой точке зрения, мы двигаемся благодаря областям мозга, специализирующимся на движении, мы видим благодаря областям мозга, специализирующимся на зрении, у нас появляется мотивация благодаря областям мозга, специализирующимся на мотивации, мы говорим благодаря областям мозга, специализирующимся на языке, а в некоторых версиях подобных объяснений мы мыслим, полагаясь на специализированные области, которые мыслят.

Неоспоримо, что области мозга демонстрируют определенную степень специализации. Вопрос в том, что именно порождает эту специализацию? Один из подходов, который отстаивает философ Джерри Фодор в своей книге «Модульность разума», заключается в том, что эта специализация возникает благодаря особым внутренним свойствам данных областей мозга, отобранным эволюцией для выполнения вычислений, специализированных под решаемые ими задачи. Хотя области мозга в какой-то мере действительно отличаются друг от друга по своему внутреннему строению, точка зрения, которую мы представляем в книге «Эмерджентный разум», состоит в том, что подобная специализация во многом является следствием различий во входящих и выходящих связях разных областей мозга. Например, часть мозга, называемая зрительной корой, играет важную роль в зрительном восприятии, поскольку получает особенно сильный сигнал от глаз. Это наводит на мысль, что изменение сигнала, поступающего в ту или иную область мозга, должно приводить к изменению функции, выполняемой этой областью. И действительно, люди, чья зрительная кора не получает зрительных сигналов из-за врожденной слепоты, приспосабливают эту часть мозга на выполнение незрительных задач, таких как обработка слуховых или тактильных сигналов, которые также частично поступают в эту область.

Вместо того чтобы рассматривать разум как набор жестко специализированных модулей, этот подход предлагает нам увидеть в нем адаптивную систему, формируемую опытом, обучением и требованиями окружающей среды. Такой подход помогает объяснить существование того, что некоторые ученые называют «областью зрительной формы слова» — области мозга, которая, по-видимому, специализируется на чтении печатных, визуально представленных слов. Неправдоподобно предполагать, будто эволюция отобрала эту область именно для чтения, ведь чтение и письмо были изобретены всего около пяти тысяч лет назад. Пять тысяч лет — слишком короткий срок, чтобы эволюция могла создать специализированный модуль чтения посредством естественного отбора.

И тем не менее у людей, научившихся читать, эта область мозга действительно специализируется на чтении. Почему? Чтение во многом зависит от различения мелких зрительных деталей, таких как различия между очень похожими буквами. Область зрительной формы слова получает сильные сигналы от других нейронов в зрительных отделах мозга, которые обеспечивают наивысшую чувствительность к деталям, — и поэтому она вовлекается в процесс чтения. У людей, не умеющих читать, эта область специализируется на других задачах, также зависящих от различения мелких деталей, например на распознавании лиц людей. Подобные открытия подтверждают наш взгляд на специализацию мозга как на процесс, формируемый опытом и зависящий от входов и выходов различных его областей, а не как на набор предопределенных эволюцией узкоспециализированных функций.

Мы рассмотрели несколько концепций разума, каждая из которых обладает ограниченной объяснительной силой. Теперь мы переходим к концепции, которая проложила путь к гораздо более глубокому пониманию нашего разума и сделала возможным подъем искусственного интеллекта: к представлению о разуме как о явлении, возникающем в нейронной сети.

Что такое нейронная сеть?

Столкнувшись с ограничениями привычных представлений о разуме, некоторые ученые и математики попытались подойти к его пониманию принципиально иным путем. Они предположили, что было бы продуктивно начать понимать результаты работы разума (то есть наши мысли и действия), отслеживая передачу сигналов внутри сетей нейронов в нашем мозге. Мозг состоит из миллиардов клеток, называемых нейронами. Нейрон — это фундаментальный строительный блок, отвечающий за обработку и передачу информации внутри мозга и всей остальной нервной системы.

На базовом уровне нейроны выполняют весьма понятные вещи: (1) они могут активироваться — то есть генерировать короткие электрические импульсы, называемые потенциалами действия; (2) они могут передавать сигналы другим нейронам, с которыми они связаны; и (3) они могут создавать или регулировать силу связей с другими нейронами.

Теперь давайте попробуем представить себе сеть нейронов. Изображать настоящие нейроны довольно громоздко, поэтому мы можем договориться обозначать их кружками, которые назовем элементами. Некоторые из этих элементов связаны друг с другом, и мы можем обозначить эти связи, нарисовав стрелки между ними. Элементы, которые активируются при получении сигналов из внешнего мира, мы можем назвать входными, элементы, которые отправляют сигналы во внешний мир, — выходными, а элементы, не имеющие контакта с внешним миром, — скрытыми. Вот она и готова — нейронная сеть (рисунок 1.1).

Рисунок 1.1. Типичная нейронная сеть.

Как мы можем использовать подобную нейронную сеть, чтобы начать понимать разум? Чтобы проиллюстрировать, как это возможно, давайте представим автобус, несущийся на пешехода на переходе. Представив мозг пешехода в виде нейронной сети, мы можем вообразить, что сигналы, обнаруживающие крупный движущийся объект, передаются через глаза на входные элементы, те посылают сигналы скрытым элементам, а те, в свою очередь, дают сигнал выходным элементам, которые заставляют мышцы ног пешехода сократиться и отскочить в сторону. Здесь стрелки указывают направление передачи сигналов. Например, входные элементы влияют на скрытые элементы, и между ними стоят стрелки, направленные вперед.

Обратите внимание, что это объяснение опирается на те действия, которые, как нам известно, способны выполнять нейроны. Оно предполагает, что наши нейроны, ни один из которых по отдельности не способен думать о том, как увернуться от несущегося автобуса, могут совершить такое действие, посылая сигналы и активируя друг друга. Подход с точки зрения нейронных сетей предполагает, что все мысли и действия разума возникают благодаря взаимодействию между нашими нейронами. И ничего больше нет.

Разумеется, передача сигналов между нейронами в мозге устроена гораздо сложнее, чем может показаться из этого упрощенного примера. Но мы можем продвинуться вперед, опираясь всего на несколько аспектов этого процесса. Во-первых, нейроны могут изменять частоту, с которой они генерируют свои потенциалы действия, — это можно представить как градуированную степень активации. Во-вторых, каждый нейрон может получать сигналы от множества других нейронов. По крайней мере, в первом приближении нейроны суммируют активации, получаемые от других нейронов, и чем больше сумма этих входящих сигналов, тем сильнее активация. В-третьих, нейроны создают связи и меняют их силу в зависимости от опыта. Например, знакомство с новым человеком может создать связи между нейронами, представляющими лицо этого человека, и нейронами, представляющими его имя. Эти связи могут укрепляться при повторных встречах. Сильная связь между двумя нейронами заставляет их оказывать более мощное влияние друг на друга.

Множество нейронов, активирующихся в разной степени и одновременно влияющих друг на друга через связи различной силы, — все это может оказаться слишком сложным для отражения на одной схеме. Однако один из нас, Джей Макклелланд, натолкнулся на зрительный образ, который помог ему сформировать четкое представление о различных одновременно протекающих операциях в нейронной сети (рисунок 1.2).

Рисунок 1.2. Ручей, впадающий в заводи, отражает некоторые из одновременно протекающих процессов в нейронной сети.

В то время Джей был молодым ассистентом профессора, пытавшимся понять разум не как систему, опирающуюся на дискретные идеи, рассматриваемые шаг за шагом, а как систему непрерывной обработки информации, подверженную множеству воздействий разной силы. Во время похода по Йосемитскому национальному парку, где другие люди видели лишь ручей, последовательно стекающий в различные заводи, Джей разглядел метафору этих непрерывных процессов в разуме. Он мысленно соотнес различные заводи с различными мыслями. Количество содержащейся в них воды соответствовало уровню их активации. Каждая заводь могла получать воду из нескольких других заводей, и уровень воды в ней зависел от суммирования этих различных притоков. Некоторые заводи соединялись с другими глубокими или широкими протоками, несшими много воды, тогда как остальные — ручейками не толще тонкой струйки. Эти протоки напоминали связи разной силы, соединявшие мысли друг с другом. Он понял, что эта метафора помогла ему представить разум как нейронную сеть, и вскоре начал строить модели, частично руководствуясь этой интуицией.

Метафора Джея, как и все метафоры, не идеальна, но, помимо иллюстрации процессов в нейронной сети, ее механистическая природа указывает на интригующую возможность: работу разума можно понимать как физический процесс — подобно воде, текущей под гору, или растениям, тянущимся к свету, — а не как проявление какой-то загадочной сущности. Может ли это быть отправной точкой для понимания всех тайн разума?

Эмерджентность разума в нейронной сети

На данном этапе вы, возможно, начинаете соглашаться с тем, что нейронная сеть потенциально предлагает путь к пониманию разума. И все же вы можете по-прежнему сомневаться в том, что мысль возникает в результате взаимодействия нейронов, ни один из которых сам по себе думать не способен.

Наше главное утверждение в этой книге заключается в том, что мышление эмерджентно возникает из компонентов, которые сами по себе не способны думать.

Примеры помогают понять эмерджентность. Одно из самых великолепных проявлений эмерджентного поведения — скоординированный полет целой стаи птиц, чаще всего скворцов или ласточек. Стая представляет собой стремительно летящее единое целое, которое пульсирует и изгибается волнами, создавая завораживающий балет в небе (рисунок 1.3). Наблюдая за этой мурмурацией, легко поддаться ощущению, будто стая — это единое целое, обладающее собственным разумом, который каким-то образом координирует движения каждого отдельного участника.

Но здесь нет никакого направляющего разума. Каждая птица просто взаимодействует с небольшим числом соседей, обычно находящихся на определенном расстоянии. Каждая птица реагирует на изменения направления и скорости полета своих ближайших соседей. Эти локальные взаимодействия создают эффект домино: незначительное изменение полета одной птицы может распространиться по всей стае, приводя к грациозному, скоординированному движению. Ни одна птица ничего не знает об этих общих движениях стаи — они возникают эмерджентно.

Это похоже на мокрость воды. Ни одна молекула воды сама по себе не обладает свойством мокрости. Влажность возникает эмерджентно из-за электрического взаимодействия молекул воды друг с другом и с любой поверхностью, с которой они соприкасаются. Эмерджентность также может проявляться в группах людей — так, группа может оказаться способной на такую жестокость, на которую не способен ни один из ее членов, действующий в одиночку.

Рисунок 1.3. У завораживающих и сложных узоров, создаваемых птичьими стаями, нет руководителя. Они возникают эмерджентно из относительно простого поведения каждой отдельной птицы.

В этой книге мы опишем — не прибегая к математике или техническим деталям, — как многие вещи, которые мы приписываем нашему разуму, такие как мысли, решения и эмоции, могут эмерджентно возникать из взаимодействия нейронов. Мы многого не понимаем в том, как именно происходят эти процессы, но модели, построенные нами и другими исследователями, а также многое из того, что мы узнали о мозге, начали показывать нам, как наши переживания, мысли и действия могут возникать внутри нейронной сети.

Преобразующее путешествие

Любопытство Гаурава относительно природы его собственных решений в конце концов привело его в докторантуру Стэнфордского университета. К тому времени он уже был знаком с нейронными сетями и эмерджентностью. Интуитивно он чувствовал, что это мощные идеи, но еще не мог полностью связать их с вопросами, которые его глубоко волновали.

Затем в один прекрасный день Гаурав пришел на семинар, который вел Джей Макклелланд, бывший к тому времени уже заслуженным профессором.

Что поразило Гаурава в Джее, так это бескомпромиссная конкретность его подхода. В нем не было места попыткам обойти важные детали общими фразами, апелляциям к непостижимым теоретическим концепциям, спекуляциям или введению удобных подгоночных коэффициентов. Вместо этого Джей выбирал явление, которое хотел понять, четко формулировал базовые принципы и допущения, а затем прозрачно применял их, чтобы рассчитать активацию нейронной сети при заданном наборе входных данных. Гаурав отправился к Джею, чтобы лучше разобраться в его методе.

Первое явление, которое Джей описал Гаураву, было связано с извлечением информации о группе людей. Это была разработанная Джеем нейронная сеть, которую мы описываем в главе 4. Гаурав тщательно проследил за активациями в сети и, к своему восторгу, понял, что нейросеть способна делать умозаключения. Эта способность не была заложена в нее изначально; напротив, она возникла благодаря взаимодействию элементов сети. Это был преобразующий опыт. Сидя за своим столом, он, помнится, сказал себе: «Я больше никогда не буду думать о разуме так, как раньше».

Наша цель в «Эмерджентном разуме» — воссоздать этот преобразующий опыт для наших читателей.

Чтобы достичь этой цели, мы отобрали результаты экспериментов с людьми, животными и искусственными нейронными сетями, которые проливают свет на важные аспекты человеческого разума. Эти примеры касаются того, как мы воспринимаем, формируем понятия, принимаем решения, испытываем эмоции, проявляем самоконтроль, используем и понимаем язык и даже как мы мыслим и рассуждаем. Каждое открытие, которое мы стремимся объяснить, опирается на обширную базу экспериментов, и эти экспериментальные данные можно использовать для оценки объяснительной силы нейросетей, которые мы будем строить.

Дополнительный плюс: понимание ИИ

Для нас стремление понять собственный разум — это само по себе возвышенное дело, не требующее иных стимулов, кроме самой ценности познания себя. Но оказывается, что постижение разума через призму нейронных сетей несет в себе полезный и неожиданный бонус: человек обретает понимание современных систем искусственного интеллекта, которые основаны на тех же принципах работы нейронных сетей, что изначально разрабатывались с целью понять человеческий разум.

Сегодняшние системы ИИ далеко превзошли ранние попытки создать машины, способные распознавать объекты на изображениях. Они могут переводить с одного языка на другой, улавливая все нюансы сообщения, превосходят человеческие возможности в играх, требующих глубокой интуиции (таких как го), и ведут естественный, похожий на человеческий диалог на практически неограниченный круг тем. Список этих впечатляющих прорывов, весьма вероятно, продолжит расти в ближайшие годы.

В пылу всеобщего восторга по поводу этих прорывов как-то затерялось понимание того, что системы машинного обучения, демонстрирующие подобные способности, представляют собой не что иное, как нейронные сети, во многом схожие с моделями, которые мы и другие исследователи уже более пятидесяти лет используем для воспроизведения ключевых аспектов человеческого разума. Их интеллект опирается на вдохновленные структурой мозга концепции совокупностей нейроподобных элементов, возбуждающих и тормозящих друг друга через связи. Несмотря на десятилетия усилий, предыдущие версии ИИ, которые опирались на символы, обозначающие объекты и отношения в соответствии со сводами правил, так и не достигли того уровня интеллекта, которым сегодня обладает ИИ на базе нейронных сетей.

Более того, нейронные сети в ИИ также демонстрируют эмерджентные свойства (свойства, присущие системе в целом, но отсутствующие у любого из ее компонентов). Так, например, они ведут себя в соответствии с правилами, которым их никто явно не учил, и улавливают такие языковые нюансы, какие никогда не удавалось зафиксировать с помощью явных систем правил или вычислительных алгоритмов, запрограммированных непосредственно людьми. Порой они даже заставляют людей поверить, что перед ними разумные существа, подобные человеку.

У этих систем все еще много недостатков, но, по всей видимости, они продолжат совершенствоваться. Чтобы понять эти новые, подобные разуму системы, возникшие среди нас, будет полезно развить хорошую интуицию в отношении нейронных сетей и их эмерджентных свойств.

В оставшейся части книги мы подробнее исследуем концепцию эмерджентности и детально рассмотрим свойства реальных и искусственных нейронных сетей. Мы опишем, как эти сети позволяют нам воссоздать многие аспекты человеческого опыта, мышления и поведения и как они привели к созданию машин, обладающих подчас сверхчеловеческими возможностями. Мы взвесим их сильные и слабые стороны, наметим пути, которые еще предстоит исследовать, и поразмышляем о том, что все это значит для нас самих, для наших систем искусственного интеллекта и для того, как нам лучше ладить друг с другом и с нашими машинами.

Путь, на который мы приглашаем вас вступить, предполагает понимание эмерджентности интеллекта — будь то биологический разум человека или искусственный интеллект машины.

Интерлюдия: «Это не я»

Июнь 2023 года. Нью-Йорк. Т. Дж. Келлехер, научный редактор издательства Basic Books, провел вторую половину дня в своем манхэттенском офисе, рецензируя заявку на книгу «Эмерджентный разум». Теперь он заглянул в бар Jimmy’s на 44-й улице, чтобы выпить после работы. Другой посетитель, художник по имени Пабло, узнав, чем занимается Т. Дж., спрашивает, не попадались ли ему в последнее время интересные книжные проекты.

T. J.: Вообще-то есть одна. В этой книге утверждается, что все наши мысли и чувства рождаются в клетках мозга. По мнению авторов, все, что мы собой представляем, все, что мы делаем, — по сути, все наше «я» — обеспечивается этими клетками. Они говорят, что больше ничего нет.

Pablo: (Энергично качая головой.) О-о, я думаю, вам не стоит издавать такую книгу. Ни в коем случае!

T. J.: Не стоит?

Pablo: Позволь я расскажу тебе историю, которая тебя убедит, идет? Это случилось со мной на самом деле. Однажды в художественном классе к нам пришел нейробиолог из Нью-Йоркского университета со множеством зарисовок клеток мозга — нейронов, как он их называл. Он хотел сделать арт-проект, подчеркивающий их красоту. Он даже дал нам посмотреть на них в микроскоп, и...

T. J.: Нейроны действительно очень красивы. Сантьяго Рамон-и-Кахаль...

Pablo: Да, точно. Он показывал нам рисунки Рамон-и-Кахаля. Но вот в чём штука: он хотел создавать арт-проекты с нейронами именно потому, что верил, будто наш разум рождается из этих штук. Никто ведь не хочет делать арт-проекты о клетках почек! Нейроны интересны и даже красивы потому, что из них якобы возникает наше «я». Ведь именно об этом тебе и говорят эти авторы, так?

T. J.: Верно.

Pablo: И я помню, как смотрел на эти рисунки, качал головой и говорил: «Нет, нет, нет. Я необъятен. Мои мысли — это гораздо больше, чем электричество в нейронах. Эти жалкие крошечные штучки не могут быть мной».

T. J.: Почему?

Pablo: Я отвечу тебе так же, как ответил ему! Я просто задал ему простой вопрос. Я спросил, может ли он объяснить, как наш разум может возникать из этих нейронов.

T. J.: И что он ответил?

Pablo: Ему совершенно нечего было ответить. Он не мог даже начать объяснять, как нейроны позволяют нам воспринимать мир, чувствовать эмоции, принимать решения, понимать концепции или заниматься математикой. Пока кто-нибудь убедительно не объяснит, как разум возникает из мозга, нам лучше помалкивать на эту тему.

(T. J. кивает и молча смотрит на свой бокал.)

Pablo: (Повернувшись на барном стуле к T. J.) О чём ты думаешь?

T. J.: Я думаю о том, что если уж мне предстоит принять «Эмерджентный разум», то авторам лучше бы иметь план, как начать отвечать на вопросы, которые ты задаёшь.