В современном мире попасть в секту — пожалуй, худшее, что может с вами случиться. В лучшем случае вы окажетесь в группе искренних, но заблуждающихся людей, которые совершают честную ошибку, но в остальном ведут себя прилично; вы потратите кучу времени и денег и в итоге останетесь ни с чем. Вообще-то, под это описание подходит любой провалившийся стартап из Кремниевой долины. А это, если вдуматься, чертовски тяжелое испытание. Так что да, очень пугающе.

Настоящие секты гораздо хуже. «Бомбардировка любовью» как метод вербовки, нацеленный на людей в состоянии личного кризиса. Депривация сна. Хроническая усталость от изнурительного труда. Удаленные коммуны, чтобы изолировать новичка от друзей и семьи. Ежедневные собрания для исповеди в «нечистых помыслах». Для сект обычное дело — забирать все деньги новобранца (и сбережения, и еженедельную зарплату), заставляя его зависеть от секты в плане еды и одежды. Голод как наказание за непослушание. Серьезное промывание мозгов и серьезный ущерб.

С учетом всего этого мне, наверное, следовало бы больше сочувствовать людям, которые ужасно нервничают, начиная какое-то странное на первый взгляд дело, из-за того, что они могут оказаться в секте. Это не должно действовать мне на нервы. Но действует.

Пункт первый: «секты» и «не-секты» — это не обособленные естественные виды, как собаки и кошки. Если вы посмотрите на любой список признаков секты, вы увидите пункты, которые легко могут описывать политические партии и корпорации: «членов группы поощряют недоверчиво относиться к внешней критике, видя в ней скрытые мотивы», «иерархическая авторитарная структура». Я писал о паттернах групповых ошибок вроде групповой поляризации, счастливых спиралей смерти, некритичности мышления и испарительного охлаждения — все они словно подпитывают друг друга. Когда эти сбои закручиваются в один вихрь и сталкиваются, они соединяются в некий Суперсбой, который глупее любой из своих частей, прямо как Вольтрон. Но это не сущность секты, это сектантский аттрактор.

Собаки рождаются с ДНК собаки, а кошки — с ДНК кошки. В современном мире промежуточных вариантов нет. (Даже с помощью генной инженерии нельзя было бы просто взять и создать организм с половиной собачьих генов и половиной кошачьих). Нет такого, что существует взаимоусиливающий набор собачьих качеств, в который отдельная кошка может забрести наполовину и стать полусобакой.

Человеческий разум, мысля категориями, похоже, предпочитает сущности аттракторам. Человеку хочется сказать: «Это секта» или «Это не секта», и на этом задача классификации решена. Если вы видите, что у Сократа десять пальцев, он носит одежду и свободно говорит по-гречески, то можете сказать: «Сократ — человек», и отсюда сделать вывод: «Сократ уязвим для цикуты», не проводя специального анализа крови для подтверждения его смертности. Вы раз и навсегда определили человеческую сущность Сократа.

Но если вы замечаете, что некая группа людей демонстрирует поляризацию «мы — они» и видит положительный эффект ореола вокруг своего Самого Любимого Дела — которым может быть объективизм, вегетарианство или нейронные сети, — вы не можете на основе собранных на данный момент свидетельств сделать вывод, достигли ли они некритичности мышления. Вы не можете сделать вывод, истинна ли их главная идея, ложна или искренне полезна, но не настолько, как они думают. На основе собранной к этому моменту информации вы не можете сделать вывод, вежливы ли они в остальном или же они заманят вас в изоляцию и лишат сна и еды. Признаки сектантства не обязаны присутствовать или отсутствовать все разом.

Если вы посмотрите на интернет-споры о том, «является ли X сектой» или «не является ли X сектой», то одна сторона берет сетевой список признаков секты, находит тот, который подходит, и заявляет: «Следовательно, это секта!» А защитник находит признак, который не подходит, и заявляет: «Следовательно, это не секта!»

С помощью такого эссенциализма невозможно составить точную картину динамики мышления группы. Вам нужно рассматривать каждый признак в отдельности.

Кроме того, глупость наоборот — это еще не ум. Если вас интересует суть идеи, а не просто группа, которая ее воплощает, то помните, что у умных идей могут быть глупые последователи. Многие сторонники нью-эйджа рассуждают о «квантовой физике», но это не аргумент против квантовой физики. Разумеется, у глупых идей тоже могут быть глупые последователи. Рука об руку с бинарным эссенциализмом идет убеждение, что если вы пришли к выводу, будто группа — «секта», то ее убеждения обязательно должны быть ложными, поскольку ложные убеждения характерны для сект так же, как шерсть — для кошек. Если вас интересует идея, смотрите на саму идею, а не на людей. Сектантство — это характеристика скорее групп, нежели гипотез.

Вторая ошибка заключается в том, что когда люди нервно спрашивают: «Это же не секта, правда?», мне кажется, будто они ищут подтверждения собственной рациональности. Идея о том, что рационалисту не следует слишком привязываться к своему образу рационалиста, заслуживает отдельного эссе (впрочем, см. «Двенадцать добродетелей», «Зачем нужна истина? И...» и «Два сектантских коана»). Но даже без подробностей очевидно, что нервный поиск подтверждений — не лучший психологический настрой для оценки вопросов рациональности. Вы не будете искренне любопытны и не станете искать способы разрешить свои сомнения. Вместо этого вы найдете в интернете какой-нибудь источник, где написано, что секты используют депривацию сна для контроля над людьми, заметите, что Ваша Любимая Группа депривацию сна не практикует, и сделаете вывод: «Это не секта. Фух!» Раз у него нет шерсти, значит, это не кошка. Как обнадеживающе.

Но Любое Движение Стремится Стать Сектой, независимо от того, мудра его цель или глупа. Дихотомия «свой-чужой» и тому подобное — часть человеческой природы, а не какое-то особое проклятие мутантов. Рациональность — это исключение, а не правило. Чтобы удерживать рациональность вопреки естественному сползанию в энтропию, нужно постоянно прилагать усилия. Если вы решите «Это не секта!» и вздохнете с облегчением, вы перестанете прикладывать постоянные усилия, чтобы сдерживать обычные склонности к сектантству. Вы решите, что «сущность секты» отсутствует, и перестанете бороться с энтропией секты-аттрактора.

Если вы жутко боитесь сектантства, вам захочется отрицать любой намек на любые признаки, напоминающие секту. Но любая группа, цель которой видится в позитивном свете, рискует поддаться эффекту ореола и должна бороться с энтропией, чтобы не сорваться в аффективную спираль смерти. Это верно даже для обычных институтов вроде политических партий — например, когда люди думают, что «либеральные ценности» или «консервативные ценности» могут излечить рак и тому подобное. Это верно для стартапов Кремниевой долины, как успешных, так и прогоревших. Это верно для пользователей Mac и пользователей Linux. Эффект ореола не становится нормальным только потому, что ему подвержены все; если все будут прыгать с обрыва, вы же не прыгнете за ними? С ошибками в рассуждениях нужно бороться, а не мириться с ними. Но если вы слишком сильно переживаете: «А вы уверены, что это не секта?», то вам очень не захочется замечать малейшие признаки сектантства, ведь это означало бы, что вы в секте, а Это не секта!! В итоге вы не увидите тех полей сражений, где обычные сектантские тенденции наступают или терпят поражение.

Третья ошибка тех, кто нервно спрашивает: «Это ведь не секта, правда?», заключается в том, что, как я сильно подозреваю, эта нервозность вызвана совершенно не теми причинами.

Почему группы, которые превозносят свою Любимую Штуку до небес, призывают адептов жертвовать все свои деньги и добровольно трудиться в рабских условиях, а также содержат закрытые общины, где члены группы находятся в строгой изоляции, называют «религиями», а не «сектами», стоит им просуществовать несколько сотен лет?

Почему большинство людей, которые нервно спрашивают о крионике: «Это же не секта?», не испытывают такой же тревоги при посещении политического митинга республиканцев или демократов? Дихотомия «свой-чужой» и аффективные спирали смерти могут возникать в политических дискуссиях, в традиционных религиях, в спортивном фанатстве. Если бы эта нервозность проистекала из страха совершить ошибки рациональности, люди точно так же боязливо спрашивали бы на митингах демократов или республиканцев: «Это же не дихотомия "свой-чужой"?».

Есть веская причина бояться либертарианства меньше, чем секты свидетелей летающих тарелок: за либертарианцами не водится славы людей, использующих депривацию сна для обращения неофитов. Но ведь и за сторонниками крионики такая слава тоже не водится. Так почему же беспокоиться о том, что вашу голову заморозят после того, как вы перестанете дышать, сильнее?

Подозреваю, что эта нервозность вызвана вовсе не страхом ошибиться в убеждениях или страхом физического вреда. Это страх одинокого несогласия. То нервное чувство, которое возникает у участников эксперимента Аша на конформность, когда все остальные участники (на самом деле подставные лица) один за другим утверждают, что отрезок C равен по длине отрезку X, хотя испытуемому кажется, что отрезку X равен отрезок B. Страх отбиться от стаи.

Вот почему группы, чьи убеждения существуют достаточно давно, чтобы казаться «нормальными», не внушают такого же беспокойства, как «секты» — хотя некоторые традиционные религии тоже могут забрать все ваши деньги и отправить вас в монастырь. Вот почему такие группы, как политические партии, весьма подверженные ошибкам рациональности, не вызывают той же нервозности, что и «секты». Слово «секта» используется не как символ ошибок рациональности, а как ярлык для всего, что кажется странным.

Не всякое изменение есть улучшение, но всякое улучшение — это обязательно изменение. То, что вы хотите делать лучше, вам волей-неволей придется делать по-другому. Общепринятая мудрость действительно содержит изрядную долю, собственно, настоящей мудрости; да, имеет смысл требовать повышенного бремени доказательств для всякого рода странностей. Но эта нервозность вовсе не является результатом подобного взвешенного, рационального рассуждения. Это страх поверить во что-то, из-за чего друзья станут смотреть на вас очень странно. И потому люди спрашивают: «Это ведь не секта, правда?» — таким тоном, который они никогда бы не использовали, собираясь на политический митинг или вешая гигантские рождественские гирлянды.

Именно это меня и раздражает.

Как будто стоит вам поверить во что-то, во что не верили ваши предки, как с небес спустится Сектантская Фея, вселит в вас Сущность Сектантства, и не успеете вы опомниться, как уже все вместе ходите в балахонах и распеваете песнопения. Как будто «странные» убеждения — это прямая причина всех проблем, а депривация сна и побои тут ни при чем. Вред, наносимый сектами — самоубийство адептов «Врат рая» и тому подобное, — якобы лишь доказывает, что любой человек со странными убеждениями безумен; ведь первая и главная характеристика «сектантов» заключается в том, что они — Чужаки со Странными Обычаями.

Да, социально необычные убеждения подвергают группу риску скатывания к мышлению «свой-чужой», испарительному охлаждению и другим проблемам. Но необычность — это фактор риска, а не болезнь сама по себе. То же самое касается наличия цели, которую вы считаете достойной достижения. Независимо от того, истинно ли убеждение, наличие прекрасной цели всегда ставит вас под угрозу аффективной спирали смерти. Но это делает благородные цели фактором риска, а не болезнью. Некоторые цели действительно заслуживают того, чтобы к ним стремиться.

С другой стороны, я не вижу никаких веских причин для лишения сна или угроз избиения несогласных — и точка. Когда группа так поступает, то независимо от того, назовете вы ее «сектой» или «не сектой», вы получите прямой ответ на сугубо практический вопрос, стоит ли к ней присоединяться.

Проблема четвертая: страх одинокого несогласия — это как раз то, что используют сами секты. Страх перед тем, что друзья посмотрят на вас с осуждением, — это именно тот эффект, который настоящие секты используют, чтобы вербовать и удерживать членов, — они окружают новообращенных сплошной стеной согласия со стороны верующих адептов.

Страх перед странными идеями и стремление к конформизму, без сомнения, уберегли многих потенциальных жертв от сект свидетелей летающих тарелок. Когда вы снаружи, это удерживает вас снаружи. Но стоит вам оказаться внутри, это удерживает вас внутри. Конформизм просто приклеивает вас к тому месту, где вы находитесь, — будь оно хорошим или плохим.

Человеку хочется иметь какую-то возможность быть уверенным, что он не находится в «секте». Какое-то определенное, сокрушительное возражение людям, которые косо на него смотрят. Какую-то возможность раз и навсегда узнать, что он все делает правильно, без этих постоянных сомнений. Кажется, это называется «потребностью в определенности». И — разумеется — секты используют это тоже.

Отсюда и выражение «сектантская антисектантность».

Жить с сомнениями — не добродетель: цель любого сомнения состоит в том, чтобы самоуничтожиться благодаря успеху или поражению, а сомнение, которое просто висит мертвым грузом, ничего не дает. Но порой сомнению требуется время, чтобы самоуничтожиться. Жизнь со стопкой неразрешенных на данный момент сомнений — неизбежная данность для рационалистов. Сомнение не должно пугать. Иначе вам придется выбирать между чертовски загнанной жизнью и жизнью чертовски глупой.

Если вы действительно, искренне не можете понять, является ли группа «сектой», вам просто придется делать выбор в условиях неопределенности. В этом и заключается вся суть теории принятия решений.

Проблема пятая: отсутствие стратегического мышления.

Я знаю людей, которые с осторожностью относятся к сингулярианству, и они также осторожны с политическими партиями и традиционными религиями. Осторожны, а не нервничают и не занимают оборонительную позицию. Этим людям с первого взгляда ясно, что сингулярианство — очевидно, не полноценная секта с лишением сна и прочим. Но они беспокоятся, что сингулярианство станет сектой из-за таких факторов риска, как превращение концепции мощного ИИ в «Суперсчастливого агента» (агента, определяемого главным образом тем, что он соглашается с любым приятным словом в свой адрес). То, что нечто не является сектой сейчас, не означает, что оно не станет ею в будущем. Сектантство — это аттрактор, а не сущность.

Раздражает ли меня такая осторожность? Черт возьми, нет. Я и сам трачу кучу времени на беспокойство по поводу такого сценария. Я стараюсь расставлять свои камни для го заранее, чтобы заблокировать движение в этом направлении. Отсюда, к примеру, и серия эссе о сектантских ошибках в рассуждениях.

У людей, которые рассуждают о «рациональности», также есть дополнительный фактор риска. Давать людям советы о том, как думать, — дело само по себе опасное. Но это фактор риска, а не болезнь.

Оба моих любимых дела подвержены риску сектантства. Но почему-то вопрос «Вы уверены, что это не секта?» мне задают гораздо чаще, когда я говорю о мощном ИИ, нежели когда я рассуждаю о теории вероятностей и когнитивных науках. Не знаю, какой из факторов риска выше, но я точно знаю, какой из них звучит более странно...

Проблема № 6 с вопросом «Это ведь не секта, правда?»...

Сам этот вопрос ставит меня в крайне досадную ситуацию «Уловки-22». Настоящий Злой Гуру наверняка использовал бы нервозность человека против него самого и выстроил бы убедительный, сложный аргумент, объясняющий, почему это не секта, а человек с готовностью бы его принял. Иногда у меня складывается впечатление, что люди хотят от меня именно этого! Всякий раз, когда я пытаюсь писать о сектантстве и о том, как его избежать, меня не покидает чувство, будто я потакаю этому порочному желанию — будто в конечном счете я даю людям успокоение. Даже когда я говорю им, что необходима постоянная борьба с энтропией.

Такое ощущение, будто я выставляю себя первым несогласным в эксперименте Аша на конформизм, говоря людям: «Да, отрезок X действительно равен отрезку B, вы тоже можете так сказать». Им не нужно спрашивать об этом! Или, что еще хуже, мне кажется, будто я привожу изощренное доказательство того, почему это не секта. Это неправильный вопрос.

Просто сами взгляните на процессы мышления в группе и сами решите, хотите ли вы быть ее частью, избавившись от страха перед странным. Не допускать у себя сектантского мышления — это ваша личная ответственность, в какой бы группе вы сейчас ни состояли.

Стоит кому-то спросить: «Это ведь не секта, правда?», как вне зависимости от моего ответа я начинаю чувствовать, будто защищаюсь. Мне не нравится это чувство. В обязанности байесовского мастера не входит успокаивать, а в обязанности рационалистов — защищаться.

Секты питаются групповым мышлением, нервозностью, жаждой успокоения. Нервозность нельзя прогнать одним лишь желанием, а ложная самоуверенность еще хуже. Но пока человеку нужно успокоение — пусть даже успокоение в том, что он рационалист, — в его доспехах всегда будет брешь. Умелый мечник концентрируется на цели, а не оглядывается по сторонам, чтобы проверить, не смеется ли кто над ним. Когда вы знаете, чего пытаетесь достичь и зачем, вы будете понимать, получается ли у вас это или нет, и помогает ли вам группа или мешает.

(P. S. Если человек придет к вам и спросит: «Ты уверен, что это не секта?», не пытайтесь объяснить все эти концепции на одном дыхании. Вы недооцениваете инференциальную дистанцию. Человек скажет: «Ага, то есть ты признаешь, что вы секта!» или «Погоди, ты хочешь сказать, что мне не стоит беспокоиться из-за вступления в секту?» или «То есть... страх перед сектами — это сектантство? По-моему, звучит жутко сектантски». Так что последний раздражающий фактор — № 7, если вы ведете счет, — заключается в том, что все это слишком долго объяснять.)

*