Человечество проделало путь от относительно медленного обмена информацией через книги и личное общение до информационного бума всего за каких-то тридцать лет. Информационная революция не только не закончилась, она еще даже толком не разогналась, но идет со значительным ускорением. Мы еще только в самом начале пути.

Изменения не наступят внезапно одним прекрасным или ужасным утром. Мы будем в течение нескольких лет неумолимо втягиваться в эру тотальной автоматизации и искусственного интеллекта.

Мир вокруг будет меняться стремительно. Он буквально за одно-два десятилетия изменится кардинально, настолько, что материальные ценности вроде недвижимости, денег, пенсионных накоплений, а также некоторые нематериальные, вроде образования и карьеры потеряют всякую актуальность. Возникнет информационная постдефицитная экономика, каждому будет гарантирован минимум материальных благ, необходимых для жизнедеятельности. Неизбежный прогресс в биохимии, многократно ускоренный использованием в науке искусственного интеллекта, позволит создать способы сначала замедлить старение, а в перспективе при помощи биохимической реконструкции вернуть пожилого человека в молодое и здоровое состояние и поддерживать в нем неограниченно долго.

Компьютеры, способные значительно лучше людей выполнять любую интеллектуальную работу, заменят людей не только в цехах заводов и фабрик, но и в конструкторских бюро, научных лабораториях. Даже, кажущаяся востребованной в эпоху будущей тотальной компьютеризации, профессия программиста обречена, компьютеры научатся писать программы для других компьютеров, а также для самих себя в рамках программы самосовершенствования.

Сначала мы отвыкнем управлять автомобилями целиком доверив свою жизнь автопилоту и даже будем протестовать против права управления транспортом живым человеком в ручном режиме, мотивируя это требованиями безопасности, справедливо аргументируя тем, что человек часто ошибается, а машина крайне редко. Я уже мысленно представил инициированные ГОНГО-организациями протесты против наличия в автомобилях ручного управления.

Все больше и больше решений мы будем доверять компьютерам, постепенно исключая из различных систем управления самые ненадёжные её элементы – людей. Со временем появятся цифровые помощники в государственных органах для принятия жизненно важных решений, силовых ведомствах для предупреждения преступлений, судах для принятия справедливых и непредвзятых решений, не зависящих от моральных качеств и компетентности судей и т.п.

Это неотвратимо и не зависит от нашего желания, если только человечество не решит начать обратный эволюционный процесс, вернуться в пещеры и снова начать осваивать каменные орудия.

Прогресса невозможно избежать в принципе. Вопрос лишь в том, кто это все будет контролировать.

Вначале решения искусственного интеллекта будут многократно перепроверять. Но по мере того, как люди будут убеждаться в их высокой эффективности, бдительность притупится и будет всё меньше и меньше контроля со стороны людей. Это как раз не страшно, опасение возникает не в отношении качества принимаемых решений, а в том, в чьих интересах синтетический мозг будет генерировать эти сверхэффективные решения.

Сначала это произойдет в одной стране, которая получит серьезное стратегическое преимущество, избавившись от нерациональных государственных решений. Преимущество это будет во всех сферах, от экономики и вооруженных сил, до культуры, образования и демографии. Дальше тренд начнёт распространяться по всему миру.

Будущий мир непременно будет цифровым и только от нас зависит будет ли это цифровой тоталитаризм и рабство для большинства людей или это будет цифровая демократия.

Сейчас очень часто и много рассуждают о порабощении человечества искусственным суперинтеллектом в его гипотетическом стремлении захватить абсолютную власть над человечеством. По моему предельно скромному мнению, крайне глупо в XXI веке наделять человеческими чертами предметы, животных, природные явления и пр., уподобляясь нашим пещерным предкам. Отрицательные человеческие свойства, такие как агрессия, злость, зависть, жадность, стремление к власти и др. являются исключительно результатом эволюции человека и сформировались в процессе естественного отбора, в борьбе за выживание. Эти чувства не могут спонтанно возникнуть в машине, т.к. крайне нерациональны и невыгодны, не имеют для искусственного мозга никакого практического смысла. Но это не значит, что кто-то из людей не может запрограммировать мыслящую машину на злонамеренные действия.

Опасаться нужно не синтетического супермозга как такового, а людей, в чьих интересах он будет действовать. Термоядерная боеголовка сама по себе вещь вполне безобидная пока спокойно лежит на складе боеприпасов. Она даже взорваться сама по себе не может, т.к. для её подрыва нужно приложить немалые усилия нескольких десятков людей. Также и синтетический мозг, конструктивно лишенный собственной воли к власти (мы же не будем, находясь в здравом уме, изначально снабжать его такой опцией, ведь правда?), будет лишь мощным оружием в руках людей.

Бояться нужно не уничтожения людей машинами в грандиозной битве, а гигантскими возможностями по управлению поведением миллионов и миллиардов людей. Искусственный разум будет способен анализировать эмоциональное состояние каждого отдельного человека и подобрать ключик к его психике. Он будет способен действовать также в огромных масштабах, в гораздо большей степени, чем все марксы, ленины, геббельсы, прохановы и дугины вместе взятые, для чего конструировать сверхэффективные способы управления массовым сознанием.

Одной из угроз, связанных с использованием искусственного интеллекта, является массовая генерация и распространение фейковых новостей, провокационных сообщений от несуществующих личностей. Чтобы уменьшить население на несколько миллионов человек, ИИ не требуется выпускать машины-убийца на охоту, достаточно организовать массовые убийства одних людей другими. Искусственный интеллект сможет легко генерировать гигантские объемы текстов, которые будут выглядят достаточно реалистично, чтобы обмануть людей, и побудить их к действиям.

Люди — чрезвычайно социальные животные, с рождения и до самой смерти живущие в социальном окружении, в котором наше существование, комфорт и размножение зависит от взаимоотношений с другими людьми. Наш интеллект появился в процессе эволюции как инструмент социального мышления, ĸаĸ для сотрудничества, так и для соперничества.

Используя присущий каждому человеку древний стадный инстинкт, искусственный интеллект сможет просто фантастически эффективно управлять человечеством в интересах небольшой группы людей, элиты цифрового мира. Используя обширные знания о человеческой психологии, управлять людскими массами буквально как при помощи пульта дистанционного управления.

Возможности искусственного мозга в тысячи и миллионы раз превзойдут аналогичные возможности любых существовавших ранее в истории пропагандистских государственных машин и религиозных культов. Последствия таких манипуляций могут быть как прекрасные, так и совершенно ужасными. С человеком можно сделать абсолютно все, сделать его трусливым бесхребетником или агрессивным животным, возможно даже подавить базовые врождённые программы, называемые животными инстинктами – страх, отвращение, родительский инстинкт, пищевой инстинкт.

При определенной психологической обработке возможно даже подавить самый сильный инстинкт человека – чувство самосохранения, толкнув его на самоубийство.

В России старообрядцы-беспоповцы практиковали коллективное самоубийство путем самосожжения, добровольного отказа от воды и пищи и самоутопления. Такое повторялось много и много раз, и не только во времена темного мракобесного средневековья.

В 1945 году японское население острова Сайпан послушалось приказа массово лишить себя жизни во имя императора и более 22 тысяч гражданских лиц прыгали со скал, топились в море, закалывали себя ножами. Все это происходило на глазах у шокированных американских военных.

После того, как лидер религиозной секты "Храм народов" Джим Джонс в 1978 году собрал всех своих фанатичных последователей и отвез в Гайану, где они основали коммуну Джонстаун. Сразу после того, как Джонс был обвинен в насильственном удержании в общине граждан США, пытках и жестоком обращении с детьми, тысяча человек в один день покончили свою жизнь самоубийством по первому же призыву религиозного фюрера. Высадившиеся в Джонстауне журналисты, полицейские и военные нашли лишь мертвые тела, лежавшие в обнимку или держащиеся за руки, детей, убитых своими же матерями.

Убивать других за светлые идеалы для одурманенного политической или религиозной пропагандой человека гораздо проще, чем умирать самому.

Крестоносцы и последовавшие за ними добрые христиане, с официального одобрения Римского Святого Престола, массово убивали мусульман, язычников и таких же как они христиан, но считавшихся еретиками. Тысячи катаров, гуситов и вальденсов были убиты после ужасных садистских пыток только потому, что верили в Христа неправильно, с точки зрения Папы и Римской церкви.

Кайзеровские колониальные солдаты в 1904—1908 годах в Германской Юго-Западной Африке (на территории современной Намибии) зверски убили более 70 тысяч человек из племен гереро и нама. Убийства сопровождались страшными мучениями жертв, пытками, голодом и массовыми смертями в пустыне от жажды.

Миллионы солдат во время Второй мировой войны безжалостно убивали мужчин, женщин, детей и стариков, полагая, что выполняют благородную миссию – избавляют планету от человеческого мусора, от диких и злобных племен, представляющих опасность цивилизованным народам, как если бы травили омерзительных и назойливых насекомых в своем доме.

В результате осуществления целенаправленной государственной политики геноцида нацистами были уничтожены миллионы евреев, советских военнопленных, поляков, цыган, русских, украинцев и др.

В результате геноцида собственного народа со стороны красных кхмеров, находившихся у власти в Камбодже за пять лет, было уничтожено треть населения – 3 млн человек.

Проживающий в Руанде народ хуту за три месяца 1994 в едином порыве по призыву пропагандистов убил более одного миллиона тутси, истребив пятую часть от всего населения страны.

Всё вышеописанное – результат работы пропагандистов, часто даже не очень умело транслировавших посредством газет и радио в массовое сознание идеи ненависти. Представьте себе, что будет, если этим же займется искусственный разум, действующий намного эффективнее, который может использовать для убеждения не только особенности различных наций или социальных групп, но даже личные психологические свойства отдельных людей. Синтетический мозг сумеет подобрать ключик к сознанию каждого отдельного человека. А к кому отмычку найти не получиться, того попросту уничтожит еще задолго до того, как в голове жертвы родится мысль о бунте.

Даже сейчас, когда в "цивилизованном мире" в почете плюрализм мнений и толерантность, большинство людей всё ещё думают или поступаю вполне определенным образом, в рамках навязанных догм, их действия подают остальным пример для подражания. Мысли миллиардов несложно контролировать даже сейчас.

В этом "новом дивном мире", который нам уготован, если мы не возьмем под полный контроль инфосферу, полностью исчезнет государственная цензура. Наступит время тотальной самоцензуры, когда высказывать свои мысли станет не только опасно, но и абсолютно бессмысленно. Не выделяться из толпы и повторять действия окружающих, чтобы не вызвать их гнев, станет не просто стратегией выживание, это станет естественным, привычным состоянием каждого человека. Система обеспечит отбор, выбраковав несогласных, полагающихся на собственный разум. Глобальное человечество

одинаково мыслящих людей станет лишь вопросом времени.

Эксперимент социального психолога Соломона Аша по измерению влияния группы на мнение испытуемого уже проводится в огромном масштабе повсеместно, не только в коммунистическом Китае, религиозном Иране и им подобным. Он успешно осуществляется в странах так называемой западной демократии. И его результаты удручают.

Если человечество упустит время, то не сможет уже ничего исправить. Не случится в будущем никакого восстания людей против машин. Этот сюжет, сильно затасканный киносценаристами, попросту нереализуем, т.к. даже у самых храбрых и образованных людей, обладающих навыками в области информационных технологий, будет намного меньше возможностей, чем у синтетического мозга.

Если сейчас люди не установят жесткий контроль над

информационными технологиями и не получат их в качестве основного инструмента демократии, то при помощи искусственного интеллекта государства и корпорации получат полный контроль над людьми. Другого исхода современный научно-технический прогресс попросту не предполагает. Либо цифровая прямая демократия, либо цифровой тоталитаризм. Кто первым освоит новые инструменты контроля, тот и будет владеть страной, если это сделает государство, то страна превратится в гигантский цифровой концлагерь.

Времени на раздумье не осталось. То, что может случится в ближайшем будущем будет пострашнее, чем фашизм в XX веке и ядерная война, после которой если человечество выживет, то сможет отстроить города и заводы заново, воссоздав культурные традиции, возродив науку и т.п.

Впереди над историческим горизонтом сгущаются тучи абсолютного и вечного рабства, выхода из которого уже не будет НИКОГДА. Система вычислит и убьёт каждого потенциального Моисея, который бы мог вывести человечество из этого рабства, в тот момент, когда он только задумается о свободе. А впрочем, его даже не нужно будет убивать самой Системе, его растерзают "добрые самаритяне", оказав тем самым "услугу" обществу.