Нервная система, обладающая эффекторами, способна оставлять отметки – например, наносить чернила на бумагу. В любой момент она может увидеть эти отметки… При определенных условиях такие отметки превращаются в знаки, которые обозначают все, что представлено в сознании этой нервной системы. Благодаря аналогичному процессу обусловливания эти знаки начинают передавать тот же смысл и другим нервным системам. Таким образом, с помощью знаков процессы вычисления и умозаключения распределяются между множеством нервных систем одновременно и продолжаются вне всякой меры. Именно так развивается история языка, литературы, философии, логики, математики и физики.

Эта книга возникла благодаря сотням бесед с разными людьми. Одни разговоры приходилось планировать за несколько месяцев, другие случались спонтанно. Для некоторых я преодолевал тысячи километров, другие состоялись благодаря передаче UDP-пакетов на те же тысячи километров, а третьи прошли буквально за углом. Одни беседы проходили в тихом кабинете со включенным диктофоном, другие – тихим шепотом в аудитории, а третьи – громко и эмоционально, за напитками. Одни разговоры состоялись в самых авторитетных институтах мира, другие – на тренировке по скалолазанию, третьи – в сауне или за обеденным столом. Одни больше напоминали интервью или устные истории, другие – деловой разговор в неформальной обстановке, третьи – непринужденную болтовню.

Идеи носят социальный характер: они рождаются постепенно, шаг за шагом, в диалоге, а не как продукт чьего‐то индивидуального ума. Каждый раз, когда в беседе возникала идея, которая, как я знал или предполагал, вероятно войдет в книгу, я старался ее записать. Я сделал множество таких заметок, но уверен, что не менее часто упускал возможность это сделать – за что искренне извиняюсь.

Тем не менее я убежден: именно беседы и обмен мнениями с определенными людьми сделали эту книгу такой, какой она получилась.

Питер Аббель, Ребекка Аккерман, Дэйв Экли, Росс Экзо Адамс, Блез Агуэра-и-Аркас, Джеки Алсине, Дарио Амодей, Маккейн Эндрюс, Джулия Энгвин, Стюарт Армстронг, Густаф Аррениус, Аманда Эскелл, Майянк Бансал, Дэниел Баркей, Солон Барокас, Рената Баррето, Эндрю Барто, Басия Бартц, Марк Беллемаре, Толга Болукбаси, Ник Бостром, Мало Бургон, Тим Бреннан, Майлс Брандейдж, Джоанна Брайсон, Кристер Биквист, Майя Чакмак, Райан Кэри, Джозеф Карлсмит, Рич Каруана, Рут Чанг, Александра Чулдехова, Рэнди Кристиан, Пол Кристиано, Джонатан Коэн, Кэтрин Коллинз, Сэм Корбетт-Дэвис, Меган Крист, Эндрю Критч, Фиери Кашмэн, Аллан Дефо, Раф Д’Амико, Питер Даян, Майкл Деннис, Шири Дори-Хакоэн, Анка Драган, Эрик Дрекслер, Рахит Дьюби, Синтия Дворк, Питер Экерсли, Джо Эдельман, Оуэн Эванс, Том Эверитт, Эд Фельтен, Дэниел Филан, Джейми Фисак, Лучиано Флориди, Каррик Флинн, Джереми Фримэн, Ярин Галь, Сурья Гангули, Скотт Гаррабрант, Ваэль Гейтс, Том Гилберт, Адам Глив, Пол Глимчер, Шарад Гоэль, Адам Голдштейн, Йэн Гудфеллоу, Брайс Гудмэн, Элисон Гопник, Самир Госвами, Хилари Гривз, Джошуа Грин, Том Гриффит, Дэвид Ганнинг, Джиллиан Хэдфилд, Дилан Хэдфилд-Менелл, Мориц Хардт, Тристан Харрис, Дэвид Хигер, Дэн Хендрикс, Джофф Хинтон, Мэтт Хьюберт, Тим Ханг, Джеффри Ирвинг, Адам Калаи, Генри Каплан, Бин Ким, Перри Класс, Джон Клейнберг, Кэролин Кнапп, Виктория Краковна, Франс Креймер, Дэвид Крюгер, Кэйтлин Кригер, Майк Кригер, Александр Крижевский, Джейкоб Лагеррос, Лили Лэмбой, Лидия Лоренсон, Джеймс Ли, Ян Лейке, Эйдан Леру, Карен Леви, Фальк Лидер, Майкл Литтман, Таня Ломброзо, Уилл Макаскилл, Скотт Мове, Маргарет Маккарти, Эндрю Мелцофф, Смита Милли, Марта Миноу, Картика Мохан, Адриен Морисо, Джулия Москера, Сендил Муллайнатан, Илон Маск, Яэль Нив, Бренди Ноннеке, Питер Норвиг, Александр Нотченко, Крис Ола, Кэтрин Олссон, Тоби Орд, Тим О’Рейли, Лоран Орсо, Педро Ортега, Майкл Пейдж, Дипак Патак, Алекс Пейсахович, Гуальтьеро Пиччинини, Дин Помело, Джеймс Портнов, Аза Раскин, Стефан Росс, Синтия Рудин, Джек Рашер, Стюарт Рассел, Анна Саламон, Андерс Сандберг, Вольфрам Шульц, Лора Шульц, Джули Шах, Роин Шах, Макс Шрон, Карл Шульман, Сатиндер Сингх, Холли Смит, Нейт Соарес, Дейзи Стэнтон, Джейкоб Стейнхард, Джонатан Стрей, Рэйчел Сассман, Яан Таллинн, Милинд Тамбе, Софи Танхаузер, Тена Тау, Ясийет Тинд, Тревис Тиммерман, Брайан Тсе, Александр Мэтт Тернер, Феб Вайанос, Керстен Виньяр, Крис Уиггинс, Элана Зейде.

Спасибо моим первым читателям, которые сделали книгу несравнимо лучше: Дэниел Баркей, Элизабет Кристиан, Рэнди Кристиан, Меган Крист, Раф Д’Амико, Шири Дори-Хакоэн, Питер Экерсли, Оуэн Эванс, Дэниел Филан, Рэйчел Фридмэн, Адам Голдштейн, Брайс Гудмэн, Том Гриффит, Джеффри Ирвинг, Грег Дженсен, Кристен Йоханнес, Генри Каплан, Раф Ли, Роуз Линк, Фил Ричерм, Фелисити Роуз, Катя Савчук, Роин Шах, Макс Шрон, Фил Ван Стокум, Шон Уэн и Крис Уиггинс. Спасибо, что не делали мне поблажек.

Спасибо моему агенту Максу Брокману за то, что разглядел потенциал этой книги, и моему редактору Брендану Карри за то, что помог его реализовать.

Спасибо Ассоциации по продвижению искусственного интеллекта, NeurIPS и Институту будущего жизни за приглашения, которые я был очень рад принять. Спасибо конференции «Алгоритмы и объяснения» Нью-Йоркского университета, Конференции по справедливости, отслеживаемости и алгоритмической прозрачности (Conference on Fairness, Accountability and Transparency, FAT), AI Now, конференции CITRIS’s Inclusive AI, симпозиуму по оптимизации и справедливости Института теории вычислительной техники Саймонса и Центру совместимого с человеком искусственного интеллекта за то, что сумели собрать выдающиеся умы для разговоров на важные темы. Для меня было честью побывать на этих мероприятиях.

Спасибо резиденции Макдауэлла, Майку и Кэйтлин Кригер, а также корпорации Yaddo за прибежище, где были написаны начало, середина и конец этой книги, за время, пространство и вдохновение.

Спасибо призракам Джерри Гарсии и Сильвии Плат, составлявшим мне компанию в одинокие дни.

Спасибо исследователям архивов Бертрана Рассела в Макмастерском университете (в особенности – Кеннету Блэкуэллу), бумаг Уоррена Маккаллока в Американском философском обществе в Филадельфии и архивов Фрэнка Розенблатта в Корнеллском университете, а также бесплатным библиотекам округа Монтерей и Публичной библиотеке Сан-Франциско наряду с Гарсоном О’Тулом с сайта Quote Investigator за личную помощь в поисках малоизвестных фактов.

Спасибо Архиву Интернета за то, что сохранил важное и эфемерное прошлое для настоящего.

Спасибо бесплатным проектам и проектам с открытым исходным кодом, сделавшим написание этой книги возможным, в особенности – Git, TeX и LaTe X. Я изумлен и восхищен тем, что текст моей работы написан с помощью программного обеспечения для набора текста, которое появилось более 40 лет назад, документацию для которого написал никто иной как сам Артур Сэмюэл. Мы действительно стоим на плечах гигантов!

Я хочу отметить тех, кто скончался, пока я писал эту книгу, чьи голоса я был рад в нее включить и чьи идеи навсегда остаются с нами: Дерек Парфит, Кеннет Эрроу, Хьюберт Дрейфус, Станислав Петров и Урсула Ле Гуин.

Хочу выразить особую благодарность Калифорнийскому университету в Беркли. За CITRIS, где я имел честь быть приглашенным преподавателем во время написания книги (отдельные благодарности – Бренди Ноннеку и Камилле Криттенден); Институту теории вычислительной техники Саймонса (в особенности – Кристин Кейн и Ричарду Карпу); Центру совместимого с человеком искусственного интеллекта (в особенности – Стюарту Расселу и Марку Ницбергу) и многочисленным гениальным и вдохновенным членам и гостям семинара CHAI. Благодаря вам я испытывал огромное вдохновение и ощущал себя как дома, а ваша дружеская поддержка значит гораздо больше, чем кажется.

Спасибо моей жене Роуз за то, что она была моим первым читателем, за ее верную руку, острый глаз, готовность выслушать, подставить плечо и ободрить. Ты всегда в меня верила, а я стремился оправдать твои ожидания.