В последние полтора года у многих часто возникает ощущение, что земля уходит из-под ног. Это период стремительных изменений и крайней неопределенности, который ставит перед нами уму непостижимые вопросы: кому принадлежат права на все результаты творческой деятельности людей и можно ли воссоздавать и перепродавать их с помощью ИИ-программ? Сохранятся ли «офисные» профессии в том виде, в котором они сейчас существуют? И сохранят ли так называемые работники умственного труда, включая юристов, журналистов, консультантов и представителей творческих специальностей, свою работу через несколько лет, когда порождающий ИИ сможет справляться с их задачами на достаточно хорошем уровне?

Отсюда вытекают более общие вопросы: как обществу обеспечивать себя без работы? Может быть, нам придется разработать новую форму всеобщего универсального дохода, поскольку всю работу будет выполнять ИИ? Есть и беспокойства о будущем человечества: смогут ли дети учиться, постоянно опираясь на такие инструменты? Смогут ли они нормально думать, если так и не научатся хорошо писать? И кто мы вообще такие, если любые наши идеи и мысли могут воссоздаваться машинами?

Люди, от которых ожидаешь ответов на эти острые вопросы, – ученые, технические специалисты, философы, экономисты, даже политики – пока не знают, как на них отвечать. Они сбиты с толку и понимают, по сути, не больше, чем мы. Тем временем порождающий ИИ распространяется по миру подобно лесному пожару, внедряясь в экономику гораздо быстрее, чем правительства успевают его сдерживать.

Я решила, что и мне не помешает свежий взгляд на последствия, к которым это может привести. Мне захотелось найти того, кто поможет мне несколько полнее представить будущее и понять, какое мы займем в нем место. В результате я обратилась к миру, который всегда помогал мне в таких ситуациях, – миру научной фантастики.

Американский писатель китайского происхождения Тед Чан пишет романы о будущем, в которых поднимает такие сложные темы, как свобода воли, связь между языком и мышлением и последствия создания и использования сверхчеловеческого интеллекта. Он делает это с присущей ему простотой, научной строгостью и глубокой человечностью. Его вымышленные миры оказывают влияние на реальный. Его рассказ «История твоей жизни» лег в основу фильма «Прибытие», которым вдохновлялся Илья Полосухин – однин из исследователей Google, создавших трансформер.

В вышедшей в 2010 году повести Чана «Жизненный цикл программных объектов»{206} бывшая смотрительница зоопарка Ана устраивается на работу в ИИ-компанию, создающую разумных цифровых существ (называемых «дигитантами»), которые затем продаются людям в качестве виртуальных питомцев. В отличие от современного ИИ, это сознательные, но незрелые машины. В повести этот мысленный эксперимент растягивается на многие годы, и Чан исследует взаимоотношения творцов и их творений, а также поднимает философские вопросы, связанные с созданием интеллекта нового типа.

Каковы моральные установки этих машин? Кто несет за них ответственность? Можно ли позволить им самостоятельно принимать решения? Каким-то образом Чан превращает выдуманную историю в интимную зарисовку о воспитании детей и умении отпускать.

Мы встретились с Чаном за обедом в его родном городе Белвью, стоящем на берегу озера прямо напротив Сиэтла, и он задумался, когда я отметила, что вымышленные миры его романов все сильнее сближаются с тем миром, в котором мы обитаем.

«Машины, которые есть у нас сейчас, не обладают сознанием, – сказал он. – А когда один человек учит другого, во взаимодействие вступают именно их сознания». Между тем ИИ-модели обучаются путем настройки «весов»: чтобы достичь желаемого результата, необходимо выверить силу связей между различными переменными в модели. «Было бы ошибкой полагать, что, обучая ребенка, ты просто корректируешь веса в сети».

Главным образом Чан – весьма по-писательски – возражает против слов, которые мы выбрали для описания этих процессов. Антропоморфный язык – «обучать», «понимать», «знать» – и такие личные местоимения, как «я», которые ИИ-инженеры и журналисты спроецировали на чат-боты вроде ChatGPT, создали иллюзию, которая, по его словам, подтолкнула всех нас – даже тех, кто прекрасно знает, как работают эти системы, – к тому, чтобы замечать в ИИ-инструментах несуществующие проблески разума.

«Некоторое время назад один пользователь Twitter спросил: “Что такое искусственный интеллект?”, – а другой ответил: “Неудачный выбор слов в 1954 году”, – сказал Чан. – И они правы. Думаю, если бы еще в пятидесятых мы выбрали для этого другое обозначение, то избежали бы недопониманий, которые возникают сейчас».

Какой термин предложил бы он сам, будь у него такая возможность? Чан ответил без промедления: прикладная статистика.

«Поистине поразительно, что такие вещи можно получить путем статистического анализа большого объема текстов», – сказал он. Однако, по его мнению, этого недостаточно, чтобы соответствующие инструменты стали разумными.

Чан полагает, что термин «прикладная статистика» гораздо точнее описывает эти технологии, «но никто не хочет его использовать, ведь он звучит не так круто».

Учитывая его интерес к взаимосвязи между языком и разумом, я особенно хотела узнать, что он думает о сочинениях ИИ – тех текстах, которые создаются системами вроде ChatGPT. Я спросила, как сгенерированные компьютерами слова изменят писательство – наше общее ремесло. Впервые за все время нашего разговора я заметила в нем проблеск раздражения. «Разве они пишут хоть что-то, что находит в людях отклик? Создал ли ChatGPT хоть один очерк, который действительно тронул людей?»

Я читала прекрасное эссе Ваухини Вары о смерти ее сестры, написанное вместе с ChatGPT, но ничего из созданного чат-ботом в одиночку мне не запомнилось. Чан полагал, что БЯМ полезны главным образом для порождения вставного текста, который никто не хочет ни читать, ни писать (такие задачи антрополог Дэвид Гребер называет «бредовой работой»). Создаваемые ИИ тексты не приносят наслаждения, но Чан согласен, что им можно найти применение в определенных сферах.

«Но сам факт, что БЯМ способны на это, нельзя назвать категорическим подтверждением их поразительных способностей, – отмечает Чан. – Это больше говорит о том, сколько всякого бреда нам приходится создавать и встречать на каждом шагу в своей жизни».

Он изложил свои мысли в популярном очерке «Chat-GPT – размытый JPEG интернета», опубликованном в журнале New Yorker{207}. Он описал языковые модели как нечеткие копии текстов, на которых они обучены, – перестроенные последовательности слов, которые подчиняются правилам грамматики. Он отметил, что, поскольку эта технология реконструирует материал, который незначительно отличается от уже существующего, создается впечатление, что ИИ-системы понимают то, что делают.

Когда он сравнил это с тем, как дети учат язык, я рассказала ему, что недавно моя пятилетняя дочь начала придумывать короткие шутки, главным образом основанные на игре слов, и проверять на нас свое остроумие.

«Ваша дочь слышит шутки и находит их смешными, – сказал Чан. – ChatGPT ничего не находит смешным и сам не пытается никого рассмешить. В том же, что делает ваша дочь, содержится огромный социальный компонент».

Чан полагает, что язык, лишенный эмоций и смысла, который в него вкладывают люди, становится пустым. «Язык – это способ взаимодействия с другими существами, – говорит он. – Это разительно отличается от прогнозирования следующих элементов в последовательности, которым сейчас занимаются ИИ-инструменты».

Я прогулялась вместе с Чаном по Центральному парку Белвью – огромному зеленому оазису, где цветут ярко-розовые гортензии и журчат многочисленные ручейки. День был великолепный. Мы обошли парк несколько раз и стали узнавать людей, которые встречались нам на пути: маму с дочкой, женщину с двуногой собакой и людей, сидящих на скамейках с книгами, журналами и мороженым. Я спросила у Чана, как, по его мнению, изменится мир, если люди станут постоянно взаимодействовать с машинами.

Он спросил, помню ли я героя Тома Хэнкса из фильма «Изгой». Его единственным спутником на необитаемом острове был волейбольный мяч, который он назвал Уилсоном, и герой Хэнкса его любил. «Полагаю, именно так и стоит думать об этих системах, – сказал Чан. – Это не умаляет того, что герой Тома Хэнкса чувствует по отношению к Уилсону, потому что Уилсон действительно становится для него утешением. Но дело в том… что он переносит свои чувства на мяч. Больше там никого нет».

Чан понимает, почему люди в будущем могут перейти к общению с ИИ-системами, вместо того чтобы и дальше общаться друг с другом. «В этом нет ничего удивительного, ведь взаимодействовать с людьми непросто. Это очень тяжело. Это многого от тебя требует, а отдачи ты часто не получаешь», – отмечает он.

И все-таки Чан считает, что современная жизнь разбрасывает людей по маленьким необитаемым островам, где каждый тоскует по товариществу и дружбе. «И из-за этого возникает спрос на волейбольные мячи, – говорит он. – Социальные чат-боты поддерживают людей и служат для них утешением, прямо как Уилсон».

Но смысл нашей жизни все равно придают внимание и сопереживание, которые мы получаем из общения с людьми, когда все мы отвечаем друг другу. При общении с ИИ, однако, «кажется, что на другом конце кто-то есть. Но это не так».

* * *

Мои беседы с Чаном заставили меня обратиться к научной фантастике, чтобы привести в порядок обрывочные мысли о том, как повлияет на всех нас порождающий ИИ. В результате я наткнулась на рассказ Эдварда Форстера «Машина останавливается», написанный в 1909 году{208}, и никак не могла выбросить его из головы.

В нем люди живут в отдельных ячейках и пребывают в постоянном страхе «непосредственного восприятия» и «оригинальных идей»{209}. Главная героиня рассказа, преподавательница по имени Вашти, общается со своим сыном, живущим на противоположной стороне земного шара, с помощью устройства, называемого Машиной. Машина может виртуально связывать людей друг с другом, но при этом не передает оттенков их чувств и эмоций. Она создает лишь неплохую аппроксимацию. Но «человечество давно уже привыкло довольствоваться… “вполне достаточным”», – отмечает Вашти.

Мысль Форстера о машине, создающей размытую версию реальности, которая в итоге заменяет реальный мир, где живут люди, кажется сегодня чрезвычайно злободневной. Когда я посмотрела вокруг и вспомнила, что сама писала о том, как порождающий ИИ создает ложный или предвзятый контент, я стала видеть эту идею повсюду. Форстер описал то, что более столетия спустя мы назвали миром «постправды».

Но особенно мне запомнилась концовка истории, в которой рассказывается о судьбе Машины. Со временем она начинает приходить в упадок и, разрушаясь, искажает реальность: отравляет мелодии знаменитых симфоний, создает неприятные запахи, неприглядные картины и даже «дефективные» стихи, а людям приходится мириться с ее токсичностью. В конце концов они привыкают к новому положению вещей.

Проблема в том, что в мире Форстера никто уже не знает, как починить Машину. Люди стали слишком далеки от нее, а опыт и навыки сосредоточены в руках у немногочисленных власть имущих. «Во всем мире не оставалось никого, кто разбирался бы в устройстве чудовищного механизма в целом», – пишет Форстер.

Но при этом люди спокойно впускали Машину в свою жизнь. Того немногого, что им было известно о ее чудесных свойствах – как именно она работала и чем могла им помогать, – им было вполне достаточно.