На протяжении всех глав этой книги мы рассматривали новые системы ИИ под микроскопом. Мы изучили модели LLM — машины, способные генерировать естественный язык (а в последнее время также изображения и видео), — со всех основных сторон. Мы проследили их интеллектуальную историю: от первых классических догадок о том, как работает разум, до зарождения компьютерных технологий в двадцатом веке и революции глубокого обучения последних нескольких лет. Мы заглянули «под капот» современных систем ИИ и приоткрыли завесу тайны, разобрав вычислительные принципы, лежащие в основе сегодняшних гигантских нейронных сетей, и изучив, как трансформер творит свое особое волшебство. Мы всесторонне протестировали LLM, классифицировав их самые поразительные интеллектуальные фейерверки и самые неловкие промахи. Мы попытались взвешенно рассказать об их достоинствах и недостатках, лавируя на неровной почве между двумя догматическими лагерями, утверждающими, что ИИ — это либо лучшее, либо худшее из того, что когда-либо создавало человечество. Мы бились над сложными вопросами о том, что должны говорить LLM и как сделать так, чтобы они вливали в человеческую инфосферу больше истины, чем лжи. Мы попытались спроецировать быстро меняющиеся исследовательские тенденции на наше технологическое завтра, утверждая, что два явления — растущая персонализация и инструментальность систем ИИ — превратят пассивные языковые модели в активных ИИ-ассистентов. Наконец, мы критически рассмотрели самые дикие заявления о том, что ИИ представляет экзистенциальную угрозу для человечества, придя к выводу, что наиболее насущные риски — это побочные эффекты от текущих или ближайших разработок в области ИИ, а не вымышленные сценарии, в которых люди порабощены одиноким суперзлодеем-ИИ (с белым котом или без него).
Поэтому в заключение я, пожалуй, попробую резюмировать свой взгляд на самые спорные вопросы, затронутые в этой книге.
Природа когнитивных способностей LLM вызывает бурные споры. Моя позиция ясна: когнитивные процессы LLM не похожи на наши собственные и, вероятно, никогда не будут похожи. Это должно быть очевидно любому, кто взаимодействовал с ChatGPT или Gemini дольше пары минут. Общение с современными системами ИИ все еще немного напоминает свидание с «Википедией» — весьма познавательно, но не хватает человеческого тепла (хотя некоторые пользователи Replika могут с этим не согласиться). Современные LLM не похожи на людей во многих отношениях. Если человеческая память может быть фрагментарной, то их память резко обрывается на границе контекстного окна, что мешает им непрерывно познавать мир, как это делаем мы, и гарантирует, что они никогда не узнают пользователя по-настоящему (по крайней мере, пока). Сегодняшние LLM способны к глубоким рассуждениям по формальным задачам логики, математики и программирования, но у них нет систем мотивации и планирования, которые позволили бы им решать реальные проблемы, возникающие в открытых, неопределенных и протяженных во времени условиях. Это серьезно ограничивает их способность предпринимать разумные действия в более широком цифровом мире, а значит — на данный момент — они не особо полезны для решения задач, которые сложнее домашнего задания.
Но самая важная причина, почему системы ИИ не похожи на нас (и, вероятно, никогда не будут похожи), заключается в том, что у них нет того интуитивного и эмоционального опыта, который делает нас людьми. В частности, у них отсутствуют два важнейших аспекта человеческого существования: у них нет тела и у них нет друзей. У них нет мотивации чувствовать или желать так, как это делаем мы, поэтому они никогда не испытывают голода, одиночества или скуки. Это отсутствие человеческой мотивации не позволяет системам ИИ проявлять интерес к миру или испытывать разочарование от него — а ведь именно эти базовые стимулы включаются в работу почти сразу же, как только человеческие младенцы с криком появляются на свет. Разум LLM не похож на наш. И все же это в некотором роде разум — странный новый разум, совершенно не похожий ни на что из того, с чем мы сталкивались ранее.
Поэтому актуальный вопрос заключается не в том, похожи ли современные системы ИИ на нас с вами (это не так), а в том, каковы пределы их возможностей. Скептики ИИ яростно доказывают, что LLM навсегда ограничены базовыми архитектурными решениями разработчиков ИИ, в особенности тем, что их обучают предсказывать (или «угадывать») следующий токен в последовательности. Тут я не согласен. Нет принципиальных причин, почему прогнозирование будущих сигналов не может быть основной целью для универсальной системы ИИ. Нет никаких причин, почему внутренние вычисления, носящие стохастический характер (подверженные капризам случайности), должны мешать машинам демонстрировать логичное или рациональное поведение. Оба этих архитектурных решения — прогнозирование как цель обучения и вероятностный характер вычислений — являются хорошо известными особенностями человеческого мозга. Подробно рассмотрев в главе 21, как глубокие сети могут учиться учиться, мы увидели, что нейронные сети с миллионами весов вполне способны находить способы аппроксимации жестких операций символьных систем ИИ. Это позволяет им осуществлять чрезвычайно сложные и структурированные формы рассуждений, которые ранее считались возможными только в рамках классических моделей. Именно поэтому, будучи нейронными сетями, LLM справляются с математическим анализом, C++ и задачами Ферми (например, оценкой общего числа настройщиков пианино в Чикаго) лучше среднестатистического взрослого человека. Не существует никакого недостающего волшебного ингредиента, никакого «анобтаниума», который навсегда возносил бы человеческое познание на мистическую высоту. Утверждение, будто LLM никогда не смогут «мыслить» или «знать», потому что у них нет некой жизненно важной человеческой искры, — это всего лишь версия аргумента Ричарда Оуэна о малом гиппокампе, перенесенная в XXI век: ложное оправдание нашей собственной уникальности.
В пятой части я выделил два основных ограничения в том, как устроены современные системы ИИ, — ограниченный объем памяти и краткосрочный горизонт планирования. Думаю, весьма вероятно, что эти проблемы будут решены в ближайшем будущем — фактически системы с более долгосрочной памятью, способные вспоминать предыдущие разговоры, чтобы «познакомиться» с вами, уже проходят бета-тестирование в момент, когда я пишу эти строки. Это откроет двери для более персонализированных технологий ИИ. Персонализированный ИИ принесет наибольшую пользу, если сможет выполнять за вас реальные задачи, а для этого потребуется преодолеть «инструментальный разрыв». Честно говоря, я не знаю, насколько сложным это окажется. Подозреваю, что мы, сами того не замечая, постепенно придем к более инструментальным агентам — сначала появятся системы, способные выполнять относительно простые задачи, вроде покупки авиабилета на сайте авиакомпании, а затем мы перейдем к полноценным помощникам, которые смогут управлять всей вашей жизнью. Это, конечно, лишь предположения, но я буду крайне удивлен, если к концу этого десятилетия у нас не появится вполне приличных персональных технологий ИИ. Конечно, при условии, что мы не взорвем себя до этого времени.
Сложнее всего предсказать последствия, которые ИИ окажет на наше общество. Социальный эффект ИИ зависит не только от природы самой технологии, но и от того, как ее используют люди и как это влияет на наше отношение друг к другу. Я не удивлюсь, если через несколько лет идея о том, что человек может состоять в «отношениях» с ИИ, станет повсеместной и нормальной, какой бы странной или неправильной она ни казалась нам сегодня. Радости социального общения (не говоря уже о контактах иного рода) попросту слишком притягательны — рынок цифровых друзей и возлюбленных, без сомнения, уже существует, и без серьезного регулирования сверху его быстро приберут к рукам предприимчивые стартапы в сфере ИИ. Появление персонализированного ИИ непредсказуемым образом встряхнет наши отношения с друзьями и знакомыми. Например, практические обсуждения того, чем заняться и куда пойти, могут быть перепоручены персональным ИИ-ассистентам, которые будут договариваться друг с другом — эдакая технологическая пародия на голливудское клише деловых переговоров («мои люди свяжутся с твоими»). Какое будущее нас ждет в связи с этим? И — что еще важнее — о чем тогда вообще разговаривать людям старше сорока?
Кажется неизбежным, что рынок труда претерпит драматические изменения, но чтобы в точности предсказать, что именно произойдет, понадобится хрустальный шар самого последнего поколения. Пока что наши прогнозы относительно последствий внедрения ИИ оказывались весьма далеки от истины. В 2016 году Джеффри Хинтон — первый гуру ИИ, с которым мы встретились на страницах этой книги, — уверенно предсказал, что вскоре мы вообще перестанем обучать рентгенологов, поскольку системы ИИ смогут без проблем взять на себя анализ медицинских снимков на предмет пугающих аномалий. Этого до сих пор не произошло и в ближайшее время не предвидится — по-видимому, потому, что эти высококлассные специалисты делают гораздо больше, чем просто выискивают подозрительные пятна в легких. До недавнего времени люди творческих профессий чувствовали себя в относительной безопасности от экспансии ИИ, поскольку мы все верили, что способность придумать красивую обложку для романа или разработать эффектную графику для фэнтезийной видеоигры автоматизировать гораздо сложнее, чем, скажем, двойную бухгалтерию или ведение судебных дел. Однако теперь очевидно, что художники, дизайнеры и сценаристы — следующие в очереди на автоматизацию, и именно страх остаться не у дел из-за ИИ привел к забастовке Гильдии сценаристов Америки, которая на несколько месяцев парализовала киноиндустрию Голливуда в 2023 году. DALL·E 3, инструмент генерации изображений на базе ИИ, который сейчас встроен в GPT-4, способен создавать поразительно профессиональные изображения и дизайны — но только, конечно, потому, что он скопировал созданные людьми материалы из интернета. Судебные баталии об авторских правах на этот контент — и о гигантских доходах от генеративного ИИ — уже начались и, без сомнения, растянутся на долгие годы. Между тем, хотя ходили слухи, будто юристов ИИ может заменить целиком и полностью, и несмотря на то, что GPT-4 блестяще сдал адвокатский экзамен, ни одну из этих сторон в суде пока еще не представляет робот в шерстяном парике.[*1]
Другой важнейший вопрос заключается в том, как ИИ изменит баланс сил в обществе. Во всем мире власть и деньги все больше концентрируются в руках немногих. Богатейший 1% населения владеет половиной мирового богатства, в то время как — невероятно, но факт — на беднейшую половину человечества приходится менее 1%.[*2] Неравенство подпитывает политику обид и недовольства, которой пользуются нелиберальные демагоги, разжигающие рознь между народами, этносами и идентичностями. Это уже спровоцировало заметный рост политических репрессий и вооруженных конфликтов по всему миру, и сейчас, когда я пишу эти строки в 2024 году, геополитический накал, похоже, приближается к точке кипения. Технологическая революция, запущенная ИИ, по всей видимости, только ускорит этот процесс. По мере того как системы ИИ начнут вытеснять человеческий труд, доходы, которые раньше выплачивались работникам, будут перенаправляться в карманы корпоративных акционеров. В первую очередь это касается каждого, кто владеет долей в технологической индустрии, чья стоимость продолжает расти по мере того, как ИИ неуклонно проникает во все сферы нашей жизни.[*3] Без существенных структурных изменений в экономике люди, чьи рабочие места будут автоматизированы, окажутся в зависимости от милости государства. Этим недовольством легко могут воспользоваться популистские партии, выступающие против гражданских прав и стремящиеся подорвать демократию. Антрополог Юваль Ной Харари добавляет, что «ИИ благоприятствует тирании» — новые инструменты автоматического слежения и контроля за населением будут с готовностью взяты на вооружение авторитарными режимами, что укрепит их железную хватку над гражданами и склонит политическую чашу весов не в пользу тех, кто выступает за свободу, равенство и демократию.[*4] Власти Китая уже используют ИИ для отслеживания каждого шага своих граждан и подавления инакомыслия при первых же его проявлениях, а другие режимы наблюдают за этим с интересом. Трудно спорить с тем, что он прав.
На этом пессимистичном фоне все же остается место для надежды. Автоматизируя новые секторы экономики, системы ИИ могут создавать богатство с беспрецедентной скоростью и в невиданных масштабах. Задача правительств (и избирателей) в связи с этим — найти способы равномерного распределения полученных доходов. Есть некоторые основания для сдержанного оптимизма. В ряде исследований уже предпринимаются попытки количественно оценить прирост эффективности (или расширение возможностей), который происходит, когда сотрудникам помогают LLM. В самых разных отраслях вырисовывается четкая картина: помощь ИИ идет на пользу наименее квалифицированным работникам, но приносит минимальную выгоду тем, кто уже является высококлассным специалистом. В одной научной работе оценивалось, насколько успешно специалисты справлялись с написанием пресс-релизов, аналитических отчетов и деликатно сформулированных электронных писем с помощью ChatGPT и без него. Те, кто получил самые низкие оценки за первое задание (выполненное без помощи LLM), почти удвоили свои показатели при совместной работе с ChatGPT, в то время как те, кто показал наилучшие результаты в первом задании, не получили вообще никакого выигрыша.[*5] Таким образом, вскоре ИИ может стать уравнивающим фактором на рынке труда — позволяя тем, у кого меньше всего навыков и опыта, вносить столь же весомый вклад, как и их более успешные коллеги.
На политической арене идет много дискуссий о потенциально разрушительном влиянии ИИ на демократию. Действительно, современные системы ИИ уже использовались для создания дипфейков (например, фальшивых видеороликов, компрометирующих политиков) или роботизированных звонков (например, автоматических телефонных сообщений, отговаривающих граждан голосовать), и они способны многократно ускорить распространение дезинформации в огромных масштабах. Однако реальный дополнительный ущерб от этих возможностей по сравнению с существующим положением дел (когда вредоносные действия совершаются людьми) еще только предстоит оценить количественно. С другой стороны, есть и способы использовать LLM для укрепления наших демократий. Если настроить их на выдачу исключительно обоснованных аргументов и правдивой информации, то это начнет проникать в общественный дискурс, потенциально компенсируя дестабилизирующее влияние дезинформации и полемики, которую политические активисты распространяют через социальные сети и массовую прессу.
Чтобы максимально увеличить шансы на то, что ИИ принесет больше пользы, чем вреда, нам необходимо координировать усилия исследователей, разработчиков и государственных органов, обладающих регулирующими полномочиями. Нам нужно лучше понять вред, возникающий при использовании систем ИИ людьми, и попытаться предвидеть новые риски, которые еще более совершенные системы могут создать в ближайшем будущем. Нам необходимо продолжать разрабатывать методы обучения, которые не позволят системам ИИ генерировать предвзятый, токсичный или незаконный контент, а также гарантировать, что их нельзя будет с легкостью использовать для помощи в создании биологического оружия или взломе Британской библиотеки. Нам нужно создавать скоординированные программы исследований, изучающие, как системы ИИ влияют на людей — на отдельных личностей, которые могут подвергнуться мощному автоматизированному убеждению или искать у LLM советов по личным вопросам и здоровью, особенно если речь идет о наиболее уязвимых пользователях, таких как дети или люди, испытывающие проблемы с психическим здоровьем.
Язык — это наша суперсила, средство, с помощью которого мы создаем знания и делимся ими. На протяжении тысячелетий он служил человеку пропуском к планетарному господству за счет скоординированных коллективных действий. Еще несколько месяцев назад язык принадлежал исключительно людям. Теперь же мы уступили эту способность разуму другого рода — странному новому разуму, который мы не до конца понимаем. LLM на данный момент представляют собой весьма ограниченную форму интеллекта с примитивной памятью, шаткими способностями к планированию и ужасным чувством юмора. Но не стоит недооценивать силу языка. Эпоха, в которую мы только что вступили — когда системы ИИ могут говорить как с нами, так и друг с другом, — это переломный момент, столь же важный для человеческой истории, как изобретение письменности, книгопечатания или интернета. Мы еще не понимаем, что это принесет человечеству, но выяснить это будет захватывающе — и немного пугающе.
Пропустить примечания
*1 Хотя, конечно, более простые системы ИИ используются в различных судебных инстанциях, зачастую лишь усугубляя существующее неравенство.
*2 https://oi-files-d8-prod.s3.eu-west-2.amazonaws.com/s3fs-public/2023-01/Survival%20of%20the%20Richest%20Full%20Report%20-English.pdf.
*3 В том числе долей самого автора, который работал в DeepMind с 2010 по 2023 год.
*4 www.theatlantic.com/magazine/archive/2018/10/yuval-noah-harari-technology-tyranny/568330/.
*5 Ной и Чжан, 2023.