Наш первый принцип работы с ИИ — всегда приглашать его к столу. Мы уже обсуждали, что взаимодействие с ИИ может напоминать общение и совместную работу с людьми. Но с какими людьми? Какими навыками обладает ИИ? В чем он хорош? Чтобы поговорить об этом, нам сначала нужно разобраться с тем, что у ИИ получается из рук вон плохо.

Самая большая проблема, ограничивающая ИИ, одновременно является и одной из его сильных сторон: это его пресловутая способность выдумывать, то есть галлюцинировать. Помните, что LLM работают, предсказывая наиболее вероятные слова, которые должны следовать за вашим промптом, на основе статистических закономерностей в обучающих данных. Им все равно, являются ли эти слова правдивыми, осмысленными или оригинальными. Они просто хотят создать связный и правдоподобный текст, который вас порадует. Галлюцинации звучат настолько убедительно и уместно в контексте, что отличить ложь от истины бывает непросто.

Нет окончательного ответа на вопрос, почему LLM галлюцинируют, и способствующие этому факторы могут различаться у разных моделей. Различные LLM могут иметь разную архитектуру, обучающие данные и цели. Но во многих отношениях галлюцинации — это глубинная часть того, как работают LLM. Они не хранят текст напрямую; скорее, они сохраняют закономерности того, какие токены с большей вероятностью следуют за другими. Это означает, что ИИ на самом деле ничего не «знает». Он придумывает свои ответы на лету. Кроме того, если модель слишком точно следует закономерностям в своих обучающих данных, говорят, что она переобучена на этих данных. Переобученные LLM могут не справиться с обобщением на основе новых или ранее не встречавшихся входных данных и начать генерировать неуместный или непоследовательный текст — короче говоря, их результаты всегда одинаковы и лишены творческой искры. Чтобы избежать этого, большинство ИИ добавляют в свои ответы элемент случайности, что, соответственно, повышает вероятность галлюцинаций.

Помимо технических причин, Галлюцинации могут быть вызваны исходным материалом ИИ, который может быть предвзятым, неполным, противоречивым или даже неверным — именно в том ключе, который мы обсуждали во второй главе. У модели нет возможности отличить субъективное мнение или художественный вымысел от фактов, переносное значение слов от прямого, а ненадежные источники — от надежных. Модель может унаследовать предвзятость и предрассудки создателей данных, их кураторов и тех, кто занимался тонкой настройкой.

Бывает забавно наблюдать, как ИИ не может понять, где вымысел перетекает в реальность. Например, Колин Фрейзер, специалист по анализу данных, заметил, что, когда ChatGPT просят назвать случайное число от 1 до 100, в 10 процентах случаев чат-бот выдает «42». Если бы он действительно выбирал число случайно, «42» выпадало бы только в 1 проценте случаев. Любители научной фантастики среди моих читателей, вероятно, уже догадались, почему 42 всплывает так часто. В классической комедии Дугласа Адамса «Автостопом по галактике» число 42 — это ответ на «главный вопрос жизни, Вселенной и всего такого» (что оставляет открытым более масштабный вопрос: а в чем, собственно, заключался сам вопрос?), и это число стало культовой интернет-шуткой. Таким образом, Фрейзер предполагает, что ИИ видит число 42 гораздо чаще, чем другие числа, а это, в свою очередь, повышает вероятность того, что ИИ выдаст именно его — при этом галлюцинируя, будто дает вам случайный ответ.

Эти технические проблемы усугубляются тем, что для создания ответов модели полагаются на закономерности, а не на структурированное хранилище данных. Если вы попросите ИИ привести цитату или источник, он сгенерирует эту цитату или ссылку на основе связей между данными, которые он усвоил, а не извлечет ее из памяти. Если цитата известна, например «Восемьдесят семь лет назад», ИИ закончит ее правильно: «...наши отцы создали на этом континенте новую нацию, зачатую в свободе и преданную утверждению, что все люди созданы равными». ИИ видел эти связи достаточно часто, чтобы безошибочно подобрать следующее слово. Если же речь идет о чем-то менее известном, например о моей биографии, он заполнит пробелы правдоподобными галлюцинациями — так, GPT-4 упорно настаивает, что у меня есть степень бакалавра компьютерных наук. Все, что требует точного воспроизведения информации, скорее всего, приведет к галлюцинации, хотя предоставление ИИ возможности использовать внешние ресурсы, например поиск в интернете, может изменить это уравнение.

И вы не сможете выяснить, почему ИИ галлюцинирует, просто спросив его об этом. Он не осознает собственные процессы. Поэтому, если вы попросите его объясниться, ИИ создаст видимость правильного ответа, но это объяснение не будет иметь ничего общего с процессом, который привел к первоначальному результату. У системы нет возможности объяснить свои решения или даже узнать, в чем они заключались. Вместо этого она (как вы уже догадались) просто генерирует текст, который, по ее мнению, порадует вас в ответ на ваш запрос. LLM, как правило, не оптимизированы для того, чтобы отвечать «Я не знаю», когда у них недостаточно информации. Вместо этого они выдадут вам ответ, демонстрируя абсолютную уверенность.

Один из самых печально известных ранних примеров галлюцинаций в LLM произошел в 2023 году, когда адвокат по имени Стивен А. Шварц использовал ChatGPT для подготовки судебного ходатайства по иску о возмещении вреда здоровью против авиакомпании. Шварц воспользовался ChatGPT для поиска судебных дел; ИИ сослался на шесть вымышленных прецедентов. Затем адвокат представил эти дела суду в качестве реальных прецедентов, не проверив их подлинность и точность.

Несуществующие дела были обнаружены адвокатами защиты, которые не смогли найти никаких упоминаний о них в юридических базах данных. Они обратили на это внимание судьи, который потребовал от Шварца объяснить происхождение его источников. Тогда Шварц признался, что использовал ChatGPT для генерации этих дел и у него не было намерений ввести суд в заблуждение или действовать недобросовестно. Он утверждал, что не знал о сути и ограничениях ChatGPT, а узнал о нем от своих детей студенческого возраста.

Судья П. Кевин Кастел не счел объяснения Шварца убедительными. Он постановил, что Шварц действовал недобросовестно и ввел суд в заблуждение, предоставив ложные и ничем не подтвержденные сведения. Судья также отметил, что Шварц проигнорировал несколько тревожных сигналов, которые должны были указать ему на то, что дела были вымышленными, — например, их нелепые названия, даты и выходные данные. Он наложил совместный штраф в размере 5000 долларов на Шварца и его коллегу Питера ЛоДуку, который принял ведение дела после его передачи в другую юрисдикцию. Кроме того, судья обязал их связаться с судьями, упомянутыми в фальшивых делах, и сообщить им о сложившейся ситуации.

К слову, три предыдущих абзаца были написаны версией GPT-4 с доступом в интернет. И они почти во всем точны. Согласно сообщениям в прессе, фальшивых дел было больше шести; ЛоДука не принимал ведение дела, а лишь подменял Шварца; а штраф был выписан отчасти потому, что адвокаты упорствовали в своей ошибке, пытаясь защитить вымышленные прецеденты, что вышло далеко за рамки первоначального промаха. Такие мелкие галлюцинации трудно обнаружить, поскольку они выглядят абсолютно правдоподобно. Я смог заметить эти нестыковки только после крайне внимательного прочтения и проверки каждого факта и предложения в сгенерированном тексте. Возможно, я все еще что-то упустил (прошу прощения у того, кто будет заниматься фактчекингом этой главы). Но именно это и делает галлюцинации столь опасными: проблемы создают не крупные ошибки, которые вы сразу замечаете, а мелкие детали, проходящие мимо вашего внимания.

У исследователей ИИ нет единого мнения о том, когда будут решены эти проблемы и будут ли они решены вообще. Но поводы для надежды есть. По мере совершенствования моделей частота галлюцинаций со временем снижается. Например, исследование, в ходе которого изучалось количество галлюцинаций и ошибок в цитировании ИИ, показало, что GPT-3.5 ошибалась в 98 процентах ссылок, тогда как GPT-4 галлюцинировала лишь в 20 процентах случаев. Кроме того, такие технические уловки, как предоставление ИИ виртуальной клавиши Backspace, чтобы он мог исправлять и удалять собственные ошибки, похоже, повышают точность. Так что, хотя эта проблема, возможно, никогда не исчезнет полностью, ситуация, скорее всего, улучшится. Помните Принцип № 4: «Исходите из того, что это худший ИИ, которым вам когда-либо доведется пользоваться». Уже сегодня, накопив определенный опыт, пользователи могут научиться не провоцировать ИИ на галлюцинации и понимать, когда необходима тщательная проверка фактов. А более широкое обсуждение этого вопроса убережет таких пользователей, как Шварц, от слепого доверия ответам, сгенерированным LLM. Тем не менее мы должны реалистично оценивать этот серьезный недостаток, а значит, ИИ пока нельзя бездумно использовать для критически важных задач, требующих высокой точности или безошибочности.

Галлюцинации действительно позволяют ИИ находить новые связи за пределами точного контекста обучающих данных. Это также часть того механизма, благодаря которому он может выполнять задачи, для решения которых его явно не обучали, — например, составить предложение о слоне, который ест рагу на Луне, где каждое слово должно начинаться с гласной. (ИИ выдал: «An elephant eats an oniony oxtail on outer orbit» (в переводе: «Слон ест луковый бычий хвост на внешней орбите»).) В этом заключается парадокс творческих способностей ИИ. Та же особенность, которая делает LLM ненадежными и опасными для работы с фактами, делает их и полезными. Главный вопрос теперь заключается в том, как использовать ИИ, чтобы извлекать выгоду из его сильных сторон и при этом избегать слабых. Чтобы разобраться в этом, давайте посмотрим, как ИИ «мыслит» творчески.

Автоматическое творчество

Оглядываясь на историю автоматизации, многие могли бы предположить, что первыми задачами, в которых преуспеет ИИ, окажутся скучные, рутинные и аналитические дела. Именно они обычно автоматизируются в первую очередь при любой волне технологического прогресса — от паровых двигателей до роботов. Однако, как мы убедились, все пошло иначе. Большие языковые модели великолепно справляются с текстами, но лежащая в их основе технология Трансформеров также служит основой для целого ряда новых сфер применения, включая ИИ, создающий произведения искусства, музыку и видео. В результате исследователи пришли к выводу, что под наибольший удар новой волны ИИ попадают профессии, связанные как раз с творческими, а не с рутинными задачами.

Это вызывает у нас внутренний дискомфорт: в конце концов, как может ИИ — машина — создавать нечто новое и творческое? Проблема в том, что мы часто путаем новизну с оригинальностью. Новые идеи не возникают из эфира, они строятся на основе уже существующих концепций. Специалисты по инновациям давно указывают на ключевую роль рекомбинации в процессе генерации идей. Прорывы часто случаются тогда, когда люди связывают далекие, казалось бы, никак не связанные друг с другом понятия. Возьмем классический пример: братья Райт объединили свой опыт велосипедных механиков с наблюдениями за полетом птиц, чтобы разработать концепцию управляемого самолета, балансирующего и совершающего маневры за счет изгиба крыльев. Они не изобретали велосипед, не были первыми, кто наблюдал за птичьими крыльями, и даже не были первыми, кто попытался построить аэроплан. Вместо этого они первыми увидели связь между этими вещами. Если вы способны связать разрозненные идеи из разных областей и добавить щепотку случайного творчества, у вас есть все шансы создать нечто новое.

LLM — это машины для установления связей. Они обучаются, выстраивая отношения между токенами, которые людям могут показаться никак не связанными, но при этом выражают некий глубинный смысл. Добавьте к этому элемент случайности, присущий результатам работы ИИ, и вы получите мощный инструмент для инноваций. ИИ стремится сгенерировать следующее слово в последовательности, подбирая наиболее вероятный токен, какими бы странными ни были предыдущие слова. Поэтому неудивительно, что ИИ с легкостью придумывает новые концепции. Я попросил ИИ: «Найди мне бизнес-идеи, которые сочетали бы в себе фастфуд, патент № 6,604,835 B2 [который, как оказалось, был выдан на лавовую лампу с кусочками хрусталя] и Англию XIV века».

ИИ предложил следующее:

▪ Ресторан быстрого питания в средневековом стиле, где подают бургеры, картофель фри и молочные коктейли в обстановке, напоминающей замок, а персонал одет в костюмы рыцарей, принцесс и шутов. Ресторан мог бы использовать патент № 6,604,835 B2 для создания декоративных лавовых ламп с плавающими в них драгоценными камнями или монетами, чтобы добавить обеденному залу блеска и атмосферности. Лавовые лампы также можно было бы продавать посетителям в качестве сувениров или подарков. Эта идея могла бы понравиться семьям с детьми, любителям истории или всем, кто ищет веселых и необычных впечатлений от посещения ресторана.

Вы можете ненавидеть эту идею (или любить ее — в зависимости от вашего отношения к ресторанам, построенным вокруг концепции лавовых ламп), но ИИ каким-то образом смог сложить осмысленную картину из тех трех несвязанных идей, которые я ему предложил, и если бы эта мне не понравилась, он с радостью нагенерировал бы еще множество вариантов. И хотя я не уверен, что готов бросить работу, чтобы открыть «Лава-Лэмпшир» (именно так ИИ предложил назвать заведение), подобный ответ действительно демонстрирует определенный уровень творческого потенциала. На самом деле, по результатам многих стандартных психологических тестов на креативность, ИИ уже превосходит людей.

Один из таких тестов известен как тест альтернативного использования (AUT — Alternative Uses Test). Он измеряет способность человека придумывать самые разные способы применения обычного предмета. В ходе этого теста участнику показывают повседневный предмет, например канцелярскую скрепку, и просят предложить как можно больше различных вариантов его использования. Например, скрепкой можно скреплять листы бумаги, взламывать замки или выуживать мелкие предметы из труднодоступных мест. AUT часто используется для оценки способности к дивергентному мышлению и поиску нестандартных идей.

Вы можете попробовать пройти AUT прямо сейчас: придумайте креативные способы использования зубной щетки, никак не связанные с чисткой зубов. Постарайтесь сделать их как можно более непохожими друг на друга. У вас есть две минуты. Я подожду.

Время вышло.

Сколько вариантов у вас получилось? Обычно люди придумывают от 5 до 10. Я попросил ИИ выполнить точно такую же задачу, и он выдал 122 идеи за две минуты (причем версия ИИ, которую я использовал, скорее всего, гораздо медленнее той, что доступна вам во время чтения этой книги). И хотя некоторые варианты были похожи между собой («использовать как щеточку, чтобы очистить грибы от грязи» и «использовать как инструмент для удаления грязи с фруктов»), среди них оказалось и множество интересных идей — от создания тонких текстур на кондитерской глазури до использования щетки в качестве миниатюрной барабанной палочки («идеально подходит для игрушечной барабанной установки в кукольном домике»).

Оригинальны ли эти идеи? Часто это очень трудно определить. ИИ не занимается прямым поиском по базе данных идей; вместо этого он опирается на результаты своего обучения для поиска связей, некоторые из которых наверняка существовали ранее. Поискав в интернете, я обнаружил фотографию 1965 года, на которой запечатлен шотландец, играющий зубными щетками на форме для выпечки, — но невозможно узнать, была ли она частью обучающих данных ИИ. В этом и заключается одна из причин для беспокойства при использовании ИИ в творчестве: поскольку мы не можем легко отследить источники информации, ИИ может использовать элементы работ, защищенных авторским правом или патентами, либо просто заимствовать чей-то стиль без разрешения. Особенно остро эта проблема стоит в сфере генерации изображений, где ИИ вполне способен детально воспроизвести картину «в стиле Пикассо» или «по мотивам Бэнкси» — передать многие характерные черты художника, но без какого-либо человеческого смысла за ними. Мы еще вернемся к вопросу об искусстве и смысле позже, а пока стоит рассмотреть более субъективный критерий: считаем ли мы результаты творчества ИИ оригинальными по сравнению с тем, что способен создать человек?

Именно это и сделали в своей недавней научной работе Дженнифер Хаазе и Пауль Ханель: они предложили людям вслепую оценить креативность ИИ и человека в рамках теста AUT. Протестировав ИИ и 100 человек на различных предметах — от мячей до брюк, — исследователи обнаружили, что по качеству генерации творческих идей модель GPT-4 превзошла всех участников-людей, за исключением 9,4% (согласно оценкам сторонних судей). Учитывая, что GPT-4 была новейшей из протестированных моделей и показала результаты намного лучше предыдущих версий ИИ, можно ожидать, что творческий потенциал искусственного интеллекта со временем будет только расти.

Разумеется, существуют и другие тесты на креативность. Один из популярных — тест отдаленных ассоциаций (RAT — Remote Associates Test). В нем испытуемым предлагают найти общее слово, связывающее три других, казалось бы, никак не связанных между собой. Например, слова pine (сосна), crab (краб) и sauce (соус) связывает слово apple (яблоко) [образуя pineapple — ананас, crabapple — лесная яблоня и applesauce — яблочное пюре]. (Попробуйте сами: какое слово связывает cream (сливки), skate (конек) и water (вода)? ИИ ответил правильно [это слово ice — лед]). Неудивительно, что ИИ, будучи машиной для установления связей, обычно показывает в этом тесте стопроцентный результат.

Хотя подобные психологические тесты весьма любопытны, разработанные для людей методы оценки креативности нельзя назвать исчерпывающими. Всегда существует вероятность того, что ИИ уже сталкивался с результатами аналогичных тестов во время обучения и теперь просто повторяет заученные ответы. К тому же психологическое тестирование не является безусловным доказательством того, что ИИ способен генерировать полезные идеи в реальном мире. Тем не менее у нас есть свидетельства того, что ИИ действительно отлично справляется и с задачами на практическую креативность.

Превосходя человека в изобретательности

Я знаю, что это правда, потому что системы ИИ превосходят в изобретательности студентов на одном из самых известных курсов по инновациям в Уортоне. Избитая шутка гласит, что выпускники MBA — не обязательно самые креативные люди, но Уортон дал жизнь огромному количеству стартапов, и многие из них зародились именно на курсе по инновациям, который ведут профессора Кристиан Тервиш и Карл Ульрих. Вместе со своими коллегами Караном Гиротрой и Леннартом Майнке они устроили конкурс по генерации идей, чтобы придумать лучшие товары для студентов стоимостью не более 50 долларов. ИИ на базе GPT-4 выступил против 200 студентов. Студенты проиграли с разгромным счетом. Разумеется, ИИ оказался быстрее, выдав за отведенное время гораздо больше идей, чем среднестатистический человек. Но его идеи были еще и качественнее. Когда группы судей-людей спрашивали, заинтересовались бы они этими идеями настолько, чтобы купить готовый продукт, идеи ИИ с большей вероятностью вызывали коммерческий интерес. Масштаб победы поражал: из 40 лучших идей, отобранных судьями, 35 принадлежали ChatGPT.

Впрочем, ИИ еще не полностью лишил нас работы в сфере инноваций: другие исследования показывают, что самые творческие люди получают меньше всего пользы от креативной помощи ИИ. Дело в том, что, каким бы изобретательным ни был ИИ, без тщательной проработки промптов он склонен раз за разом выбирать похожие идеи. Концепции могут быть хорошими, даже отличными, но, когда видишь их в большом количестве, они начинают казаться однообразными. Из-за этого большая группа творчески настроенных людей обычно генерирует более разнообразные идеи, чем ИИ. Все это указывает на то, что людям по-прежнему отведена огромная роль в инновациях... но было бы глупо не привлекать ИИ к этому процессу, особенно если вы сами не считаете себя выдающимся творцом.

Очевидно, что некоторые люди от природы наделены исключительным талантом генерировать идеи и могут применять эту способность практически в любом контексте. Действительно, недавние исследования показали, что для креативности справедливо «правило равных шансов» (equal-odds rule): очень творческие люди создают как больше идей, так и лучшие идеи по сравнению с остальными. Способность придумывать множество вариантов не коррелирует с уровнем интеллекта; судя по всему, это особый навык, который у одних есть, а у других отсутствует. До недавнего времени не существовало никаких «протезов» или методик, способных помочь тем, кому генерация идей дается с трудом, работать продуктивнее (за исключением кофе, который действительно стимулирует креативность). Сейчас мы переживаем период, когда ИИ креативен, но явно уступает самым инновационным умам человечества — и это открывает колоссальные возможности для тех, кто в творческом плане отстает. Как мы видели на примере теста AUT, генеративный ИИ превосходно справляется с составлением длинных списков идей. С практической точки зрения ИИ стоит привлекать к любому вашему мозговому штурму.

Так как же использовать ИИ для генерации идей? К счастью, в научных публикациях и других исследованиях инноваций есть отличные подсказки. Привлекая ИИ к генерации идей, будьте готовы к тому, что большинство из них окажутся посредственными. Но это нормально — именно здесь в уравнение вступаете вы как человек. Ваша задача — искать идеи, которые дают толчок вдохновению и поддаются комбинированию, а длинный список сгенерированных вариантов может стать более простой отправной точкой для тех, кому трудно придумывать что-то самостоятельно.

Как же нам это сделать? Представим, что мы хотим придумать 20 вариантов рекламных слоганов для нового интернет-магазина сыров с доставкой по почте. ИИ может сгенерировать их для нас, но мы получим гораздо лучший результат, если вспомним принцип «укажи ИИ его роль»: Вы — эксперт по маркетингу. Когда вас просят придумать слоганы, вы предлагаете разнообразные, умные и интересные варианты. Вы используете тонкую игру слов. Вы стараетесь не повторять темы и идеи. Придумайте 20 вариантов рекламных слоганов для нового интернет-магазина сыров с доставкой по почте, сделайте их непохожими друг на друга, остроумными и креативными.

«“Бри”-ллиантовый путь к вашему порогу!»

«“Сырный” день прямо у ваших дверей!»

«Жизнь хороша с ломтиком нашей Гауды!»

«Растопите сердце с каждой новой посылкой!»

«Смакуйте сыр, доставленный в ваш мир!»

«Доставлено на радость, выдержано на зависть!»

«Из нашего погребка — прямо к вашим желаниям!»

«Новый взгляд на сыр — отправлен для вашего удобства!»

«Ваш паспорт в мир изысканных сыров!»

«Посылка удовольствия: от чеддера до сокровища!»

«Все ваши сырные капризы упакованы и доставлены!»

«Мы делаем вашу жизнь “фета”-лучше с каждой посылкой!»

«Там, где молочные шедевры встречаются с доставкой!»

«Каждая посылка — это фета: чем больше сыра, тем лучше!»

«Забудь про очередь, выбирай дорблю!»

«Скажите “сыр” — и мы его пришлем!»

«Сырная любовь: из нашей коробки на вашу тарелку!»

«Мы вовсе не банальны — начните свою сырную историю!»

«Отличная выдержка, идеальная упаковка!»

«Оцените корочку — любовь доставлена в лучшем виде!»

И... большинство идей ужасны, некоторые бессвязны, а в нескольких есть потенциал (и плоские каламбуры). Генерация 20 идей не заняла у нас ни секунды, и нам ничего не стоило пробежаться по ним глазами, чтобы понять, не натолкнут ли они на мысли получше. Мне лично симпатичны варианты «Забудь про очередь, выбирай дорблю» и «Из нашего погребка — прямо к вашим желаниям!». Но если ни один из них не зацепил вас, попросите еще 20, изменив промпт. Или попросите ИИ ориентироваться на конкретного покупателя (например, на тех, кто только открывает для себя сыры, или на детей) либо как-то иначе поменяйте контекст запроса. Без устали генерировать концепции — это то, в чем ИИ нет равных.

Еще один ключевой аспект генерации идей — это готовность принимать вариативность. Исследования показывают, что для поиска хороших оригинальных идей нам, скорее всего, придется придумать множество плохих оригинальных идей, ведь большинство новых замыслов весьма посредственны. К счастью, мы умеем отлично отсеивать низкокачественные варианты, поэтому, если мы можем генерировать новые идеи быстро и с минимальными затратами, у нас больше шансов получить хотя бы несколько настоящих жемчужин. Так что нам нужно, чтобы ответы ИИ были странными.

Сам по себе ИИ не станет выдавать оригинальные идеи (как мы уже обсуждали, он склонен давать нравящийся большинству «среднестатистический» ответ, наиболее вероятный с точки зрения его обучающих данных), но, приложив немного усилий, мы можем заставить его это сделать. Нам нужно подтолкнуть ИИ уйти от среднего ответа к странному, отличающемуся высокой вариативностью. Мы снова можем сделать это, задав ИИ определенную роль. Заставьте его давать менее очевидные ответы, и вы обнаружите куда более оригинальные сочетания. Представьте, что вы открываете кофейню. Вы могли бы спросить его так: Ты эксперт в решении сложных задач и генерации идей. Когда тебя просят решить проблему, ты предлагаешь оригинальные и творческие идеи. Расскажи подробно о 10 способах, которыми супергерой мог бы приготовить эспрессо, и о том, как эти же эффекты можно было бы гипотетически воплотить в новом продукте.

▪ Ночной Змей — используя свою способность к телепортации, он мог бы перенестись в Италию, чтобы лично поучиться у итальянских бариста, и телепортироваться обратно со свежеприготовленным эспрессо. Новый продукт мог бы связывать пользователей с виртуальными кофейными мастер-классами от экспертов-бариста со всего мира для воссоздания подлинного опыта.

Алая Ведьма — используя свою магию хаоса, она могла бы сотворить потрясающую чашку эспрессо буквально из ничего. Новый продукт мог бы предлагать функцию «Удиви меня», при которой кофемашина случайным образом выбирает сорт зерен, степень помола и способ заваривания, чтобы приготовить неожиданный и восхитительный эспрессо.

Результаты могут служить интересными источниками вдохновения (мне очень нравится идея виртуальных кофейных мастер-классов!), но они все равно требуют участия человека для фильтрации и отбора лучших вариантов. Тем не менее, это позволяет нам делегировать ИИ некоторые из самых сложных аспектов творчества. Когда на своем курсе по предпринимательству я стал требовать от студентов использовать эти методы при генерации стартап-идей, я обнаружил, что качество идей колоссально выросло по сравнению с прошлым годом. Я увидел действительно новые бизнес-идеи вместо бесконечного повторения одних и тех же банальных вариантов (более удобные способы заказа напитков в барах, компании по хранению вещей между семестрами — в конце концов, они ведь студенты). Присутствие ИИ «за столом обсуждений» оказалось доступным источником дополнительных инноваций и свежего взгляда на вещи.

Привлечение ИИ к творческой работе

При более детальном рассмотрении оказывается, что удивительно большой объем работы на самом деле представляет собой творческий труд в той форме, в которой ИИ особенно хорош. Ситуаций, в которых нет единственно верного ответа, где важна изобретательность, а мелкие ошибки могут быть легко замечены опытными пользователями, предостаточно. Написание маркетинговых текстов, оценка эффективности работы сотрудников, стратегические меморандумы — все это под силу ИИ, поскольку здесь есть место для интерпретации, а факты относительно легко проверить. К тому же, поскольку подобные типы документов широко представлены в обучающих данных ИИ и строятся по довольно шаблонным схемам, результаты работы ИИ часто могут казаться лучше человеческих, а создаются они при этом гораздо быстрее.

Эти результаты подтверждаются исследованием экономистов Шаккеда Ноя и Уитни Чжан из Массачусетского технологического института (MIT), которые изучали, как ChatGPT может изменить привычные рабочие процессы. Исследователи попросили участников написать различные типы документов в соответствии с их профессиональными ролями и предложенными сценариями. Например, участники-маркетологи должны были составить пресс-релиз для вымышленного продукта; специалисты по составлению грантовых заявок — написать сопроводительное письмо для заявки на грант; руководители и HR-специалисты — составить длинное электронное письмо для всей компании на деликатную тему; аналитики данных — разработать план анализа в формате блокнота с кодом; а консультанты — подготовить краткий отчет на основе трех предоставленных источников. Некоторым участникам было поручено использовать ИИ, другим — нет. Результаты оказались просто поразительными. Участники, использовавшие ChatGPT, продемонстрировали резкое сокращение времени на выполнение задач — оно уменьшилось на целых 37 процентов. Они не только сэкономили время, но и повысили качество своей работы, согласно оценкам других людей. И эти улучшения не ограничивались какими-то отдельными областями: все распределение времени сместилось в сторону более быстрой работы, а все распределение оценок — в сторону более высокого качества. Исследование также показало, что ИИ-напарники помогли сгладить неравенство в производительности труда. Участники, показавшие более низкие результаты в первом раунде без помощи ИИ, извлекли гораздо больше выгоды из использования ChatGPT, что сократило разрыв между отстающими и лидерами.

Даже то, что на первый взгляд не кажется творчеством, вполне может им являться. ИИ чрезвычайно эффективен в роли ассистента программиста, поскольку написание программного кода сочетает в себе элементы творчества и сопоставления шаблонов. И здесь первые исследования указывают на колоссальный эффект. Когда исследователи из Microsoft поручили программистам использовать ИИ, они зафиксировали рост производительности на 55,8 процента при выполнении тестовых задач. ИИ способен даже превратить людей, далеких от программирования, в своего рода кодеров. Я не умею писать код ни на одном современном языке, но ИИ уже создал для меня десяток программ. Концепция «программирования по намерению» — когда вы просто просите ИИ что-то сделать, а он сам пишет код — вероятно, окажет огромное влияние на отрасль, работники которой в общей сложности зарабатывают 464 миллиарда долларов в год. Один забавный, хоть и менее значимый для экономики пример: теперь свет в моем кабинете мигает разными цветами, когда я кричу «вечеринка»! ИИ сам написал для этого код, пошагово объяснил мне, как настроить учетные записи на различных облачных сервисах, чтобы запустить программу, и исправил все возникшие ошибки.

ИИ также отлично справляется с обобщением данных, поскольку умеет находить общие темы и сжимать информацию, хотя при этом всегда сохраняется риск ошибки. В качестве примера я вставил крошечные научно-фантастические детали в «Великого Гэтсби» — в середине текста Дэзи упоминает свой iPhone, а один из садовников Гэтсби пользуется лазерной газонокосилкой. Я попросил ИИ сказать, кажется ли ему что-нибудь необычным. Он нашел обе ошибки, но при этом выдал галлюцинацию — третью ошибку (упоминание текстовых сообщений, которого в тексте не было). Забавно, что он также указал на утверждение, которое показалось ему неубедительным: Усадьба Гэтсби занимала сорок акров земли, что маловероятно для густонаселенного Лонг-Айленда.

Эта способность проводить качественный анализ и обобщение полезна не только при обсуждении вымышленной недвижимости Гэтсби — она имеет и вполне реальные финансовые последствия. В исследовании, проведенном учеными из Чикагского университета, ChatGPT использовался для анализа стенограмм конференц-звонков крупных компаний: ИИ просили обобщить риски, с которыми те сталкиваются. Риск, очевидно, играет огромную роль в доходности фондового рынка, поэтому финансовые компании тратили массу времени и денег на использование специализированных, более старых форм машинного обучения, пытаясь выявить факторы неопределенности, связанные с деятельностью различных корпораций. ChatGPT, не обладая специальными знаниями о фондовом рынке, как правило, превосходил эти более узкопрофильные модели, выступая в роли «мощного предиктора будущей волатильности цен на акции». Фактически именно способность ИИ применять более общие знания о мире сделала его столь хорошим аналитиком, поскольку он мог поместить риски, обсуждаемые в ходе конференц-звонков, в более широкий контекст. Проблема галлюцинаций здесь была менее важна, поскольку ИИ нужно было просто превзойти по точности лучшие компьютерные системы, с чем он успешно справился.

Конечно, открытым остается вопрос о том, насколько ИИ точнее или менее точен, чем человек, и компенсируют ли его расширенные возможности выполнять творческую, человеческую работу совершаемые им ошибки. Компромиссы здесь часто оказываются неожиданными. В статье, опубликованной в журнале Journal of the American Medical Association: Internal Medicine, исследователи попросили ChatGPT-3.5 ответить на медицинские вопросы из интернета, а затем медицинские работники оценили как ответы ИИ, так и ответы, предоставленные реальными врачами. При этом ответы ИИ почти в 10 раз чаще оценивались как очень эмпатичные по сравнению с ответами человека и в 3,6 раза чаще признавались содержащими качественную информацию по сравнению с ответами врачей-людей. Системы ИИ могут выполнять полезные задачи, которые традиционно не считаются творческой работой, и в ближайшие месяцы и годы мы, вероятно, увидим еще больше вариантов их применения.

Но что происходит, когда ИИ вторгается в самые сокровенные человеческие творческие сферы — в искусство? Художники с тревогой реагируют на стремительное наступление инструментов ИИ. Частично это беспокойство носит эстетический характер. «Гротескное издевательство над тем, что значит быть человеком» — так знаменитый музыкант Ник Кейв описал попытку ИИ создать текст песни «в стиле Ника Кейва». Мультипликатор Хаяо Миядзаки назвал искусство ИИ «оскорблением самой жизни». Когда один художник победил в конкурсе с работой, созданной ИИ, это вызвало бурю возмущения, но сам победитель встал на защиту своего творения: «Искусство мертво, чувак. Все кончено. ИИ победил. Люди проиграли».

Спор о смысле искусства ведется уже давно, и его вряд ли удастся разрешить в этой или любой другой книге. И ту тревогу, которую испытывают сегодня художники, вскоре могут ощутить представители многих других профессий, по мере того как ИИ начнет пересекаться с их обязанностями. И все же это может оказаться не крахом искусства и творчества, а их возрождением.

ИИ обучается на огромных пластах культурного наследия человечества, поэтому эффективнее всего им могут управлять люди, обладающие глубокими знаниями этого наследия. Чтобы заставить ИИ создавать нечто уникальное, вам нужно понимать культуру глубже, чем остальные пользователи тех же систем. Так что теперь во многих отношениях именно гуманитарии способны писать самый интересный «код». Писатели часто лучше всех формулируют промты для создания текстов с помощью ИИ, поскольку они умеют описывать эффекты, которые должна производить проза («закончи на зловещей ноте», «сделай тон все более лихорадочным»). Они хорошие редакторы, поэтому могут возвращать ИИ точные указания («сделай второй абзац более живым»). Они могут быстро экспериментировать с аудиторией и стилями, зная множество примеров тех и других («напиши это так, будто текст предназначен для The New Yorker», «сделай это в стиле Джона Макфи»). И они умеют управлять повествованием, направляя ход мыслей ИИ в нужное русло. ChatGPT не станет выдумывать интервью Джорджа Вашингтона с Терри Гросс, потому что такой сценарий кажется неправдоподобным. Но если вы убедите его, что у Джорджа Вашингтона могла быть машина времени, он с радостью пойдет вам навстречу.

Похожее явление происходит и в изобразительном искусстве. Генераторы изображений на базе ИИ глубоко изучили шедевры живописи прошлого, акварели, архитектуру и фотографии, моду и исторические снимки. Чтобы создать что-то действительно интересное с помощью ИИ, вам нужно задействовать эти ассоциации для получения принципиально нового образа. Но то, что большинство людей на самом деле создают с помощью ИИ-инструментов, выглядит совершенно иначе и гораздо менее амбициозно. Появляется огромное количество изображений по «Звездным войнам», множество фейковых фотографий кинозвезд, аниме, киберпанка, супергероев (особенно Человека-паука) и, как ни странно, ОГРОМНОЕ количество мраморных статуй знаменитостей. Получив в свое распоряжение машину, способную создать все что угодно, мы по-прежнему по умолчанию выбираем то, что нам хорошо знакомо.

Но ИИ способен на гораздо более интересные вещи! Он может создать мраморную статую Человека-паука, но также способен выдать потрясающую гравюру укиё-э с тем же Человеком-пауком, или Человека-паука в стиле Альфонса Мухи, или даже изображения, вообще не связанные с Человеком-пауком (о ужас!). Но нужно знать, о чем просить. Результатом стало странное возрождение интереса к истории искусств среди тех, кто пользуется ИИ-системами: будущие ИИ-художники делятся друг с другом огромными электронными таблицами с художественными стилями. Чем больше люди знают об истории искусств и художественных стилях в целом, тем мощнее становятся эти системы. К тому же люди, уважающие искусство, возможно, охотнее будут воздерживаться от использования ИИ для подражания стилю ныне живущих и работающих художников. Так что более глубокое понимание искусства и его истории может привести не только к созданию более качественных изображений, но и, как хочется надеяться, к более ответственному подходу к их созданию.

Наши новые ИИ были обучены на огромном объеме нашей культурной истории и используют ее, чтобы выдавать нам тексты и изображения в ответ на наши запросы. Но не существует ни указателя, ни карты того, что именно они знают и где могут оказаться наиболее полезными. Поэтому нам нужны люди с глубокими или широкими познаниями в необычных областях, которые могли бы использовать ИИ так, как не умеют другие, — разрабатывать неожиданные и ценные промты и прощупывать границы его возможностей. ИИ может подстегнуть интерес к гуманитарным наукам как к востребованному направлению обучения, поскольку именно гуманитарные знания дают пользователям ИИ уникальную квалификацию для работы с ним.

Смысл творческой работы

Если ИИ уже сейчас пишет тексты лучше большинства людей и превосходит их в креативности, что это значит для будущего творческого труда?

Хотя мы обсудим последствия для рынка труда в следующей главе, здесь есть и очень весомые плюсы. Не каждый из нас Ник Кейв или Хаяо Миядзаки (очевидно) и даже близко не стоит к такому уровню таланта. Но многие люди хотят выразить себя в творчестве, и поразительно немногие чувствуют, что способны на это. В ходе одного опроса репрезентативной выборке людей задали вопрос, чувствуют ли они, что реализуют свой творческий потенциал. Только 31 процент ответил утвердительно. В мире накопилось много нереализованной творческой энергии.

В какой-то степени я и сам был одним из них. Я вырос в творческой семье: моя мама художница, одна сестра — графический дизайнер, а другая снимает голливудские фильмы. Но, несмотря на многочисленные уроки, я совершенно не силен в изобразительном искусстве. Я честно пытался. Курсы живописи, уроки рисования, онлайн-руководства. Моей подготовки достаточно лишь для того, чтобы понимать: я весьма посредственен. К счастью, есть множество других видов творческого самовыражения, которые даются мне сносно. Я пишу книги (что очевидно) и разрабатываю игры, но визуальное искусство никогда не было моей сильной стороной.

Всё изменилось 28 июля 2022 года. Именно в этот день я впервые получил доступ к ИИ-генератору изображений Midjourney. Его возможности зацепили меня почти мгновенно, и весь день я посвятил созданию художественных столбчатых диаграмм (поймите меня правильно, я ученый, графики у нас в крови). Я начал выкладывать их в Твиттере. К следующему дню тред лайкнули более 20 000 человек. Коллеги-ученые рассказывали мне, что распечатывали их и вешали на стены. Я создал то, что понравилось другим людям.

Было ли это искусством? Пожалуй, нет — да и в любом случае это вопрос к философам. Но я знаю, что это творчество. Я испытываю трепет созидания, то ощущение потока при попытке создать образ, которое возникает только при глубокой вовлеченности и концентрации. Мне часто приходится генерировать и изменять десятки изображений, чтобы получить то, которое мне понравится. Многие эксперименты заканчиваются неудачно, но разработка промтов, загрузка изображений обратно в ИИ и ожидание результата все равно приносят радость. Я знаю, что для этого требуются определенные навыки. Я учился у более талантливых людей, которые делились своими результатами и руководствами в сети, и провел массу собственных экспериментов. Я довольно неплохо наловчился в этом деле, и я знаю это потому, что люди, впервые использующие эти инструменты, не смогут добиться таких же результатов. Я также знаю, что это полезно. Я создаю вещи, которые нравятся другим (при этом я по-прежнему нанимаю столько же профессиональных художников, сколько и раньше, когда мне требуется тщательная работа над новыми проектами). Возможно, это и не искусство, но оно приносит творческое удовлетворение и имеет ценность. И это то, чего я никогда не мог делать раньше.

Подобные эффекты выходят далеко за рамки искусства. Генеративный ИИ дает людям новые способы самовыражения и новые языки для их творческих импульсов — порой в буквальном смысле. Мои студенты признавались, что их не принимали всерьез из-за того, что они плохо писали. Благодаря ИИ их письменные работы больше не тянут их назад, и они получают предложения о работе на основании своего опыта и прохождения собеседований. С тех пор как я сделал использование ИИ обязательным на своих занятиях, я вообще больше не вижу плохо написанных работ. И, как убеждаются мои студенты, если работать с ИИ интерактивно, результат не кажется шаблонным — возникает ощущение, что его создал человек.

Тем не менее было бы наивно видеть здесь одни лишь плюсы. Особенно сейчас, когда результаты работы ИИ становится так легко генерировать простым нажатием кнопки. И это в буквальном смысле, поскольку каждое крупное офисное приложение и почтовый клиент будут содержать кнопку, помогающую составить черновик вашей работы. Она заслуживает написания с большой буквы: Кнопка.

Столкнувшись с тиранией чистого листа, люди будут нажимать Кнопку. Начать с чего-то гораздо легче, чем с абсолютного нуля. Студенты будут использовать ее для начала эссе. Менеджеры — для составления писем, отчетов или документов. Преподаватели — для подготовки отзывов на работы. Ученые — для написания заявок на гранты. Концепт-художники — для набросков первого черновика. Все будут использовать Кнопку.

Последствия того, что ИИ пишет за нас первые черновики (даже если мы сами дорабатываем текст, что вовсе не гарантировано), огромны. Одно из них заключается в том, что мы можем утратить креативность и оригинальность. Используя ИИ для создания первых набросков, мы склонны привязываться к первой же идее, предложенной машиной, и это предопределяет нашу дальнейшую работу. Даже если мы полностью перепишем эти черновики, они все равно сохранят на себе отпечаток влияния ИИ. Мы лишимся возможности рассмотреть иные перспективы и альтернативы, которые могли бы привести к более удачным решениям и инсайтам.

Еще одно последствие — снижение качества и глубины нашего мышления и рассуждений. Когда мы поручаем ИИ создание первых черновиков, нам больше не нужно думать над написанным так же напряженно или глубоко. Мы полагаемся на машину, перекладывая на нее тяжелую работу по анализу и синтезу, и сами перестаем мыслить критически и рефлексивно. Мы также упускаем возможность учиться на собственных ошибках и обратной связи, как и шанс выработать собственный стиль.

Уже сейчас есть подтверждения того, что это станет проблемой. Упомянутое ранее исследование MIT показало, что ChatGPT в основном служит заменой человеческих усилий, а не дополнением к нашим навыкам. На самом деле подавляющее большинство участников даже не утруждали себя редактированием того, что выдал ИИ. С этой проблемой я сталкиваюсь постоянно, когда люди только начинают пользоваться ИИ: они просто вставляют скопированный вопрос и позволяют ИИ ответить за них.

Многие виды работы требуют много времени по самой своей сути. В мире, где ИИ предлагает мгновенный, вполне качественный и практически общедоступный способ срезать углы, мы вскоре столкнемся с кризисом смысла в творческой работе любого рода. Отчасти это связано с тем, что мы ожидаем от творческого труда глубоких размышлений и правок, но также и с тем, что время часто служит подтверждением вложенных усилий. Возьмем, к примеру, рекомендательное письмо. Профессоров постоянно просят писать рекомендации для студентов, а написание хорошего письма требует немало времени. Нужно понимать студента и цель этого письма, решить, как лучше его сформулировать, чтобы оно соответствовало требованиям вакансии и сильным сторонам студента, и многое другое. В этой трудоемкости отчасти и кроется вся суть. То, что профессор находит время на написание хорошего письма, служит сигналом: он действительно поддерживает кандидатуру студента. Мы буквально сжигаем свое время, чтобы дать понять адресату: это письмо стоит прочесть.

Или мы можем нажать Кнопку.

И проблема в том, что письмо, сгенерированное ИИ, будет хорошим. Не просто грамматически правильным, а убедительным и глубоким для человека-читателя. Оно окажется лучше большинства рекомендательных писем, которые получаю я сам. Это означает не только то, что качество письма больше не служит показателем искренней заинтересованности профессора, но и то, что вы можете навредить людям, если откажетесь от помощи ИИ при написании рекомендаций, — особенно если сами вы пишете не очень хорошо. И теперь людям приходится мириться с тем, что цель письма (помочь студенту получить работу) вступает в противоречие с морально верным способом ее достижения (когда профессор тратит кучу времени на самостоятельное написание). Я все еще пишу все свои письма по старинке, но задаюсь вопросом: не окажет ли это в итоге моим студентам медвежью услугу?

А теперь подумайте обо всех остальных задачах, где итоговый письменный результат важен именно как свидетельство потраченного времени и вложенных размышлений: аттестации сотрудников, стратегические меморандумы, студенческие эссе, заявки на гранты, речи для выступлений, отзывы на научные работы. И многое-многое другое.

И тут Кнопка начинает искушать каждого. Работу, которая была скучной, но наполненной смыслом, когда ее выполняли люди (например, оценку эффективности сотрудников), становится легко перепоручить машине — при этом видимое качество результата только выигрывает. Мы начинаем создавать документы преимущественно с помощью ИИ, отправляя их на почтовые ящики, управляемые ИИ, где адресаты отвечают на них также в основном с помощью ИИ. Хуже того, мы можем по-прежнему писать отчеты вручную, понимая, что ни один человек их на самом деле не читает. Подобные бессмысленные задачи, которые теоретики менеджмента называют «чистой воды ритуалом», существовали всегда. Но ИИ лишит смысла множество задач, которые раньше приносили пользу. Он также разрушит фасад, который прежде маскировал бессмысленную работу. Возможно, мы не всегда знали, имеет ли наша работа значение в масштабах всей компании, но в большинстве организаций люди в вашем подразделении искренне чувствовали ее ценность. Когда же результаты работы, сгенерированные ИИ, отправляются на оценку другим ИИ, это ощущение смысла бесследно исчезает.

Нам придется заново выстраивать смысл — и в искусстве, и в ритуалах творческого труда. Это непростой процесс, но мы уже проходили его, и не раз. Если раньше музыканты зарабатывали на пластинках, то теперь их благополучие зависит от умения давать отличные живые концерты. Когда фотография сделала реалистичную масляную живопись устаревшей, художники начали раздвигать границы самой фотографии как искусства. Когда электронные таблицы избавили клерков от необходимости вносить данные вручную, их обязанности сместились в сторону решения более глобальных задач. Как мы увидим в следующей главе, этот сдвиг в понимании смысла окажет колоссальное влияние на сферу труда.