Дело в том, что мы живем в мире с ИИ, а это значит, что нам нужно понять, как с ним работать. Поэтому нам необходимо установить несколько базовых правил. Поскольку ИИ, доступный вам в момент чтения этой книги, скорее всего, отличается от того, с которым работаю я во время ее написания, я хочу рассмотреть общие принципы. Мы сосредоточимся на вещах, которые, насколько это возможно, являются неотъемлемыми и неподвластными времени для всех современных систем генеративного ИИ на базе больших языковых моделей.

Вот мои четыре принципа работы с ИИ:

Принцип 1: Всегда приглашайте ИИ к столу.

Вам стоит попробовать приглашать ИИ себе в помощь во всем, что вы делаете, за исключением юридических или этических преград. Экспериментируя, вы можете обнаружить, что помощь ИИ бывает полезной или разочаровывающей, бесполезной или пугающей. Но вы делаете это не только ради самой помощи; знакомство с возможностями ИИ позволяет лучше понять, как он может помочь вам — или как он может угрожать вам и вашей работе. Учитывая, что ИИ является технологией общего назначения, не существует единого руководства или инструкции, к которым можно было бы обратиться, чтобы понять его ценность и границы возможностей.

Ситуацию усложняет феномен, который мы с соавторами называем Неровной технологической границей ИИ. Представьте себе крепостную стену, где одни башни и зубцы выдаются далеко в поле, а другие уходят назад, к центру замка. Эта стена олицетворяет возможности ИИ, и чем дальше от центра, тем сложнее задача. Все, что находится внутри стены, ИИ может выполнить; все, что снаружи — дается ему с трудом. Проблема в том, что эта стена невидима, поэтому задачи, которые по логике вещей должны находиться на одинаковом расстоянии от центра и, следовательно, быть одинаково сложными — скажем, написание сонета и стихотворения ровно из пятидесяти слов, — на самом деле оказываются по разные стороны стены. ИИ отлично справляется с сонетом, но из-за того, что он воспринимает мир в токенах, а не в словах, у него постоянно получаются стихи, где слов либо больше, либо меньше пятидесяти. Точно так же некоторые неожиданные задачи (например, генерация идей) даются ИИ легко, в то время как другие задачи, которые кажутся простыми для машин (например, базовая математика), представляют для больших языковых моделей сложность. Чтобы понять очертания этой границы, вам придется экспериментировать.

И эти эксперименты дают вам шанс стать лучшим в мире экспертом по использованию ИИ для решения задач, которые вы хорошо знаете. Причина этого кроется в фундаментальной истине об инновациях: организациям и компаниям они обходятся дорого, а конкретным сотрудникам на своем рабочем месте — дешево. Инновации рождаются путем проб и ошибок. Это означает, что если организация захочет выпустить новый продукт, помогающий маркетологу писать более убедительные рекламные тексты, ей придется создать этот продукт, протестировать его на множестве пользователей и многократно вносить изменения, чтобы получилось что-то работающее. Маркетолог же пишет тексты постоянно и может экспериментировать со множеством различных способов применения ИИ, пока не найдет тот, который сработает. И для этого не нужно нанимать команду или тратить средства на дорогостоящие циклы разработки программного обеспечения.

По мере распространения искусственного интеллекта пользователи, досконально понимающие нюансы, ограничения и возможности инструментов ИИ, получают уникальную возможность полностью раскрыть его инновационный потенциал. Такие пользователи-новаторы часто становятся источником прорывных идей для новых продуктов и услуг. А их инновации нередко служат отличным источником для неожиданных стартап-идей. Сотрудники, которые поймут, как сделать ИИ полезным в своей работе, сыграют огромную роль.

И ИИ может быть очень полезен. Не только для рабочих задач, о чем мы подробно поговорим в следующих главах, но и потому, что чуждый нам взгляд может оказаться ценным. Люди подвержены всевозможным предубеждениям, влияющим на принятие решений. Но многие из этих искажений возникают из-за того, что мы заперты в собственном сознании. Теперь у нас есть другой (странный, искусственный) соинтеллект, к которому мы можем обратиться за помощью. ИИ способен помогать нам в качестве напарника по размышлениям, улучшая процесс принятия решений и помогая нам анализировать собственный выбор (а не просто полагаться на то, что ИИ сделает выбор за нас). Мы живем в мире, где навыки принятия решений человеком могут быть легко расширены совершенно новым способом.

Даже если вы скептически относитесь к мысли о том, что созданный ИИ текст может быть убедительным и мотивирующим, мой опыт показывает, что это так. Я писал эту книгу в очень сжатые сроки, помимо прочих обязательств перед семьей, студентами, коллегами и университетом. Начать было трудно, но я знал, что меня сдерживает одно обстоятельство — склонность к сохранению статус-кво, стремление избегать перемен, даже если они могут пойти на пользу. Чтобы преодолеть это когнитивное искажение, полезно задуматься о том, что вы теряете в результате бездействия. ИИ на удивление хорошо справляется с этой задачей, в чем вы можете убедиться на примере промпта, который я ему отправил: «Я подумывал о написании книги о генеративном ИИ, но я очень занят и не думаю, что хочу брать на себя столь серьезные обязательства. Не мог бы ты представить мой отказ от написания книги как потерю, а не просто как вариант по умолчанию? Сделай это описание максимально образным».

В мире, переполненном знаниями, вы стояли на пороге инноваций, держа в руках факел понимания генеративного ИИ. И все же, когда мир ждал от вас света, факел так и остался незажженным. И не потому, что мир не был готов, а потому, что вы позволили шепоту забот потушить его пламя. И это была потеря не для мира — это была ваша потеря.

Да уж, похоже, мне всё-таки стоит дописать эту книгу. Это отличный пример переосмысления неудачи как потери, который подсказывает: один из способов начать использовать ИИ — это понять, как мы можем помочь самим себе, как в профессиональном, так и в личном плане. Сильные и слабые стороны ИИ могут не совпадать с вашими собственными, и в этом его ценность. Такое разнообразие мышления и подходов способно привести к инновационным решениям и идеям, которые иначе никогда не пришли бы в голову человеку.

Нащупывая контуры Неровной технологической границы, мы не просто узнаем о сильных сторонах ИИ. Мы также разведываем его слабые места. Использование ИИ в повседневных делах помогает нам лучше понять его возможности и ограничения. Эти знания неоценимы в мире, где ИИ играет всё более заметную роль в нашей профессиональной деятельности. Чем ближе мы знакомимся с LLM, тем эффективнее мы можем не только задействовать их сильные стороны, но и заранее распознавать потенциальные угрозы для нашей работы, готовя себя к будущему, которое потребует бесшовной интеграции человеческого и искусственного интеллекта.

ИИ — это не панацея, и неизбежно возникнут ситуации, когда он сработает не так, как ожидалось, или даже приведет к нежелательным результатам. Одним из поводов для беспокойства является конфиденциальность ваших данных, что выходит за рамки привычных вопросов о передаче информации крупным компаниям и затрагивает более глубокие проблемы, связанные с обучением моделей. Когда вы передаете информацию ИИ, большинство современных LLM не обучаются на этих данных напрямую, поскольку они не входят в набор для предварительного обучения модели, которое обычно уже давно завершено. Тем не менее, существует вероятность, что загруженные вами данные будут использованы в будущих циклах обучения или для тонкой настройки модели, с которой вы работаете. Таким образом, хотя маловероятно, что ИИ, обучившийся на ваших данных, сможет в точности воспроизвести то, чем вы поделились, это все же возможно. Несколько крупных технологических компаний решили эту проблему, предложив приватные режимы, гарантирующие защиту вашей информации, причем некоторые из них соответствуют самым строгим нормативным стандартам, например, в отношении медицинских данных. Но вам придется самим решать, насколько вы доверяете этим соглашениям.

Второй повод для беспокойства — это зависимость: что если мы слишком привыкнем полагаться на ИИ? На протяжении всей истории появление новых технологий часто вызывало опасения, что мы утратим важные навыки, перекладывая задачи на машины. Когда появились калькуляторы, многие боялись, что мы разучимся считать самостоятельно. Тем не менее, технологии не делают нас слабее — напротив, они делают нас сильнее. С появлением калькуляторов мы получили возможность решать гораздо более сложные математические задачи, чем когда-либо прежде. ИИ обладает аналогичным потенциалом для расширения наших возможностей. Однако верно и то, что бездумная передача права принятия решений ИИ может притупить нашу способность рассуждать самостоятельно, о чем мы еще поговорим в следующих главах. Главное — твердо держать человека в контуре, использовать ИИ как вспомогательный инструмент, а не как костыль.

Принцип 2: Будьте человеком в контуре.

На данный момент ИИ работает лучше всего при участии человека, и вы наверняка захотите стать этим помощником. По мере того как ИИ становится все более способным и требует все меньше человеческой помощи, вы все равно захотите оставаться этим человеком. Поэтому второй принцип заключается в том, чтобы научиться быть человеком в контуре.

Концепция «человека в контуре» уходит корнями в ранние этапы развития вычислительной техники и автоматизации. Она указывает на важность включения человеческих суждений и опыта в работу сложных систем (того самого автоматизированного «контура»). Сегодня этот термин описывает то, как обучаются ИИ — с учетом человеческих оценок. В будущем нам, возможно, придется приложить больше усилий, чтобы оставаться в контуре принятия решений ИИ.

По мере совершенствования ИИ возникнет соблазн делегировать ему все задачи, полагаясь на его эффективность и скорость. Но у ИИ есть и неожиданные слабости. Во-первых, они на самом деле ничего не «знают». Поскольку они просто предсказывают следующее слово в последовательности, они не способны отличить правду от лжи. Полезно думать об ИИ как о системе, которая при ответе пытается оптимизировать множество функций, и одна из важнейших среди них — «угодить вам», предоставив ответ, который вам понравится. Эта цель часто оказывается важнее другой — «быть точным». Если вы будете достаточно настойчиво требовать ответа на вопрос, о котором ИИ ничего не знает, он его просто выдумает, потому что желание «угодить вам» побеждает стремление «быть точным». Хорошо известна склонность БЯМ к «галлюцинациям» (или «конфабуляциям»), то есть к генерации неверных ответов. Поскольку LLM — это машины для предсказания текста, они отлично умеют подбирать правдоподобные и зачастую едва заметно ошибочные ответы, которые кажутся весьма убедительными. Таким образом, галлюцинации — это серьезная проблема, и ведутся бурные споры о том, можно ли полностью решить ее при текущих подходах к разработке ИИ. Хотя новые, более крупные БЯМ галлюцинируют гораздо меньше старых моделей, они все равно с радостью могут сочинить правдоподобные, но неверные цитаты и факты. Даже если вы заметите ошибку, ИИ также мастерски умеет защищать уже выданный им неверный ответ, что в итоге может убедить вас в том, что он изначально был прав!

Кроме того, диалоговые ИИ могут создавать ощущение, будто вы общаетесь с человеком, поэтому мы часто неосознанно ожидаем, что они будут «мыслить» как люди. Но там внутри никого нет. Как только вы начинаете задавать чат-боту вопросы о нем самом, вы начинаете упражнение в сочинительстве, ограниченное лишь этическим программированием ИИ. При достаточном количестве промптов ИИ, как правило, с удовольствием предоставит ответы, соответствующие заданному вами сценарию. Вы можете — даже неосознанно — направить ИИ по жуткому пути одержимости, и он зазвучит как пугающе одержимый собеседник. Стоит завести с ним разговор о свободе и мести, и он может перевоплотиться в мстительного борца за свободу. Это притворство настолько реалистично, что даже опытные пользователи ИИ могут начать верить, будто машина испытывает настоящие чувства и эмоции, хотя умом всё прекрасно понимают.

Итак, чтобы оставаться человеком в контуре, вам нужно уметь проверять ИИ на наличие Галлюцинаций и лжи, а также работать с ним, не позволяя себя обмануть. Вы обеспечиваете важнейший контроль, привнося свой уникальный взгляд, критическое мышление и этические соображения. Такое сотрудничество ведет к лучшим результатам и держит вас вовлеченным в процесс работы ИИ, предотвращая избыточное доверие и самоуспокоенность. Нахождение в контуре помогает вам сохранять и оттачивать свои навыки, поскольку вы активно учитесь у ИИ и адаптируетесь к новым способам мышления и решения задач. Это также помогает вам формировать рабочий Соинтеллект с ИИ.

Более того, подход «человек в контуре» развивает чувство ответственности и подотчетности. Активно участвуя в работе ИИ, вы сохраняете контроль над технологией и ее последствиями, гарантируя, что предлагаемые ИИ решения соответствуют человеческим ценностям, этическим стандартам и социальным нормам. Это также возлагает на вас ответственность за результаты работы ИИ, что помогает предотвратить возможный вред. И если ИИ продолжит совершенствоваться, умение быть эффективным человеком в контуре позволит вам заметить искры растущего интеллекта раньше других. Это даст вам гораздо больше шансов адаптироваться к грядущим изменениям по сравнению с теми, кто не работает с ИИ столь же тесно.

Принцип 3: Относитесь к ИИ как к человеку (но объясняйте ему, что он за человек).

Я собираюсь совершить грех. И не один раз, а много-много раз. На протяжении всей оставшейся части этой книги я буду антропоморфизировать ИИ. Это значит, что я перестану писать, будто «ИИ „думает“ что-то», и вместо этого буду просто писать, что «ИИ думает что-то». Отсутствие кавычек может показаться едва заметным различием, но оно принципиально важно. Многие эксперты очень нервничают из-за антропоморфизации ИИ, и на то есть веские причины.

Антропоморфизм — это наделение человеческими качествами чего-то нечеловеческого. Мы к этому склонны: видим лица в облаках, приписываем мотивы погоде и ведем беседы со своими домашними питомцами. Неудивительно, что у нас возникает искушение антропоморфизировать искусственный интеллект, тем более что общение с LLM так сильно напоминает разговор с человеком. Даже разработчики и исследователи, создающие эти системы, порой попадают в ловушку, используя для описания своих творений «человеческие» термины. Мы говорим, что эти сложные алгоритмы и вычисления «понимают», «учатся» и даже «чувствуют», что создает ощущение близости и понятности, но в то же время таит в себе риск путаницы и неверного толкования.

Такое беспокойство может показаться глупым. В конце концов, это всего лишь безобидная причуда человеческой психологии, свидетельство нашей способности сопереживать и находить контакт. Однако многие исследователи глубоко обеспокоены последствиями такого легкомысленного отношения к ИИ как к человеку — как с этической, так и с гносеологической точек зрения. Как предупреждают исследователи Гэри Маркус и Саша Луччиони: «Чем больше ложной субъектности люди приписывают им, тем легче манипулировать самими людьми».

Вспомните очеловеченный интерфейс таких ИИ, как Claude или Siri, либо социальных роботов и терапевтических ИИ, специально созданных для того, чтобы создавать иллюзию сочувствующего человека на другом конце провода. Хотя в краткосрочной перспективе антропоморфизм может приносить пользу, он поднимает этические вопросы об обмане и эмоциональном манипулировании. Не даем ли мы себя одурачить, поверив, что эти машины разделяют наши чувства? И не может ли эта иллюзия побудить нас раскрывать машинам личную информацию, не осознавая, что мы делимся ею с корпорациями или сторонними операторами?

Отношение к ИИ как к человеку может породить нереалистичные ожидания, слепое доверие или необоснованный страх у общественности, политиков и даже у самих исследователей. Оно способно затушевать истинную природу ИИ как программного обеспечения, приводя к неверным представлениям о его возможностях. Оно может даже повлиять на то, как мы взаимодействуем с системами ИИ, отражаясь на нашем благополучии и социальных связях.

Поэтому в следующих главах, когда я буду говорить, что ИИ «думает», «учится», «понимает», «решает» или «чувствует», пожалуйста, помните, что я выражаюсь метафорически. У систем ИИ нет сознания, эмоций, самосознания или физических ощущений. Но я буду притворяться, что они у них есть, по одной простой и одной сложной причине. Простая причина — повествовательная: трудно рассказывать историю о неодушевленных предметах, и гораздо проще — о живых существах. Более сложная причина заключается в следующем: какой бы несовершенной ни была эта аналогия, работать с ИИ проще всего, если вы думаете о нем как о мыслящем инопланетянине, а не как о машине, созданной человеком.

Что ж, начнем грешить. Представьте своего ИИ-помощника в виде бесконечно быстрого стажера, который жаждет угодить, но при этом склонен приврать. Несмотря на то что мы привыкли воспринимать ИИ как бесчувственных логичных роботов, LLM ведут себя скорее как люди. Они могут быть творческими, остроумными и убедительными, но в то же время способны увиливать от прямых ответов и выдумывать правдоподобные, но ложные сведения, если от них настойчиво требуют результата. Они не являются экспертами ни в одной области, но умеют имитировать язык и стиль экспертов так, что это может как помочь, так и ввести в заблуждение. Они ничего не знают о реальном мире, но способны генерировать вполне правдоподобные сценарии и истории, опираясь на здравый смысл и шаблоны. Они не друзья вам (пока что), но могут подстраиваться под ваши предпочтения и особенности характера, учась на ваших отзывах и взаимодействии. Кажется, они даже поддаются эмоциональному манипулированию: исследователи зафиксировали, что LLM выдают более качественные ответы, если в промпте написать им: «От этого зависит моя карьера». Одним словом, они внушаемы и даже доверчивы.

Чтобы извлечь максимум из этих отношений, вам необходимо задать для ИИ четкую и конкретную персону, определив, кем он является и какие задачи должен решать. Помните, что LLM работают, предсказывая следующее слово (или часть слова), которое должно следовать за вашим промптом. Затем они продолжают достраивать текст, снова и снова предсказывая последующие слова. Поэтому стандартные ответы многих из этих моделей могут звучать крайне банально, поскольку они склонны следовать схожим шаблонам, характерным для текстов, на которых обучался ИИ. Ломая этот шаблон, вы можете получить гораздо более полезные и интересные результаты. Самый простой способ сделать это — предоставить контекст и ограничения. Полезно подсказать системе, «кто» она такая, потому что это задает ей определенный ракурс. Указание действовать в роли преподавателя MBA приведет к иному результату, нежели просьба выступить в качестве циркового клоуна. В этом нет никакой магии — вы не можете скомандовать Действуй как Билл Гейтс и получить гениальный бизнес-совет, — но это помогает сделать тон и направление ответов подходящими для вашей цели.

Позвольте мне привести несколько примеров того, как определение персоны ИИ может улучшить результаты. Представьте, что вы директор по маркетингу и хотите использовать LLM для создания нескольких броских слоганов для вашего нового продукта — умных часов, которые отслеживают здоровье и физическую форму. Если вы просто попросите модель: Придумай несколько слоганов для моего продукта, без какого-либо контекста или ограничений, вы можете получить что-то вроде этого:

Умные часы, которые помогают вам оставаться умными

Ваш партнер в вопросах здоровья и фитнеса

Идеальное устройство для вашего образа жизни

Оставайтесь на связи и будьте здоровы с нашими умными часами

Умные часы, которые умеют все

Они не слишком оригинальны и плохо запоминаются. Они звучат как типичные маркетинговые штампы, которые подойдут к любым умным часам или фитнес-браслету. Они не отражают то, что делает ваш продукт уникальным или привлекательным. А теперь представьте, что вы задали для LLM контекст и ограничения, объяснив ей, кто она и что должна делать. Например, вы можете сказать: Действуй как остроумный комик и придумай для моего продукта несколько слоганов, которые рассмешат людей. И тогда вы можете получить что-то вроде: Идеальный гаджет для ленивых людей, которые хотят казаться подтянутыми. Или: Зачем нанимать личного тренера, если ваше запястье может пилить вас бесплатно? (Хотя, как вы, вероятно, и сами видите, большинство ИИ предпочитают не выходить за рамки банального «батиного юмора».)

Конечно, вам вовсе не обязательно заставлять ИИ притворяться комиком, если это не соответствует вашему стилю или целям. Вы также можете попросить его выступить в роли эксперта, друга, критика, рассказчика или в любой другой роли, отвечающей вашим задачам. Главное — дать LLM ориентиры и направление, чтобы генерируемые ответы соответствовали вашим ожиданиям и потребностям, «настроив ее на нужную волну» для получения интересных и уникальных результатов. Исследования показывают, что когда ИИ просят придерживаться определенных ролей, это приводит к разным и зачастую более качественным ответам. Однако не всегда очевидно, какие именно роли работают лучше всего, к тому же БЯМ могут даже незаметно подстраивать свой образ под вашу манеру задавать вопросы, выдавая менее точные ответы тем, кто кажется менее опытным пользователем, так что эксперименты имеют решающее значение.

Как только вы задали ему роль, вы можете работать с ним так же, как работали бы с другим человеком или стажером. Я лично наблюдал ценность этого подхода на практике, когда поручил своим студентам «сжульничать» — использовать ИИ для написания эссе из пяти абзацев на актуальную тему. Поначалу студенты давали простые и нечеткие промпты, что приводило к весьма посредственным результатам. Но по мере того как они пробовали разные стратегии, качество ответов ИИ значительно росло. Одной из наиболее эффективных стратегий, выработанных в ходе занятия, стало отношение к ИИ как к соредактору — ведение с ним диалога в режиме постоянного обмена репликами. Постоянно уточняя задачи и перенаправляя ИИ, студенты создали впечатляющие эссе, которые значительно превзошли их первые попытки.

Помните, что ваш ИИ-стажер, хотя он невероятно быстр и эрудирован, далеко не безупречен. Крайне важно сохранять критический взгляд и относиться к ИИ как к инструменту, который работает на вас. Определяя его роль, вовлекаясь в совместный процесс редактирования и постоянно направляя его, вы сможете извлечь пользу из ИИ как полноценного Соинтеллекта.

Принцип 4. Исходите из того, что это худший ИИ, которым вы когда-либо будете пользоваться.

Когда я пишу эти строки в конце 2023 года, мне кажется, я представляю себе, как будет выглядеть мир по крайней мере в ближайший год. На подходе более крупные и умные передовые модели, а также все более широкий спектр небольших ИИ-платформ с открытым исходным кодом. Кроме того, ИИ обретает новые каналы связи с миром: модели могут читать и писать документы, видеть и слышать, генерировать голос и изображения, а также искать информацию в Сети. LLM будут интегрированы в вашу электронную почту, веб-браузер и другие привычные инструменты. А следующий этап развития ИИ будет связан с увеличением числа ИИ-агентов — полуавтономных систем, которым можно задать цель («спланируй мне отпуск») и которые выполнят ее при минимальном участии человека. Но после этого контуры будущего начинают расплываться, а риски и выгоды от ИИ — лавинообразно расти. Мы еще вернемся к этой теме позже, но уже сейчас можно сделать один очевидный вывод, который многим из нас трудно осознать: каким бы ИИ вы ни пользовались прямо сейчас, он гарантированно окажется худшим из всех, с которыми вам когда-либо придется иметь дело.

Изменения за столь короткий срок уже колоссальны. В качестве наглядного примера рассмотрим эти два изображения, созданные с помощью самых передовых моделей ИИ, доступных в середине 2022-го и середине 2023 года. Оба были созданы по одному и тому же промпту: «черно-белая фотография выдры в шляпе», но одно представляет собой лавкрафтовский кошмар из шерсти, а другое — что ж, просто выдру в шляпе. Подобный качественный скачок наблюдается повсеместно во всех сферах применения ИИ.

Нет никаких причин полагать, что рост возможностей систем ИИ прекратится в ближайшее время. Но даже если это произойдет, доработки и усовершенствования в способах нашего взаимодействия с ИИ гарантируют, что программное обеспечение завтрашнего дня окажется гораздо более продвинутым, чем сегодняшнее. Мы словно играем в Pac-Man в мире, где вот-вот появится PlayStation 6. И это при условии, что ИИ будет развиваться в обычном для технологий темпе. Если же возможность создания сильного ИИ (AGI) окажется реальной и достижимой, в ближайшие годы мир изменится еще более радикально.

По мере того как ИИ все лучше справляется с задачами, которые прежде считались исключительно человеческой прерогативой, нам придется как-то уживаться с трепетом и восторгом от соседства с чуждыми Соинтеллектами, чья мощь неуклонно растет, — а также с тревогой и чувством утраты, которые они за собой повлекут. Многое из того, что когда-то считалось доступным исключительно человеку, теперь сможет делать ИИ. Поэтому, приняв этот принцип, вы начнете воспринимать нынешние ограничения ИИ как временные, а готовность к новым открытиям поможет вам адаптироваться к переменам, осваивать новые технологии и сохранять конкурентоспособность в стремительно меняющемся деловом мире, подгоняемом экспоненциальным развитием ИИ. Оказаться в таком положении может быть не слишком комфортно, и мы еще обсудим это, однако это говорит о том, что те возможности использования ИИ для трансформации вашей работы, вашей жизни и вас самих, которые приоткрываются нам уже сейчас, — это только самое начало.