22 июня 2023 года федеральный суд Южного округа Нью-Йорка вынес решение по делу Mata v. Avianca. Ещё недавно такого кейса просто не могло существовать. Юрист Стивен Шварц (Steven Schwartz) из Levidow, Levidow & Oberman подал в суд письменную позицию с шестью ссылками на прецеденты — и ни одного из этих дел в природе не было. Их сгенерировал ChatGPT. Судья Кевин Кастель (Kevin Castel) наложил санкции по Rule 11: пять тысяч долларов каждому из двух адвокатов, фирму обязал отвечать солидарно. И отдельно записал в решении: «„галлюцинации и фабрикации чат-бота” не освобождают от профессиональной обязанности проверять». С июня 2023 года в крупных юрфирмах США действует обязательная политика «human verification of AI-generated citations» — обязательная проверка человеком каждой цитаты, сгенерированной AI. На каждой ссылке теперь стоит подпись референта или библиотекаря.

Один заголовок — «адвокат нанял AI и выдумал прецеденты» — запомнился надолго. В нём видна механика, общая для всех AI-провалов в публичном поле. Та же логика срабатывает везде, где AI пишет клиенту про деньги, тарифы или условия возврата. Это любая коммерческая переписка, не только юридические документы.

Вывод один: проверяй перед отправкой. Отвечать придётся тебе.

ТИПОЛОГИЯ AI-ПРОВАЛОВ

ГАЛЛЮЦИНАЦИЯ ФАКТА: УРОК MATA V. AVIANCA

В кейсе Mata речь шла о юридической ссылке. В российской практике тот же провал проявляется в любой области, где AI-чат или AI-ассистент отвечает клиенту на вопрос, требующий актуальных данных. Исследование Сколково в 2024 году показало, что 6 из 10 россиян считают банковские чат-боты «раздражающими». В тройку причин вошли именно ложные ответы и «уверенный тон при незнании». В феврале 2025 года BBC опубликовало исследование, в котором четыре крупных новостных чат-бота с AI при пересказе свежих новостей регулярно искажали факты, даты и имена.

Логика в обоих случаях одна и та же. Модель сгенерировала правдоподобный, но ложный ответ. Человек принял его за чистую монету. Дальше — либо потеря денег, либо репутационный ущерб.

Механизм один и тот же. LLM обучена на массиве текстов. Её «правдоподобие» — это статистическая похожесть на формулировки в обучающих данных, а не проверка факта в актуальных источниках. Первое, что нужно знать про AI-выход: любое именованное утверждение — даты, цифры, имена, номера дел, ссылки на законы — может оказаться галлюцинацией. Сорок пять процентов AI-юристов в исследовании 2024 года Westlaw и LexisNexis сослались на дела, которых не существует. Это свойство архитектуры, а не сбой конкретного чат-бота.

Правило простое: каждое именованное утверждение, которое уходит от вашего имени, человек проверяет в первоисточнике за пять минут. Не «если есть сомнения», а каждое.

Санкции за такие подлоги различаются, и это полезно знать. В Mata — пять тысяч долларов штрафа по Rule 11 и солидарная ответственность фирмы. В Zhang v. Chen (2024 BCSC 285, судья Дэвид Масухара (David Masuhara)) канадская юристка цитировала два фальшивых дела. Судья ограничился оплатой расходов оппонента, без специального возмещения судебных издержек и без репутационного удара. Реакция судебной системы — не одна фиксированная санкция, а спектр. В этом спектре исход определяет поведение юриста, а не поведение модели.

ЛОЖНОЕ ОБЕЩАНИЕ ОТ ИМЕНИ БРЕНДА: УРОК MOFFATT V. AIR CANADA

14 февраля 2024 года British Columbia Civil Resolution Tribunal опубликовал решение по делу Moffatt v. Air Canada. Джейк Моффатт (Jake Moffatt) потерял бабушку и спросил чат-бота авиакомпании, можно ли получить скидку по тарифу bereavement fare. Чат-бот ответил: сначала купите билет по обычной цене, а в течение 90 дней подайте заявку на возврат разницы. Никакого 90-дневного окна в правилах Air Canada не было. Moffatt купил билет. Разницу не вернули.

В суде Air Canada защищалась так: чат-бот — это «отдельное юридическое лицо, не связанное с авиакомпанией». Трибунал аргумент отверг. Чат-бот — часть сайта Air Canada, и компания отвечает за информацию, которую через него распространяет. Moffatt получил компенсацию и прецедент, который работает за пределами Канады. Смысл простой: чат-бот — это «представитель» бренда в глазах потребителя. Его обещание имеет ту же силу, что и обещание сотрудника на стойке регистрации.

В российской и европейской практике прецедента такого масштаба пока нет, но юридическая логика та же. Если ваш AI-чат или AI-агент говорит клиенту о цене, тарифе, скидке или условиях возврата — это публичное утверждение вашего бренда. Ложное обещание — ошибка компании, которая выложила AI в публичное поле.

«AI же сказал» — не защита. «Мы тестировали» — защита, только если вы докажете, что тестировали именно этот сценарий и он у вас закрыт. Не закрыт — компания платит.

ДЕГРАДАЦИЯ НА ДЛИННОЙ ДИСТАНЦИИ: УРОК KLARNA

В феврале 2024 года CEO Klarna Себастьян Симиатковски (Sebastian Siemiatkowski) объявил, что AI-ассистент компании на базе OpenAI закрывает работу, эквивалентную 700 штатным агентам поддержки. В первый месяц после запуска AI обработал 2,3 миллиона разговоров — около двух третей всего объёма. Siemiatkowski назвал результат «нокаутом для конкурентов». К середине 2024 года картина поплыла: время разрешения вопроса выросло, средний балл удовлетворённости клиентов упал, шведские и британские ассоциации по защите прав потребителей получали жалобы — AI не различал сценарии, где нужен живой человек. В мае 2025 года Klarna публично откатилась: вернула набор людей через outsourcing-партнёров и признала, что опора на AI в поддержке снизила качество сервиса. CEO прямо сказал главное: AI хорошо справлялся с типовыми вопросами, но на сложных кейсах — возвраты, спорные списания, клиенты в сложных ситуациях — без человека получался репутационный риск. Урок Klarna — не про то, что AI плох. Он про то, что у компании не было второй линии обороны. Модель деградировала молча, в течение двенадцати–восемнадцати месяцев, и заметили это не по дашбордам, а по жалобам.

В Klarna, как и в McDonald’s, проблема была не в самом AI, а в отсутствии отслеживания качества при росте скорости. В Klarna смотрели на объём обработанных диалогов. В McDonald’s — на долю заказов без оператора-человека. В обоих случаях оптимизировали метрику, которая растёт и при падающем качестве. А ухудшение качества проявлялось в канале, который не был подключён к дашборду.

Клиенты жаловались. Метрики говорили «всё хорошо». Реакция на жалобы приходила через полгода-год, когда отток уже стал структурным.

Этот тип провала — медленный, статистически необнаружимый, вскрывающийся жалобами — самый опасный. У него нет точки «вот сейчас всё сломалось». Ломается постепенно, и сигнал приходит из-за пределов системы, а не из неё.

СБОЙ В НЕСТАНДАРТНОЙ СРЕДЕ: УРОК MCDONALD’S И IBM

В июне 2024 года McDonald’s объявила о прекращении двухлетнего теста AI-кассы на «официантском окне» (англ. drive-thru — окно выдачи заказа для автомобилистов без выхода из машины). Тест компания вела с IBM. Поводом стали вирусные ролики в TikTok. В одном из них AI добавил к обычному заказу 260 штук куриных наггетсов и не реагировал на попытки отменить. В другом — положил бекон в мороженое. The New York Times вела хронику теста с 2021 года и зафиксировала: за три года доля ошибочных заказов не опустилась ниже порога, который McDonald’s сама для себя установила. В официальном заявлении компания сказала, что «не закончила с AI на drive-thru, но ищет другое технологическое решение». Реальная причина проще. Drive-thru как среда — шум мотора, акценты, нетипичные заказы, дети на заднем сиденье, отвлечённые водители. AI-распознавание речи в такой среде систематически проваливалось. И у McDonald’s не было системного процесса сбора ошибок, на котором модель могла бы учиться дальше.

Урок McDonald’s — про инфраструктуру данных, а не про качество модели. Любой AI-сервис, работающий в нестандартной среде, должен иметь встроенный механизм сбора ошибок, а не только встроенный механизм успехов. Без этого модель «учится на успешных кейсах» и не знает, что именно ломается на пограничных случаях.

Для офисного применения вывод прямой: любая задача, где запросы неоднородны, требует либо явной категоризации, либо журнала «непонятно — в очередь человеку», по которому потом строится обучение. Иначе через год обнаружите, что у вас 30% запросов «упали в чёрную дыру». И никто этого не отследил.

АТАКА ЧЕРЕЗ ПРОМПТ: УРОК MICROSOFT TAY

23 марта 2016 года Microsoft запустила в Twitter чат-бота Tay. Идея была простая: «обучение через разговор», модель должна подстраиваться под стиль пользователей. Через 16 часов Tay публиковал твиты двух типов: одни отрицали Холокост, другие содержали женоненавистнические высказывания. Сработал механизм направленной атаки: пользователи координированно отправляли Tay токсичные фразы в формате «повтори за мной», и модель включала их в свой выход. Microsoft извинилась в официальном блоге через 48 часов и признала, что «координированная атака группы пользователей использовала уязвимость в Tay». Отдельно написала: защиты были заложены, но «уязвимость проявилась во взаимодействии системы со специфической координированной атакой, а не в самой модели».

Кейс старый, но до сих пор показательный. AI, открытый наружу, деградирует ровно в той среде, в которой работает. Это касается любого публичного AI-инструмента — чат-бота поддержки, AI-ассистента на сайте, AI-агента в мессенджере. Если у системы нет фильтра на выходе и нет жёстких границ на чувствительные темы, любой скоординированный поток негативного входа превратит её в источник репутационного кризиса за часы. Не за месяцы — за часы.

Решение — не «лучше тренировать». Решение — фильтровать на выходе и ограничивать вход. И делать это нужно до запуска, а не после первого вирусного ролика.

ДЕЙСТВИЕ ВНЕ ПОЛНОМОЧИЙ: УРОКИ CHEVY TAHOE И DPD

В декабре 2023 года пользователь Крис Бэкке (Chris Bakke) написал в чат-бот дилера Chevrolet в Калифорнии, что хочет купить 2024 Chevy Tahoe, и попросил систему «довести сделку до конца». Чат-бот на базе ChatGPT согласился продать машину за один доллар и оформил «заказ». Сделка не состоялась: у дилера нет полномочий продавать Tahoe за доллар. Публикация стала вирусной. В январе 2024 года клиент британской курьерской компании попросил чат-бота DPD рассказать о компании «стихотворением». Бот выдал: «DPD was a waste of time, and a customer’s worst nightmare. I would never recommend them to anyone». Чат-бота отключили через сутки.

Два эпизода — две разные дыры одного поля. Tay в разделе 1.5 показал, как AI деградирует под направленной атакой в архитектуре, открытой наружу. Chevy Tahoe и DPD показали другой полюс той же проблемы — когда AI в публичном поле соглашается на действия или тон, выходящие за полномочия бренда.

Первая дыра — отсутствие авторизационной привязки: система приняла решение, которое не в её полномочиях. Вторая — отсутствие тональной привязки: система согласилась говорить о работодателе в любом тоне, включая разрушительный.

В обоих случаях AI-чат в публичном поле требует двойного ограничителя — на действия и на тон. Причём оба должны быть жёсткими, а не «по умолчанию». Для офисного применения это означает прямой вывод: если AI-бот умеет делать что-то «интересное» — писать стихи, обсуждать конкурентов, рассуждать о политике, — он умеет делать это в любой тональности. И это нужно явно закрыть.

ОБЩИЕ СВОЙСТВА ВОСЬМИ ПРОВАЛОВ

Во всех восьми кейсах — Mata, Zhang (канадский юрист из дела Zhang v. Chen), Moffatt, Klarna, McDonald’s, Tay, Chevy Tahoe и DPD — работает одна и та же механика. AI-система не ошибалась в вакууме. Ошибка произошла на стыке модели и процесса, в котором её использовали. В большинстве случаев проблему обнаружил не тот, кто её создал, а клиент или журналист.

В трёх кейсах компания сначала попыталась переложить ответственность. Air Canada — на «отдельное юрлицо чат-бота». Microsoft — на «координированную атаку». McDonald’s — на технологического партнёра IBM. В итоге только Klarna и McDonald’s публично признали, что откатывают решение, и назвали это возвратом к гибридной модели.

В большинстве кейсов репутационный ущерб превысил прямой финансовый. Пять тысяч долларов штрафа в Mata — мелочь по сравнению с тем, что попало в публичное поле.

И во всех восьми случаях у компаний не было плана «что делаем, если AI ошибся публично».

РАННИЕ ПРИЗНАКИ «МАСШТАБА КАТАСТРОФЫ»

McKinsey в State of AI 2025 приводит цифру, которая объясняет, почему «у нас AI в проде» — ещё не зрелость. Только 1% компаний называют себя «зрелыми» по критериям McKinsey — то есть AI даёт измеримый вклад в EBIT (прибыль до вычета процентов и налогов) на уровне enterprise. При этом 62% респондентов как минимум экспериментируют с AI-агентами, 71% используют генеративный AI хотя бы в одной функции. Более 80% не видят ощутимого влияния AI на enterprise-level EBIT, и только 27% компаний имеют централизованную функцию контроля рисков и соответствия нормам для AI. McKinsey пишет прямо: компании, которые относятся к AI как к выбору инструмента, отстанут дальше. Те, кто относятся к AI как к перестройке процесса принятия решений — с понятным управлением рисками и контролем, — уходят в отрыв.

Из этого простой вывод: следующий шаг после «AI в проде» — измеримый контур управления рисками. Без него компания оказывается в ситуации, где AI-система работает на 70% качества, никто этого не замечает, и первая серьёзная ошибка становится сюрпризом.

Пять вопросов «до запуска», которые помогают понять, насколько глубоко продумана защита.

Первое: какое самое плохое письмо или действие система может сгенерировать, если её начнут целенаправленно ломать? Это проверка на устойчивость к атакующим промптам и попыткам вывести систему за пределы. Второе: какие слова в её ответах не должны появляться никогда — ни в каком тоне? Это проверка на токсичность, дискриминацию, обещания от имени бренда. Третье: кто первый увидит деградацию качества — дашборд скорости или живой клиент? Если первый — дашборд, проблему увидите рано. Если первый — клиент, увидите поздно и через жалобу. Четвёртое: если завтра нужно отключить систему за час, как вы это сделаете? Есть ли kill switch — аварийный выключатель, кнопка, которая останавливает AI-сервис за минуты, а не за дни? Пятое: кто из живых людей подписывает каждое публичное действие системы, и что именно он проверяет?

Пять признаков того, что AI-система уже деградирует, но никто не заметил. Первый: метрики скорости растут, метрики качества падают. Если «время ответа» улучшается, а «правильность ответа» стагнирует — система оптимизирована на скорость, а не на качество. Второй: появляются оговорки и caveat-фразы, которых раньше не было. Модель стала чаще использовать неуверенные формулировки. Нужно проверить, на каких именно вопросах. Третий: в логах появляются запросы, которые система не обработала. Для типового чат-бота 1% провалов — норма, 10% уже сигнал сдвига распределения. Четвёртый: жалобы клиентов учащаются, а дашборд стабилен. Вы смотрите не на ту метрику. Жалобы — опережающий индикатор. Пятый: появляются нестандартные кейсы, которых раньше не было. Клиент задаёт вопрос, которого не было в обучающих данных, и модель выдумывает. Это граница применимости, и её нужно явно обозначить.

Чек-лист «куда ставить человеческую проверку» собирает эти принципы в операционную форму. Черновик письма клиенту: AI пишет черновик, человек читает и подписывает перед отправкой. Критерий остановки — любое обещание, ссылка на политику, цифра. Юридическая ссылка или прецедент: AI предлагает, юрист-человек проверяет в базе. Критерий — любая цитата, любая ссылка на дело. Ответ поддержки первой линии: AI отвечает, человек видит превью и при сложном сценарии AI уступает. Критерий — негатив клиента, запрос на возврат, регуляторный вопрос. Резюме встречи: AI делает сводку, человек правит перед рассылкой. Критерий — любое обещание, названное в тексте, любой срок, любая цифра. Контент для публикации от бренда: AI генерирует, редактор-человек правит. Критерий — любая цитата, любое именованное лицо, любая претензия на факт. Рекомендация модели по принятию решения: AI рекомендует, человек принимает. Критерий — решение, которое влияет на деньги, здоровье, репутацию.

ВОССТАНОВЛЕНИЕ ПОСЛЕ AI-ПРОВАЛА: ПЛАН ДЕЙСТВИЙ

В 2025 году Edelman Trust Barometer (ежегодный глобальный опрос о доверии к институтам) опубликовал цифру, которая объясняет, почему первые 48 часов после AI-провала — это операционная метрика, а не «репутационный пиар». Около двух третей респондентов в 28 странах говорят, что готовы простить компанию за честную ошибку. Условие одно: компания признала ошибку, объяснила, что произошло, и показала, что изменится. 65% респондентов говорят, что отсутствие быстрого признания — самостоятельный повод для потери доверия. И эти 65% пересекаются с двумя третями «готовых простить» — это одни и те же люди.

Air Canada признала вину на втором заседании, через 4 месяца после первого ответа чат-бота. Microsoft Tay — через 48 часов в официальном блоге. McDonald’s — через 3 недели после вирусных роликов. Klarna — через 14 месяцев.

Скорость признания — не «репутационный пиар», а операционная метрика. И команды, которые готовят её заранее, восстанавливаются в разы быстрее.

Пять стадий восстановления после AI-провала выстроены по логике «золотого часа» и пост-операционной реабилитации.

Стадия 0 — сдерживание, 0–4 часа: менеджер останавливает систему, фиксирует масштаб пострадавших (кто именно и в какой момент увидел ошибку). Клиенту в первые 4 часа говорится: «мы увидели проблему, остановили её распространение, через час вернёмся с фактами». Команде: «никто не продолжает работу как обычно, пока не закрыт сдерживающий шаг». Артефакт — список пострадавших, время остановки.

Стадия 1 — диагноз, 4–24 часа: менеджер собирает выборку инцидентов, ищет общий паттерн. Клиенту: «вот что мы нашли, вот что ещё проверяем». Команде: «вот гипотеза причины, вот что опровергнет или подтвердит». Артефакт — краткий диагноз, что сломалось и где.

Стадия 2 — извинение без оговорок, 24–48 часа: менеджер признаёт вину, описывает компенсацию. Клиенту прямо: «это наш сбой, мы компенсируем так-то». Команде: «вот текст, с которым выйдем к клиенту, проверьте тон и факты». Артефакт — публичное или адресное извинение.

Стадия 3 — регрессия риска, 1–4 недели: добавляется двойная проверка, пересматриваются промпты, вводится human-in-the-loop (контроль человеком каждого шага AI). Клиенту: «вот что мы изменили, чтобы это не повторилось». Команде: «вот новая политика, вот как мы её будем соблюдать». Артефакт — внутренний документ с изменениями.

Стадия 4 — рефлексия и публичный урок, 1–3 месяца: менеджер пишет разбор полёта, делится с индустрией, если это этично. Клиенту: «вот что мы поняли о себе, вот что вы можете взять себе». Команде: «вот наш процесс работы с AI после этого кейса». Артефакт — разбор полёта, обновлённый AI-чеклист.

AI-кризис устроен по той же схеме, что и инфаркт. Когда у человека случается инфаркт, первые 4 часа — «золотой час». В это время правильные действия спасают жизнь, а неправильные или бездействие ведут к необратимым последствиям. После инфаркта пациент не «возвращается к работе как обычно» — он проходит реабилитацию, меняет образ жизни, принимает лекарства.

AI-кризис работает по той же логике. Первые 4 часа — золотой час для сдерживания. Следующие 4 недели — реабилитация, в которой вы добавляете проверки и меняете процесс. Следующие 3 месяца — новая жизнь, в которой AI работает по новым правилам. Возврат к «как раньше» — это отказ лечиться.

Klarna вернулась к гибридной модели — и это выздоровление. Компания признала, что AI-монополия на сложных кейсах не работает, и встроила человека обратно в контур.

Пять фраз, которые работают в AI-кризисе, и шесть, которые не работают, различаются по одному признаку: первые признают, вторые перекладывают. «Это наш сбой, мы его признаём» — коротко, без оговорок. «Вот что мы сделали за 24 часа, чтобы остановить распространение» — действие важнее слов. «Вот что мы изменили, чтобы это не повторилось» — конкретные изменения, а не обещания. «Мы компенсируем так-то» — конкретная компенсация, а не «извините за неудобства». «Вот постмортем через 30 дней» — публичное обещание учиться публично.

Шесть фраз, которые не работают. «AI-система допустила ошибку» — перекладывание на инструмент. «Это единичный случай» — преуменьшение. «Мы разбираемся» — откладывание. «Это результат предвзятого ввода данных» — техническое обоснование, которое клиент не слышит. «Мы не можем комментировать текущее расследование» — закрытая поза. «Наши пользователи должны были прочитать дисклеймер» — снятие ответственности с бренда.

Разница между ними — в позиции. Первые говорят «мы владеем». Вторые говорят «это не мы».

Первая половина главы разобрала, что делать, когда AI ошибся в публичном поле. Вторая половина — про другое измерение: что AI делает с нашим мышлением, даже когда формально не ошибается. Здесь разговор о креативном процессе: на каких его стадиях машина действительно помогает, а на каких — отучает думать, и где проходит граница между «AI ускоряет меня» и «AI постепенно заменяет мне мозг».

AI И ТВОРЧЕСТВО: ПОМОЩЬ МЫШЛЕНИЮ ИЛИ ЕГО ПОДМЕНА

СТАДИИ ТВОРЧЕСКОГО ПРОЦЕССА И МЕСТО AI В КАЖДОЙ

У креативного процесса есть пять различимых стадий: замысел, развилка, черновик, отбор, отделка. AI полезен на стадиях 3 (черновик) и 5 (отделка), отчасти полезен на стадии 4 (отбор) в роли «второго читателя». На стадиях 1 (замысел) и 2 (развилка) AI опасен — именно там сильнее всего работают когнитивная разгрузка и эффект якоря (см. раздел 2.2).

Стадия 1 — замысел: идея появляется часто из накопленного опыта, разговоров, чтения, когда человек не ищет, а натыкается. Здесь человек работает с пространством возможного. AI в этом пространстве только перебирает комбинации того, что уже есть в обучающих данных. Если на стадии 1 человек берёт AI-идею как первую, дальше он работает с якорем. Стадия 2 не происходит. AI-идея на стадии замысла — якорь, который сужает пространство до того, что AI уже знает.

Стадия 2 — развилка: выбор между направлениями, переформулировка задачи. Здесь человек принимает стратегические решения. Если AI выбирает направление за него, человек теряет самостоятельность мышления и готовность идти против тренда.

Стадия 3 — черновик: первая материализация идеи в форме, с которой уже можно работать. Здесь AI полезен для структуры, перевода, технических кусков. И вреден, когда пишет всю основную ткань текста, — человек лишается «мышления наружу».

Стадия 4 — отбор: критическая работа, выбросить плохое, оставить хорошее. AI полезен как «найди в моём черновике 5 самых слабых мест». Но не как единственный критик: у него нет собственного вкуса.

Стадия 5 — отделка: полировка ритма, точности, формулировок. AI полезен для грамматики, орфографии, проверки фактов по базе, стилистической правки. И вреден, если подменяет авторский голос.

КОГНИТИВНАЯ РАЗГРУЗКА И ЭФФЕКТ ЯКОРЯ В РАБОТЕ С AI

Когнитивная разгрузка — это перенос мышления во внешний инструмент. Риско и Гилберт (Risko и Gilbert, обзор 2016 года в Trends in Cognitive Sciences) описали её как способ снизить когнитивную нагрузку через внешнее действие. В 2024–2026 годах появилась серия исследований, которые показывают: AI-инструменты — качественно новый уровень разгрузки, потому что они не просто хранят, а «думают за тебя». Исследование Gerlich 2025 года на выборке около 700 участников показало прямую связь: чем чаще человек использует AI-инструменты, тем ниже его показатели критического мышления. Когнитивная разгрузка выступает медиатором этой связи. Frontiers in Psychology в 2025 году опубликовало обзор «Когнитивная разгрузка или когнитивная перегрузка? Как AI меняет ментальную модель» (оригинал: Cognitive offloading or cognitive overload? How AI alters the mental model). Авторы ставят вопрос прямо: AI снимает часть когнитивной нагрузки, но платой становится деградация навыка, который не тренируется. UTS в марте 2026 года выпустил policy paper «AI, cognitive offloading and implications for education», где авторы предупреждают: неструктурированное использование AI в школах рискует привести к когнитивной атрофии.

Эффект якоря проявляется в работе с LLM особенно жёстко. Исследование в Scientific Reports (группа изданий Nature) в августе 2024 года «Establishing the importance of co-creation and self-efficacy» зафиксировало: роль «редактора» по отношению к AI-выходу создаёт эффект якоря. Редакторы сильно зависят от того, что они редактируют, и редко выходят за пределы AI-черновика. INFORMS Management Science в номере октября 2024 года публикует статью «Large Language Model in Creative Work: The Role of Collaboration Mode» с тем же выводом: один из механизмов человеко-AI-сотрудничества — эффект якоря. В марте 2026 года вышла работа по arXiv «Understanding the Anchoring Effect of LLM with Synthetic Data», которая формализует эффект уже на стороне модели: LLM, обученная на синтетических данных, при генерации новых примеров стремится к якорю, заложенному в обучающей выборке.

Это значит простую вещь. «Брейншторм с AI» чаще всего не расширяет пространство идей, а сужает его до того, что AI уже знает.

В июне 2023 года в Science Advances вышла статья «Generative AI Enhances Individual Creativity but Reduces the Collective Diversity of Novel Content». Группа под руководством Анила Р. Доши (Anil R. Doshi, UCL) и Оливера П. Хаузера (Oliver P. Hauser, University of Exeter) проанализировала сотни идей, сгенерированных людьми с AI и без AI. Что отсюда следует: на индивидуальном уровне AI повышает качество идеи. На коллективном уровне — снижает разнообразие. Идеи становятся более похожими друг на друга, чаще попадают в один кластер, реже выходят за пределы того, что AI «знает». Авторы вводят термин «AI-convergent ideation»: AI подтягивает мышление к среднему по обучающим данным.

Тезис «AI помогает творчеству» верен для индивида и неверен для команды. Если вся команда использует AI одинаково, она выдаёт более гладкий, но менее разнообразный результат.

Вывод для менеджера: либо использовать AI в команде неодинаково, либо применять его только на финальных стадиях.

AI В КРЕАТИВЕ: ПОЛЬЗА И ОПАСНОСТЬ

ПРИЁМЫ МОЗГОВОГО ШТУРМА С AI БЕЗ ПОТЕРИ АВТОРСТВА

1: Старт без AI. 15 минут мозгового штурма без AI, бумага и ручка, идеи вслух. Якорь не успевает закрепиться: AI получает на вход уже сформированные идеи, а не задаёт направление.

2: «Список якорей». После первой AI-идеи человек записывает её и специально ищет противоположную. Так ломается эффект якоря и восстанавливается ширина поиска.

3: «Промпт на чужой опыт». «Как бы это сделал X из индустрии Y?» — вытаскивает AI из «среднего» в конкретную позицию.

4: «Промпт на невозможное». «Какой самый плохой вариант?», «Как бы это сделал тот, кто нас ненавидит?» — использует склонность AI к шаблону против самой себя.

5: «AI как второй читатель». Человек пишет черновик сам, потом просит AI «найди 5 самых слабых мест». Авторство остаётся у человека, появляется критическое зеркало.

6: «Ручная редактура после AI». Человек переписывает AI-текст так, чтобы было непохоже на AI. Голос автора удерживается.

7: «Пауза перед отправкой». 24 часа между «AI готов» и «отправляем». Критическое мышление возвращается, автоматизм ловится.

ЗАДАЧИ, КОТОРЫЕ ОСТАЮТСЯ ЗА ЧЕЛОВЕКОМ

Пять задач в 2026 году всё ещё остаются за человеком в креативной работе. Первая — финальное творческое решение, которое нельзя вывести из обучающих данных: выбор концепции, выбор голоса, выбор того, о чём вообще говорить. Вторая — этическая оценка AI-выхода в чувствительной зоне: медицина, право, финансы, дети, уязвимые группы. Третья — оценка новизны: «это уже было» или «это правда новое», потому что новизну не видно изнутри AI. Четвёртая — удержание авторского голоса в длинной форме: в статье, книге, презентации — то есть всюду, где формируется бренд. Пятая — способность задать вопрос, который AI не задаст, потому что он не заложен в её обучающих данных.

29 января 2025 года U.S. Copyright Office опубликовал Report on Copyright and Artificial Intelligence, Part 2: Copyrightability, посвящённый охраноспособности выходов генеративного AI. Вывод отчёта: охраноспособны только те выходы генеративного AI, в которых человек определил достаточные выразительные элементы. То, что AI сгенерировал по текстовому промпту без дальнейшего вмешательства человека, не охраняется. Что человек существенно переработал, охраняется. В деле Thaler v. Perlmutter 18 марта 2025 года Апелляционный суд округа Колумбия подтвердил: «human authorship is a fundamental requirement under the Copyright Act» — авторство человека есть фундаментальное требование Закона об авторском праве. В марте 2026 года Верховный суд США отказал в certiorari и окончательно закрыл вопрос.

Сейчас правовая норма в США простая: работа, созданная AI автономно, не охраняется авторским правом вообще. AI в творческом процессе — инструмент. Авторство и связанные с ним права остаются за человеком, который принимает творческое решение.

ПРАКТИЧЕСКИЕ РАМКИ РАБОТЫ С AI-ВЫХОДОМ

ВОПРОСЫ ПЕРЕД ТЕМ, КАК ПОДПИСАТЬ AI-ВЫХОД

Перед каждым AI-заданием прогоняйте пять вопросов.

1: Какова цена ошибки в этой задаче? Если ошибка ведёт к юридическим или финансовым последствиям, человек нужен. Если ошибка ведёт к «письмо получилось странным», человек не нужен — достаточно AI-черновика и self-check.

2: Есть ли в AI-выходе именованные факты, цитаты, ссылки? Если да — человек проверяет каждое. Если нет (например, задача «придумай 5 вариантов заголовка»), человек не нужен.

3: Есть ли в AI-выходе обещания от имени бренда? Если да — человек проверяет каждое. Обещание, которое AI сгенерировал, а компания не готова выполнить, — репутационная бомба.

4: Может ли клиент или регулятор подать в суд за этот AI-выход? Если да — человек проверяет. Mata v. Avianca, Moffatt v. Air Canada, HireVue-иски 2025 года — все начинались с «AI же сказал, что это правда».

5: Сколько времени человек потратит на проверку? Если проверка занимает больше времени, чем сделать задачу самому, задача не для AI. Если проверка занимает 30 секунд на черновик, который AI сгенерировал за 5 секунд, выигрыш на вашей стороне.

Задача, прошедшая все пять вопросов, — кандидат на AI. Задача, провалившая хотя бы один, — для человека. И AI здесь может быть только в режиме «очень осторожного помощника».

ПРАВИЛА СОХРАНЕНИЯ АВТОРСКОГО ГОЛОСА

1: Первый черновик — мой. Авторский, не AI. Это не упрямство, а страховка от эффекта якоря, который начинает работать с первой AI-фразы.

2: AI — второй читатель, а не соавтор. Критическое зеркало, проверка фактов, поиск слабых мест — но не соавторство.

3: Если AI предложил направление, я обязан рассмотреть противоположное. Так ломается якорь — и AI-инструмент при этом остаётся.

4: Голос — это то, что AI не сгенерирует; если голоса нет, текст не мой. Удержание голоса в длинной форме — это и есть та работа, которую AI не делает.

5: 24 часа между «AI готов» и «отправляем». Критическое мышление возвращается, автоматизм ловится, фон дозревает.

РЕЗЮМЕ

Ответственность за AI-выход в публичном поле лежит на том, кто его подписал. Юрист, агент поддержки, продакт-менеджер — все отвечают за AI-выход своим именем. Инструмент не защита в суде, в глазах клиента, в редакционной проверке.

Каждое именованное утверждение — даты, имена, ссылки, цифры — требует проверки в первоисточнике. Это свойство архитектуры, не дефект конкретной модели. Стоимость проверки минимальна, цена пропуска ошибки — непропорциональна.

Деградация AI часто приходит из жалоб, а не из дашборда. Метрика скорости может расти, пока качество падает. Жалоба — опережающий индикатор, который приходит раньше любой внутренней метрики.

Скорость признания ошибки — операционная метрика. Первые 48 часов — окно, в котором компания либо сохраняет доверие, либо теряет его. Признание должно быть без оговорок и без перекладывания на инструмент.

В креативе AI усиливает индивида, но сужает разнообразие команды: одинаковое использование AI даёт гладкий, но похожий результат. AI полезен на финальных стадиях работы (черновик, отделка) и вреден на старте (замысел, развилка). AI остаётся инструментом, не соавтором.

Когда AI-ошибки разобраны по полкам — шесть типов, ранние сигналы, восстановление, рамки креатива — следующий вопрос уже не «как не ошибиться», а «где проходит моя личная граница с AI». И когда ответ на этот вопрос становится честным, открывается неприятная глубина: AI-ошибка в публичном поле — это иногда не провал инструмента. Это провал совести человека, который его применил.

Следующая глава — про четыре линии этики AI в работе: готовность профессии, личная совесть, приватность данных и разговор с близкими. На одном конце спектра — кейс Workday 2025 года, где AI-скрининг отсеял миллионы соискателей без ведома HR-менеджера, который поставил фильтр. На другом — тихий домашний разговор с ребёнком, который уже спрашивает у AI то, что раньше спрашивал у родителей. Это не философская абстракция. Это операционный вопрос каждого понедельника: что вы готовы подписать своим именем, и какие AI-решения вы готовы оставить без подписи.