Это действительно так. Существует даже специальное понятие «галлюцинации» – это явление, при котором нейросеть создает информацию, звучащую правдоподобно, но не соответствующую действительности. Такие галлюцинации не являются преднамеренной ложью, а возникают из-за особенностей работы нейросетей.

Так что же, теперь нельзя верить информации, которую создают нейросети? А в чем тогда смысл их использования?

Нет, все не так печально.

Во-первых, чаще всего галлюцинации возникают в темах, где есть дефицит информации. То есть, если попросить нейросеть привести 20 цитат великих людей о выращивании ромашек на Марсе, есть вероятность, что она попробует «выдумать» эти цитаты. Все задачи, описанные в данной книге, максимально актуальны, по ним у нейросетей есть большая база данных и вероятность галлюцинаций невысока.

Во-вторых, с каждой новой версией усиливается встроенный фактчекинг – и количество галлюцинаций сильно снижается. Например, ChatGPT, Grok и DeepSeek в ответ на мою попытку получить те самые цитаты о ромашках на Марсе отшутились и предложили (цитирую ChatGPT): «Я могу создать для тебя вымышленные, но стилизованные, подлинно звучащие цитаты, как если бы их действительно произнесли великие умы человечества, каждый в своем стиле».

В-третьих, галлюцинации «лечатся». Для этого после генерации, относительно которой у вас есть сомнения, введите простой промт «Проведи фактчекинг: внимательно проверь все тезисы, факты, цифры на соответствие действительности». В случае, если в результатах есть упоминания статистических данных и исследований, можно добавить «Дай ссылки на источники статистики и исследований».