Для обучения LLM может использоваться комбинация наборов данных (датасетов): открытых или общедоступных; приобретенных у сторонних поставщиков; собранных компанией самостоятельно на веб-страницах; созданных самой компанией путем написания обучающих примеров.

Авторегрессионные модели – это модели, в которых предсказания вычисляются на основе предыдущих входных данных. Все модели семейства GPT, а также PaLM от Google, являются авторегрессионными моделями, которые обучены предсказывать следующий токен на основе предыдущих токенов во входной последовательности.

Термины «обучение без обучающих примеров» (zero-shot learning) и «обучение на нескольких примерах» (few-shot learning) характеризуют количество обучающих примеров, которые даются модели перед выполнением задачи. Они являются примерами эмерджентных способностей LLM.

LLM запоминают и усиливают стереотипы и уничижительные ассоциации, а также иногда запоминают конфиденциальные данные, включая информацию, позволяющую установить личность (PII).

Надежный путь развития для предотвращения проблемы воспроизведения нежелательных идей или данных – это тщательная подготовка и документирование обучающих наборов данных для языковых моделей. Это чрезвычайно важно, поскольку понимание характеристик данных поможет снизить некоторые риски и обеспечить потенциальную отслеживаемость.

Злоумышленник может провести атаку по извлечению обучающих данных из LLM. Для больших языковых моделей существует угроза, что злоумышленники могут попытаться запросить у них конфиденциальную и идентифицирующую личность информацию.

Методы сохранения или повышения конфиденциальности (privacy-enhancing technologies, PET) – это обобщающий термин для методов, направленных на снижение рисков нарушения конфиденциальности и безопасности.

Методы повышения конфиденциальности имеют ряд ограничений, и мы надеемся, что исследователи направят свои усилия в эту область и разработают методы, которые смогут легко применять разработчики LLM.