Как только модель обучится выполнять задачу по прогнозу токена, она сможет генерировать слова, фразы и дописывать предложения. Модели на этом этапе часто называют фундаментальными или базовыми, поскольку они обладают наиболее общими знаниями о совместном употреблении различных слов и понятий, сформировавшимися за счет анализа огромного количества словоупотреблений. В таком виде базовые модели впечатляют не сильно, но зато они полезны тем, что их можно легко адаптировать для решения специфических задач с помощью тонкой настройки (fine-tuning).

Тонкая настройка, по сути, означает усовершенствование модели с помощью специально подготовленных и размеченных данных, наглядно показывающих, как решать конкретную задачу. Эти задачи могут быть довольно общими или очень узконаправленными, например классификация по специфическим темам в конкретной предметной области. Многие коммерческие LLM тонко настроены на следование инструкциям, чтобы они могли лучше реагировать на такие запросы, как «напиши песню» или «расскажи анекдот». Другие распространенные задачи для тонкой настройки – это уже известные задачи реферирования текста и ответов на вопросы. С технической точки зрения тонкая настройка – это просто обучение с учителем, однако оно начинается не с нуля: нейронная сеть уже имеет весовые коэффициенты базовой модели. В то время как обучение базовой модели занимает недели и требует больших вычислительных ресурсов, тонкая настройка может быть выполнена за считаные минуты. При тонкой настройке весовые коэффициенты и параметры базовой модели корректируются, чтобы наилучшим образом соответствовать новым обучающим данным.