Как подготовить данные для дообучения модели и проверить, что она не разучилась остальному?

Данные — пары «вход → идеальный выход» в том же формате, что будет в продакшене (тот же системный промпт, та же схема ответа). Важнее качество и разнообразие, чем объём: сотни–тысячи вычищенных примеров, покрывающих сценарии и сложные случаи. Обязательно отложенный набор для сравнения до и после и проверка общих навыков на стороннем наборе — модель могла улучшиться в задаче и ухудшиться в остальном (катастрофическое забывание).

• Источники: реальные ответы экспертов, исправленные черновики, синтетика от сильной модели с проверкой
• Дубли и противоречивые примеры вредят сильнее, чем их нехватка
• Персональные данные — убрать или замаскировать до обучения

А ещё LoRA с небольшим рангом и малой скоростью обучения меньше портит общие навыки