Когда использовать RAG, а когда дообучение модели?
- Что лучше — RAG или fine-tuning?
- Можно ли дообучить модель на своих документах, чтобы она знала факты?
RAG — когда нужны знания (факты, документы, свежие данные); дообучение — когда нужно поведение (формат, стиль, навык, предметный язык).
- Порядок попыток: промпт → RAG → дообучение
- RAG: данные обновляются без переобучения, есть источники, права доступа по документам
А ещё Подходы совмещают: дообученная модель хорошо работает с найденным контекстом
Подробно
RAG подходит, когда:
- нужны факты из закрытых или часто меняющихся источников;
- важно показать источник ответа;
- у разных пользователей разные права доступа к документам;
- данных много, а правок — постоянно.
Дообучение подходит, когда:
- нужен устойчивый формат или стиль, который не удаётся получить промптом;
- нужно освоить специфичную задачу: классификация с нестандартными классами, особый язык домена;
- хочется заменить большую модель маленькой дообученной — дешевле и быстрее;
- длинные промпты с примерами слишком дороги на каждом запросе.
Почему дообучение — плохой способ «залить факты»: модель запоминает их ненадёжно, может смешивать и выдумывать, каждое обновление требует нового обучения, нельзя сослаться на источник и разграничить доступ.
Порядок на практике: сначала промпт и примеры; если не хватает знаний — RAG; если не хватает качества поведения при хорошем контексте — дообучение (часто лёгкое, LoRA). Решение принимают по метрикам на наборе задач.
Что хотят услышать
- Разделение «знания против поведения».
- Критерии выбора каждого подхода.
- Почему не стоит дообучать ради фактов.
- Последовательность: промпт, RAG, дообучение; совмещение.
Частые ошибки
- «Дообучим на документации, и модель будет её знать».
- Начинать с дообучения, не попробовав промпт и RAG.
Проверьте себя
Один верный вариант. Подумайте, потом откройте ответ.
Показать варианты и ответ
- ✗Дообучение — для свежих фактов и документов, RAG — для стиля
- ✓RAG — для знаний и свежих данных, дообучение — для поведения
- ✗RAG и дообучение нельзя совмещать в одном продукте: они конфликтуют
- ✗Начинать всегда с дообучения, а RAG подключать, только если оно не помогло
Что спросят дальше
Связанные вопросы
Разбор собеседования с sotto
После собеседования sotto разбирает разговор: оценка, каждый вопрос — хорошо, частично или слабо, чего не хватило в ответе и над чем поработать к следующему разу. Первые 30 минут бесплатно.