Этап 9 из 18

RAG

Основа

Ответы модели на основе ваших данных — поиск, сборка контекста, генерация со ссылками.

RAG (retrieval-augmented generation) — модель отвечает не «из памяти», а по найденным в ваших данных фрагментам. Так модель узнаёт о внутренней документации, свежих данных и конкретном клиенте, а ответы можно снабдить ссылками на источники.

индексация:  документы → очистка → фрагменты → эмбеддинги → индекс
запрос:      вопрос → поиск → реранкинг → промпт с фрагментами → ответ со ссылками

RAG — самый частый тип LLM-проектов в компаниях: поддержка, база знаний, поиск по договорам и регламентам. Простую версию собирают за день; качественную — месяцами, и почти вся работа — в данных и поиске.

Темы этапа

Подготовка данных и разбиение на фрагменты Основа
Извлечение текста из документов, очистка, чанкинг и метаданные.
Качество RAG Основа
Почему RAG отвечает плохо и как это найти — поиск, контекст, генерация, оценка.
Длинный контекст против RAG Полезно знать
Когда можно просто положить документы в контекст, а когда нужен поиск.

Вопросы с собеседований

Смотреть все

Что такое RAG и как он устроен?Junior

RAG — модель отвечает по найденным документам: сначала поиск релевантных фрагментов, затем генерация ответа с ними в контексте.

Полный разбор

Когда использовать RAG, а когда дообучение модели?Middle

RAG — когда нужны знания (факты, документы, свежие данные); дообучение — когда нужно поведение (формат, стиль, навык, предметный язык).

Полный разбор

Зачем RAG, если у моделей контекст на сотни тысяч токенов?Middle

Длинный контекст не заменяет поиск: стоимость и задержка растут с каждым токеном, качество падает на длинных входах (модель хуже использует информацию из середины — lost in the middle), а база знаний обычно больше любого окна и постоянно меняется. Положить…

Полный разбор

← Вся карта «ИИ-инженер»

Партнёр платформы

Разбор собеседования с sotto

После собеседования sotto разбирает разговор: оценка, каждый вопрос — хорошо, частично или слабо, чего не хватило в ответе и над чем поработать к следующему разу. Первые 30 минут бесплатно.

Разбор собеседования