Векторные представления текста, векторные базы, гибридный поиск и реранкинг — основа RAG.
Эмбеддинг — вектор из сотен или тысяч чисел, в котором близкие по смыслу тексты оказываются рядом. Это позволяет искать не по словам, а по смыслу: запрос «как вернуть деньги» найдёт документ «Возврат средств за заказ».
Поиск — сердце RAG: если нужный фрагмент не нашёлся, никакая модель не ответит правильно. Поэтому ИИ-инженер должен разбираться в поиске не хуже, чем в промптах: эмбеддинги, векторные индексы, классический полнотекстовый поиск, их сочетание и переранжирование.
Как текст превращается в вектор, косинусное сходство и выбор модели эмбеддингов.
Хранение и быстрый поиск ближайших векторов — pgvector, Qdrant, Milvus и приближённые индексы.
Сочетание векторного и полнотекстового поиска и уточнение порядка реранкером.
Эмбеддинг — вектор чисел, в котором тексты близкие по смыслу оказываются близко в пространстве.
Полный разборВекторный поиск находит ближайшие векторы к вектору запроса; на больших объёмах используют приближённый поиск (ANN) с индексами вроде HNSW.
Полный разборПосле собеседования sotto разбирает разговор: оценка, каждый вопрос — хорошо, частично или слабо, чего не хватило в ответе и над чем поработать к следующему разу. Первые 30 минут бесплатно.