Что такое эмбеддинги?

Модель эмбеддингов превращает текст (слово, предложение, абзац) в вектор фиксированной длины. Её обучают так, чтобы тексты с похожим смыслом давали близкие векторы: «как вернуть деньги за заказ» и «возврат оплаты» окажутся рядом, хотя общих слов почти нет.

Сравнение векторов:

• косинусное сходство — косинус угла между векторами, от −1 до 1; чем ближе к 1, тем похожее;
• скалярное произведение — для нормированных векторов совпадает с косинусом;
• евклидово расстояние — меньше значит ближе.

Где используют:

• семантический поиск и RAG — найти фрагменты документов, близкие к вопросу;
• поиск дубликатов и похожих вопросов;
• кластеризация и классификация текстов;
• рекомендации.

Практические моменты: запрос и документы должны кодироваться одной моделью; качество зависит от языка и предметной области — модель стоит проверить на своих данных; длинный текст в один вектор «размывается», поэтому документы режут на фрагменты.

Вопрос пользователя «как оплатить заказ частями» → вектор → ищем ближайшие векторы среди фрагментов справки → находим раздел «Рассрочка и сплит», хотя слов «частями» в нём нет.