Как построить в команде систему оценки качества LLM-продукта?
- Как организовать evals для LLM-приложения?
Оценка — инфраструктура, как тесты в CI. Набор примеров из реальных запросов и найденных ошибок, разбитый по сценариям; проверки по правилам там, где возможно, и калиброванный судья для свободного текста; прогон при каждом изменении промпта, модели, поиска с порогами, блокирующими выкатку; онлайн-метрики и регулярный ручной разбор, из которого набор пополняется.
- Метрики по сценариям, а не одна средняя — иначе регресс в редком сценарии не виден
- Судью калибруют по разметке людей и перепроверяют при смене модели судьи
- Владелец набора и правила его пополнения — иначе он устаревает
А ещё Цель — скорость: команда меняет промпты и модели уверенно, потому что видит последствия
Подробно
Уровни:
- Юнит-проверки: формат, вызов нужного инструмента, обязательные ссылки — детерминированно и дёшево.
- Офлайн-набор: сотни примеров по сценариям, метрики поиска и ответа, сравнение с базовой версией.
- Онлайн: сигналы пользователей, бизнес-метрики, A/B.
- Разбор: еженедельный просмотр выборки и неудачных диалогов.
Процесс:
- каждый баг из продакшена превращается в пример набора;
- отчёт прогона показывает изменения по сценариям и конкретные ухудшившиеся примеры;
- пороги в CI: резкое падение метрики блокирует выкатку;
- стоимость прогона учитывается: полный набор — по ночам, малый — на каждый PR.
Ловушки: переобучение промпта под набор, утечка примеров набора в промпт, слепая вера судье, одна усреднённая метрика.
Что хотят услышать
- Многоуровневая оценка: правила, набор, судья, онлайн, разбор.
- Встраивание в процесс разработки и выкатки.
- Ловушки и поддержка набора.
Проверьте себя
Один верный вариант. Подумайте, потом откройте ответ.
Показать варианты и ответ
- ✗Раз в квартал вручную проверить десяток ответов и обсудить их на встрече команды
- ✓Набор по сценариям, прогон в CI с порогами и онлайн-метрики
- ✗Одна средняя оценка по всем запросам от модели-судьи без калибровки по людям
- ✗Опираться только на отзывы пользователей после каждой выкатки
Связанные вопросы
Разбор собеседования с sotto
После собеседования sotto разбирает разговор: оценка, каждый вопрос — хорошо, частично или слабо, чего не хватило в ответе и над чем поработать к следующему разу. Первые 30 минут бесплатно.