Как откалибровать LLM-судью и убедиться, что ему можно доверять?
- Как проверить качество LLM-as-a-judge?
- Что такое согласие судьи с людьми?
Взять выборку ответов (100–300), разметить её людьми по той же рубрике, прогнать судью и посчитать согласие: долю совпадений, а для несбалансированных оценок — каппу Коэна или precision/recall судьи по классу «плохой ответ». Разобрать расхождения, уточнить рубрику и примеры в промпте судьи и повторить. Судью перепроверяют при смене его модели или рубрики.
- Сначала стоит проверить согласие самих людей — если оно низкое, рубрика неясна
- Бинарные критерии (есть ли ошибка в фактах) надёжнее шкалы 1–10
- Судья с объяснением перед оценкой обычно точнее
А ещё Судья не должен оценивать ответы своей же модели без проверки на смещение
Подробно
Процедура:
- Рубрика: конкретные критерии с определениями и примерами.
- Разметка людьми, лучше двумя разметчиками на часть выборки.
- Прогон судьи, сравнение с людьми.
- Разбор расхождений: где судья строже, где мягче.
- Правка рубрики и промпта, повтор.
Метрики согласия:
- процент совпадений — прост, но обманчив при дисбалансе;
- каппа Коэна — учитывает случайное совпадение;
- precision и recall судьи для класса «ошибка» — важны, если судья используется как фильтр.
Смещения. Проверить: меняется ли оценка при перестановке ответов в паре, при удлинении ответа без новой информации.
Что хотят услышать
- Разметка людьми и метрики согласия.
- Итерации над рубрикой.
- Проверка смещений судьи.
- Перекалибровка при изменениях.
Проверьте себя
Один верный вариант. Подумайте, потом откройте ответ.
Показать варианты и ответ
- ✗Судье на сильной модели можно доверять без проверки
- ✗Достаточно спросить у судьи, уверен ли он в своей оценке
- ✓Разметить выборку людьми, посчитать согласие с судьёй и уточнить рубрику
- ✗Калибровать один раз — смена модели судьи на неё не влияет
Связанные вопросы
Разбор собеседования с sotto
После собеседования sotto разбирает разговор: оценка, каждый вопрос — хорошо, частично или слабо, чего не хватило в ответе и над чем поработать к следующему разу. Первые 30 минут бесплатно.