Что такое переобучение модели и как с ним бороться?
- Что такое overfitting и underfitting?
- Как понять, что модель переобучилась?
- Что такое регуляризация?
Переобучение — модель запомнила обучающие данные вместе с шумом и плохо работает на новых; недообучение — модель слишком простая и плоха даже на обучающих.
- Признак переобучения: ошибка на обучении низкая, на валидации — высокая
- Лечат: больше данных, регуляризация, упрощение модели, ранняя остановка, кросс-валидация
А ещё Цель — обобщение на новые данные, а не идеальный результат на обучающих
Подробно
Модель учится на обучающей выборке, а работать должна на данных, которых не видела. Два крайних случая:
- недообучение (underfitting) — модель слишком простая или мало обучалась: ошибка высокая и на обучении, и на проверке;
- переобучение (overfitting) — модель слишком сложная для объёма данных и подстраивается под случайные особенности: ошибка на обучении маленькая, на валидации заметно больше.
Как распознать: сравнивать метрики на обучающей и валидационной выборках, строить кривые обучения по эпохам — валидационная ошибка начинает расти, когда обучающая продолжает падать.
Что помогает:
- больше данных или аугментация;
- регуляризация — штраф за большие веса (L1, L2), dropout в нейросетях;
- упрощение модели: меньше признаков, меньше глубина дерева;
- ранняя остановка — прекратить обучение, когда валидация перестала улучшаться;
- кросс-валидация для честной оценки;
- ансамбли (например, случайный лес усредняет переобученные деревья).
Это проявление компромисса смещения и разброса (bias–variance).
Что хотят услышать
- Определения обоих явлений.
- Как обнаружить: сравнение обучения и валидации.
- Несколько способов борьбы.
Частые ошибки
- Оценивать модель на тех же данных, на которых обучали.
- Считать, что более сложная модель всегда лучше.
Проверьте себя
Один верный вариант. Подумайте, потом откройте ответ.
Показать варианты и ответ
- ✗Ошибка высокая и на обучении, и на валидации, а модель слишком простая
- ✓На обучении ошибка низкая, на валидации — высокая; лечат регуляризацией
- ✗Переобучение лечат усложнением модели
- ✗Признак переобучения — высокая точность на тестовой выборке
Что спросят дальше
Разбор темы
- Основы машинного обучения — задачи, выборки и первые модели
Какие бывают задачи ML, зачем делить данные на выборки, что такое переобучение и как обучаются линейная и логистическая регрессия.
Связанные вопросы
Разбор собеседования с sotto
После собеседования sotto разбирает разговор: оценка, каждый вопрос — хорошо, частично или слабо, чего не хватило в ответе и над чем поработать к следующему разу. Первые 30 минут бесплатно.