Какие бывают задачи
Обучение с учителем — есть правильные ответы (метки): классификация предсказывает класс (спам или нет, уйдёт ли клиент), регрессия — число (цена, спрос). Без учителя — меток нет, ищем структуру: кластеры, аномалии, сжатие признаков. С подкреплением — агент учится действиям по награде. Первый вопрос к любой задаче: что именно предсказываем и какое действие будет сделано по прогнозу.
Три выборки
Модель оценивают на данных, которых она не видела:
- обучающая — на ней модель учится;
- валидационная — подбираем параметры и сравниваем модели;
- тестовая — один раз в конце для честной оценки.
Если подбирать параметры по тесту, оценка станет оптимистичной. Когда данных мало, используют кросс-валидацию — несколько разбиений по очереди. Для данных во времени обучаются на прошлом, проверяют на будущем.
Переобучение
Переобучение — модель запомнила обучающие данные вместе с шумом: на обучении ошибка низкая, на валидации — высокая. Недообучение — модель слишком простая и плоха везде. Лечат переобучение больше данных, регуляризацией, упрощением модели, ранней остановкой. Цель — обобщение на новые данные, а не идеальный результат на обучающих.
Линейная и логистическая регрессия
Линейная регрессия предсказывает число как взвешенную сумму признаков. Логистическая — классификатор: ту же сумму пропускают через сигмоиду и получают вероятность класса от 0 до 1. Класс выбирают порогом, который подбирают под задачу, а не оставляют 0,5 по умолчанию.
Как модель учится
Веса подбирают, минимизируя функцию потерь градиентным спуском: шаг за шагом сдвигают параметры против градиента — в сторону уменьшения ошибки. Learning rate — размер шага: слишком большой — обучение скачет или расходится, слишком маленький — идёт очень долго.
Итог
- Сначала понять задачу и действие по прогнозу.
- Обучение, валидация, тест — и тест трогают один раз.
- Переобучение видно по разрыву обучения и валидации.
- Линейные модели — сильная и понятная базовая линия.