Нейросеть — композиция слоёв, каждый из которых умножает вход на матрицу весов и применяет нелинейность. Обучение — подбор весов градиентным спуском: посчитать ошибку, найти её градиент по всем весам (обратное распространение) и сдвинуть веса в сторону уменьшения ошибки.
Что важно знать
- Функция потерь, learning rate и почему слишком большой шаг расходится.
- Пакеты (batch), эпохи, оптимизаторы (Adam).
- Регуляризация: dropout, weight decay, ранняя остановка.
- Почему нужны GPU: обучение и вывод — это перемножение больших матриц.
- PyTorch — стандартный фреймворк; для ИИ-инженера достаточно уметь прочитать код модели и загрузить веса.