Какая математика нужна в машинном обучении и где она применяется?
- Зачем data scientist линейная алгебра?
- Что такое скалярное произведение и где оно в ML?
Три опоры: линейная алгебра — данные это матрицы, модель — умножение матриц, эмбеддинги — векторы, сходство — скалярное произведение; математический анализ — градиент показывает, куда менять параметры, обучение — градиентный спуск; вероятность и статистика — модели оценивают вероятности, функции потерь выводятся из правдоподобия, качество проверяется статистически. Нужна интуиция и умение читать формулы, а не доказательства теорем.
- Векторы, матрицы, умножение, норма, скалярное произведение, собственные векторы (PCA)
- Производная, градиент, цепное правило (обратное распространение ошибки)
- Распределения, условная вероятность, Байес, матожидание и дисперсия
А ещё На собеседованиях спрашивают на уровне «объясните, что делает градиентный спуск» и «почему логистическая регрессия выдаёт вероятность»
Подробно
Где встречается:
| раздел | применение |
|---|---|
| векторы и матрицы | признаки объекта, батч данных, веса слоя |
| скалярное произведение, косинус | сходство эмбеддингов, линейная модель |
| собственные векторы, SVD | PCA, рекомендательные системы |
| производная, градиент | обучение любой модели градиентным спуском |
| цепное правило | обратное распространение в нейросетях |
| вероятность, правдоподобие | логистическая регрессия, кросс-энтропия |
| распределения | проверка гипотез, генерация данных |
Как учить: параллельно с практикой — реализовать линейную регрессию и градиентный спуск на NumPy без библиотек, это закрывает большую часть интуиции.
Что хотят услышать
- Связь разделов математики с конкретными частями ML.
- Понимание градиента и скалярного произведения.
- Вероятностный взгляд на модели.
Проверьте себя
Один верный вариант. Подумайте, потом откройте ответ.
Показать варианты и ответ
- ✗Для ML нужна только статистика, линейная алгебра не применяется
- ✓Линейная алгебра, градиенты, вероятность — на уровне интуиции и формул
- ✗Нужно уметь доказывать теоремы матанализа
- ✗Математика нужна только исследователям, а не инженерам
Связанные вопросы
Разбор собеседования с sotto
После собеседования sotto разбирает разговор: оценка, каждый вопрос — хорошо, частично или слабо, чего не хватило в ответе и над чем поработать к следующему разу. Первые 30 минут бесплатно.