Векторы и матрицы, скалярное произведение, умножение матриц, собственные векторы и SVD.
Практика. Реализовать линейную регрессию в матричной форме на NumPy и сравнить с scikit-learn.
Практика. Реализовать PCA через SVD на NumPy и сжать изображение, сравнив качество при разном числе компонент.
Войдите, чтобы пройти тест: сданный тест отмечает тему пройденной на карте и в ИПР.
Три опоры: линейная алгебра — данные это матрицы, модель — умножение матриц, эмбеддинги — векторы, сходство — скалярное произведение; математический анализ — градиент показывает, куда менять параметры, обучение — градиентный спуск; вероятность и статистика …
Полный разборPCA находит новые оси — главные компоненты — вдоль которых данные изменяются сильнее всего, и проецирует данные на первые несколько из них. Применение: сжатие признаков, борьба с мультиколлинеарностью, ускорение моделей, визуализация. Это линейный метод; для…
Полный разборЭмбеддинг — вектор чисел, в котором тексты близкие по смыслу оказываются близко в пространстве.
Полный разборКосинусное сходство — косинус угла между векторами: 1 — направлены одинаково (тексты близки по смыслу), около 0 — не связаны. Считается как скалярное произведение, делённое на произведение длин; для нормализованных векторов (длина 1) это просто скалярное…
Полный разборndarray — массив чисел одного типа в непрерывной памяти; операции над ним (a + b, a 2, np.sqrt(a), a @ b) выполняются в C над всем массивом сразу — в десятки раз быстрее цикла Python. Broadcasting — правило, по которому массивы разной формы приводятся друг к…
Полный разборСобственный вектор матрицы при умножении на неё только растягивается (в λ раз — собственное значение), не меняя направления. SVD раскладывает любую матрицу X = UΣVᵀ: Σ — сингулярные числа по убыванию, показывающие «важность» направлений. PCA — это SVD…
Полный разборПосле собеседования sotto разбирает разговор: оценка, каждый вопрос — хорошо, частично или слабо, чего не хватило в ответе и над чем поработать к следующему разу. Первые 30 минут бесплатно.