Этап 15 из 18 · ≈ 16 ч

LoRA и PEFT

Основа с Middle

Дообучение маленькой добавкой к весам вместо всей модели.

Полное дообучение меняет все миллиарды весов — дорого по памяти и времени. LoRA замораживает исходные веса и обучает небольшие матрицы низкого ранга, которые добавляются к слоям. Обучаемых параметров — доли процента, а качество близко к полному дообучению.

Что важно знать

  • QLoRA — LoRA поверх квантованной модели: дообучение модели на 7–8 млрд параметров на одной видеокарте.
  • Несколько адаптеров LoRA для разных задач поверх одной базовой модели.
  • Данные: пары «запрос — идеальный ответ» в формате диалога; качество и разнообразие важнее объёма.
  • Переобучение и «забывание» общих навыков — проверять на общем наборе.
  • Многие провайдеры API предлагают дообучение своих моделей без своей инфраструктуры.

Критерии освоения

Middle ≈ 16 ч

  • Готовит набор данных для дообучения и дообучает открытую модель с LoRA или QLoRA
  • Сравнивает модель до и после на своём наборе и проверяет потерю общих навыков

Практика. Дообучить модель на 7–8 млрд параметров с QLoRA на 1000 примеров извлечения данных и сравнить с исходной и с большой моделью по API.

Senior ≈ 8 ч

  • Решает, оправдано ли дообучение, по ожидаемому выигрышу и полной стоимости

Практика. Подготовить обоснование дообучения против RAG и промптов для реальной задачи с расчётом стоимости и рисков.

Проверка знаний

Войдите, чтобы пройти тест: сданный тест отмечает тему пройденной на карте и в ИПР.

Вопросы с собеседований

Смотреть все
Что такое дообучение модели и LoRA?Middle

Дообучение — продолжение обучения готовой модели на своих примерах, чтобы закрепить формат, стиль или навык; LoRA обучает небольшие добавочные матрицы вместо всех весов.

Полный разбор
Как подготовить данные для дообучения модели и проверить, что она не разучилась остальному?Middle

Данные — пары «вход → идеальный выход» в том же формате, что будет в продакшене (тот же системный промпт, та же схема ответа). Важнее качество и разнообразие, чем объём: сотни–тысячи вычищенных примеров, покрывающих сценарии и сложные случаи. Обязательно…

Полный разбор
Когда использовать RAG, а когда дообучение модели?Middle

RAG — когда нужны знания (факты, документы, свежие данные); дообучение — когда нужно поведение (формат, стиль, навык, предметный язык).

Полный разбор
Что такое дистилляция модели?Middle

Дистилляция — обучение маленькой модели-ученика повторять поведение большой модели-учителя. Ученик учится на ответах или распределениях вероятностей учителя, а не только на исходной разметке, и достигает качества, недостижимого при обучении «с нуля» того же…

Полный разбор

Документация

← Вся карта «ИИ-инженер»

Партнёр платформы

Разбор собеседования с sotto

После собеседования sotto разбирает разговор: оценка, каждый вопрос — хорошо, частично или слабо, чего не хватило в ответе и над чем поработать к следующему разу. Первые 30 минут бесплатно.

Разбор собеседования