Где языковые модели помогают в работе с данными — разметка, извлечение, классификация, генерация признаков.
LLM меняют работу с текстовыми данными: то, что раньше требовало месяцев разметки, теперь делается промптом.
Практика. Разметить 2000 текстов LLM, проверить качество на 200 ручных метках и обучить на разметке маленькую модель.
Войдите, чтобы пройти тест: сданный тест отмечает тему пройденной на карте и в ИПР.
LLM — нейросеть-трансформер, которая предсказывает следующий токен по предыдущим; текст получается, если повторять это шаг за шагом.
Полный разборИспользуйте режим структурированного вывода по JSON-схеме, если API его поддерживает, и всегда валидируйте результат в коде.
Полный разборСобрать набор тестовых примеров с ожидаемым результатом, выбрать метрики под задачу и прогонять его при каждом изменении промпта, модели или поиска.
Полный разборЭмбеддинг — вектор чисел, в котором тексты близкие по смыслу оказываются близко в пространстве.
Полный разборПосле собеседования sotto разбирает разговор: оценка, каждый вопрос — хорошо, частично или слабо, чего не хватило в ответе и над чем поработать к следующему разу. Первые 30 минут бесплатно.