Этап 16 из 18 · ≈ 10 ч

Речь и голосовые ассистенты

Полезно знать с Middle

Распознавание и синтез речи, голосовые ассистенты в реальном времени.

задачаинструменты
распознавание речи (ASR)Whisper и ускоренные версии, облачные сервисы, GigaAM для русского
синтез речи (TTS)облачные голоса, открытые модели
разделение по говорящимpyannote и аналоги
голос в реальном времениrealtime API или связка ASR + LLM + TTS

Что важно знать

  • Качество распознавания — WER (доля ошибочных слов) на своих записях: телефонный звук, шум и акценты заметно ухудшают результат.
  • Голосовой ассистент живёт в бюджете задержки: каждое звено конвейера работает потоково, иначе паузы раздражают собеседника.
  • Определение конца фразы и перебивание — отдельные нетривиальные задачи.
  • Аудио — персональные данные, запись разговора требует согласия.

Критерии освоения

Middle ≈ 10 ч

  • Распознаёт речь из аудиофайла и потока, оценивает качество по WER
  • Собирает конвейер «распознавание — модель — синтез» с потоковой обработкой

Практика. Сделать расшифровку часовой встречи с разделением по говорящим и кратким резюме, измерить WER на 10 минутах ручной разметки.

Senior ≈ 10 ч

  • Укладывает голосового ассистента в бюджет задержки ответа около секунды
  • Обрабатывает перебивание, паузы и шум в разговоре

Практика. Собрать голосового ассистента с потоковым распознаванием и синтезом и измерить задержку от конца фразы до начала ответа на 50 репликах.

Проверка знаний

Войдите, чтобы пройти тест: сданный тест отмечает тему пройденной на карте и в ИПР.

Вопросы с собеседований

Смотреть все
Как уложить голосового ассистента в задержку ответа около секунды?Senior

Задержка складывается из звеньев: определение конца фразы + финальное распознавание + время до первого токена модели + синтез первой фразы + сеть. Уложиться можно только потоково: распознавание идёт во время речи, модель начинает генерировать сразу, синтез…

Полный разбор
Как распознавать речь и как измерять качество распознавания (WER)?Middle

Распознавание (ASR) переводит аудио в текст: файл целиком (точнее, проще) или поток с промежуточными результатами (нужно для живого диалога). Варианты — облачные сервисы (Yandex SpeechKit, SaluteSpeech и зарубежные) и открытые модели (Whisper и его ускоренные…

Полный разбор
Как собрать голосового ассистента из распознавания, языковой модели и синтеза речи?Middle

Классический конвейер: ASR (речь → текст) → LLM (ответ, вызовы инструментов) → TTS (текст → речь). Чтобы не было долгих пауз, всё работает потоково: аудио отправляется во время речи, модель начинает отвечать сразу после конца фразы, синтез озвучивает первое…

Полный разбор
Как голосовому ассистенту обрабатывать перебивания, паузы и шум?Senior

Конец фразы определяют детектором речи (VAD) и паузой, часто вместе с моделью конца реплики, которая по смыслу понимает, договорил ли человек («мой номер… семь, девять…» — не конец). Короткая пауза — ассистент перебивает, длинная — тормозит. Перебивание…

Полный разбор
Как устроен синтез речи в голосовом ассистенте и что важно настроить?Middle

TTS превращает текст в речь. Для диалога нужен потоковый синтез: текст подают по предложениям по мере генерации, и звук начинает играть до того, как модель закончила ответ. Качество зависит от подготовки текста: числа, даты, суммы, сокращения, адреса нужно…

Полный разбор
Как реализовать потоковую выдачу ответа LLM пользователю?Middle

Модель генерирует ответ токен за токеном, и его можно показывать по мере генерации: воспринимаемая задержка падает с десятков секунд до времени первого токена. Провайдеры отдают поток через Server-Sent Events; бэкенд проксирует его клиенту (SSE или…

Полный разбор

← Вся карта «ИИ-инженер»

Партнёр платформы

Разбор собеседования с sotto

После собеседования sotto разбирает разговор: оценка, каждый вопрос — хорошо, частично или слабо, чего не хватило в ответе и над чем поработать к следующему разу. Первые 30 минут бесплатно.

Разбор собеседования