Почему голосовые ИИ-агенты перебивают людей: измерено на живом API и исправлено с помощью правил русской синтаксики
Голосовые ИИ-платформы определяют конец реплики пользователя с помощью таймера тишины (VAD). Тесты на реальном API показали, что из задержки в 1275 мс перед ответом ИИ 1200 мс — это просто ожидание таймера, и только 75 мс — фактическая работа модели. Автор предлагает детектор на основе правил русской синтаксики, который сокращает задержку до 316 мс всего с 2 перебиваниями вместо 38.
Инженер измерил задержку в ответах голосового ИИ, используя синтезированную русскую фразу через Yandex Realtime API (совместимый с OpenAI Realtime). Они варьировали параметр silence_duration_ms: при 400 мс или 800 мс агент отвечал почти мгновенно, но слышал только приветствие, пропуская сам вопрос. При 1200 мс фраза распознавалась полностью, но задержка составляла 1275 мс, из которых только 75 мс
Показать ещё ↓
Источник: Habr — хаб ИИ —
оригинал