Отчёты по ИИ · Amazon · 2026-10-22 · Блог / комментарии
Потоковая передача речи с низкой задержкой от ИИ-агентов с помощью Kokoro TTS на Amazon SageMaker AI
Оригинальное название: Stream low-latency speech from AI agents using Kokoro TTS on Amazon SageMaker AI
Голосовые агенты часто ждут полного ответа агента, прежде чем начать синтез речи, что добавляет задержку, которую пользователи ощущают напрямую. В посте показано, как передавать каждое предложение в потоковом режиме в размещённую модель преобразования текста в речь Kokoro-82M на Amazon SageMaker AI сразу после того, как агент его сгенерировал, чтобы воспроизведение звука могло начаться до завершения полного ответа. Также рассматриваются два транспорта для возврата этого звука в браузер — Server-Sent Events или единый бинарный транспорт — и то, чего стоит каждый из них на практике.