AI レポート · Amazon · 2026-10-22 · ブログ・論評
Amazon SageMaker AI上のKokoro TTSでAIエージェントの低レイテンシ音声をストリーミング配信
原題: Stream low-latency speech from AI agents using Kokoro TTS on Amazon SageMaker AI
音声エージェントでは応答全体の生成完了を待ってから音声合成を開始する構成が多く、ユーザーが直接感じる遅延につながる。本稿では、エージェントが文を生成するごとにAmazon SageMaker AI上でホストしたKokoro-82Mテキスト読み上げモデルへその文を即座にストリーミングし、応答の完成を待たずに音声再生を始める方法を示す。Kokoro-82Mは8200万パラメータと小規模で、SageMaker AIのリアルタイムエンドポイント上のカスタムコンテナで動作するためレイテンシと推論コストを低く抑えられるほか、音声をブラウザへ返すServer-Sent Eventsと統合バイナリトランスポートの2つの方式と、それぞれの実際のコストも解説する。