Laporan AI · Amazon · 2026-10-22 · Blog / komentar
Stream ucapan latensi rendah dari agen AI menggunakan Kokoro TTS di Amazon SageMaker AI
Judul asli: Stream low-latency speech from AI agents using Kokoro TTS on Amazon SageMaker AI
Agen suara sering menunggu respons lengkap dari agen sebelum memulai sintesis suara, sehingga menambahkan latensi yang langsung dirasakan pengguna. Postingan ini menunjukkan cara melakukan streaming setiap kalimat ke model text-to-speech Kokoro-82M yang di-hosting di Amazon SageMaker AI begitu agen menghasilkannya, sehingga pemutaran audio dapat dimulai sebelum respons lengkap selesai. Ini juga membahas dua transport untuk mengembalikan audio tersebut ke browser—Server-Sent Events atau transport biner terpadu—dan berapa biaya masing-masing dalam praktiknya.