Laporan AI · Amazon · 2026-10-19 · Blog / komentar
Bagaimana Deepgram mengoptimalkan AI suara dalam skala besar dengan AWS Trainium
Judul asli: How Deepgram optimized voice AI at scale with AWS Trainium
Deepgram bekerja sama dengan tim AWS Forward Deployed Engineering untuk memindahkan model speech-to-text Nova-3 miliknya ke AWS Trainium2 untuk inferensi batch offline. Pekerjaan ini mencakup stack AWS Neuron, penyetelan tingkat kernel, dan runtime Rust data-paralel. Pada beban kerja batch Deepgram, konfigurasi Trainium2 memproses audio 11–70 persen lebih banyak per dolar dibandingkan opsi komputasi sebelumnya.