Informes de IA · Amazon · 2026-10-19 · Blog / comentario
Cómo Deepgram optimizó la IA de voz a gran escala con AWS Trainium
Título original: How Deepgram optimized voice AI at scale with AWS Trainium
Deepgram trabajó con el equipo de Forward Deployed Engineering de AWS para trasladar su modelo de voz a texto Nova-3 a AWS Trainium2 para inferencia por lotes sin conexión. El trabajo abarcó la pila AWS Neuron, el ajuste a nivel de kernel y un entorno de ejecución en Rust con paralelismo de datos. En las cargas de trabajo por lotes de Deepgram, la configuración con Trainium2 procesó entre un 11 y un 70 por ciento más de audio por dólar que sus opciones de cómputo anteriores.