Relatórios de IA · Amazon · 2026-10-19 · Blog / comentário
Como a Deepgram otimizou IA de voz em escala com o AWS Trainium
Título original: How Deepgram optimized voice AI at scale with AWS Trainium
A Deepgram trabalhou com a equipe de Forward Deployed Engineering da AWS para portar seu modelo de conversão de fala em texto Nova-3 para o AWS Trainium2, para inferência em lote offline. O trabalho abrangeu a stack AWS Neuron, ajustes em nível de kernel e um runtime em Rust com paralelismo de dados. Nas cargas de trabalho em lote da Deepgram, a configuração com Trainium2 processou de 11 a 70 por cento mais áudio por dólar do que as opções de computação anteriores.