Rapports sur l'IA · Amazon · 2026-10-19 · Blog / commentaire
Comment Deepgram a optimisé l'IA vocale à grande échelle avec AWS Trainium
Titre original: How Deepgram optimized voice AI at scale with AWS Trainium
Deepgram a travaillé avec l'équipe AWS Forward Deployed Engineering pour porter son modèle de reconnaissance vocale Nova-3 sur AWS Trainium2 pour l'inférence par lots hors ligne. Ce travail a couvert la pile AWS Neuron, l'optimisation au niveau des noyaux et un environnement d'exécution Rust en parallélisme de données. Sur les charges de travail par lots de Deepgram, la configuration Trainium2 a traité 11–70 pour cent d'audio en plus par dollar que ses options de calcul précédentes.