KI-Berichte · Amazon · 2026-10-19 · Blog / Kommentar
Wie Deepgram Voice-KI mit AWS Trainium im großen Maßstab optimiert hat
Originaltitel: How Deepgram optimized voice AI at scale with AWS Trainium
Deepgram hat mit dem AWS Forward Deployed Engineering Team zusammengearbeitet, um sein Nova-3-Speech-to-Text-Modell für die Offline-Batch-Inferenz auf AWS Trainium2 zu portieren. Die Arbeit umfasste den AWS-Neuron-Stack, Tuning auf Kernel-Ebene und eine datenparallele Rust-Laufzeitumgebung. Bei den Batch-Workloads von Deepgram verarbeitete das Trainium2-Setup pro Dollar 11–70 Prozent mehr Audio als die bisherigen Rechenoptionen.