AI रिपोर्ट्स · Amazon · 2026-10-19 · ब्लॉग / टिप्पणी
Deepgram ने AWS Trainium के साथ बड़े पैमाने पर वॉइस AI को कैसे ऑप्टिमाइज़ किया
मूल शीर्षक: How Deepgram optimized voice AI at scale with AWS Trainium
Deepgram ने AWS Forward Deployed Engineering टीम के साथ मिलकर अपने Nova-3 स्पीच-टू-टेक्स्ट मॉडल को ऑफ़लाइन बैच इन्फ़रेंस के लिए AWS Trainium2 पर पोर्ट किया। इस काम में AWS Neuron स्टैक, कर्नेल-स्तर की ट्यूनिंग और एक डेटा-पैरेलल Rust रनटाइम शामिल थे। Deepgram के बैच वर्कलोड पर, Trainium2 सेटअप ने उसके पिछले कंप्यूट विकल्पों की तुलना में प्रति डॉलर 11–70 प्रतिशत अधिक ऑडियो प्रोसेस किया।