Ripoti za AI · Amazon · 2026-10-19 · Blogu / maoni
Jinsi Deepgram ilivyoboresha AI ya sauti kwa kiwango kikubwa kwa kutumia AWS Trainium
Kichwa asilia: How Deepgram optimized voice AI at scale with AWS Trainium
Deepgram ilifanya kazi na timu ya AWS Forward Deployed Engineering kuhamishia muundo wake wa Nova-3 wa kubadilisha hotuba kuwa maandishi kwenye AWS Trainium2 kwa ajili ya makisio ya kundi yasiyo ya moja kwa moja (offline batch inference). Kazi hiyo ilihusisha mfumo wa AWS Neuron, uboreshaji wa kiwango cha kernel, na mazingira ya uendeshaji ya Rust yenye usambamba wa data. Kwenye mizigo ya kazi ya kundi ya Deepgram, usanidi wa Trainium2 ulichakata sauti zaidi kwa asilimia 11–70 kwa kila dola kuliko chaguo zake za awali za kompyuta.