تقارير الذكاء الاصطناعي · Amazon · 2026-10-13 · مدونة / تعليق

هندسة نوى Mixture-of-Experts على Amazon SageMaker AI

العنوان الأصلي: Mixture-of-Experts kernel engineering on Amazon SageMaker AI

يصف مهندسو AWS تحسينات النواة (kernel) لنماذج مزيج الخبراء المدمجة على Amazon SageMaker AI. وتشمل هذه التحسينات Swap-AB لاستخدام أفضل لـ WGMMA، وتوجيه واجهة Triton الخلفية لتكميم FP8، وإزالة إعادة التجميع الفوري لـ Triton JIT. وتحقق معًا ما يصل إلى 10% من الإنتاجية الأعلى وما يصل إلى 9% من السرعة الأكبر في زمن أول رمز على وحدات معالجة الرسومات H200.

اقرأ المصدر الأصلي ↗

جميع تقارير الذكاء الاصطناعي →