AI レポート · Amazon · 2026-10-13 · ブログ・論評
Amazon SageMaker AI における Mixture-of-Experts モデルのカーネル最適化
原題: Mixture-of-Experts kernel engineering on Amazon SageMaker AI
AWS のエンジニアが、Amazon SageMaker AI 上の融合型 Mixture-of-Experts（MoE）モデル向けのカーネル最適化を解説している。WGMMA の利用率を高める Swap-AB、FP8 量子化のための Triton バックエンドへのルーティング、Triton の JIT 再コンパイルの排除が主な内容である。H200 GPU において、スループットは最大10%、Time to First Token は最大9%向上するとしている。