AI 報告 · Amazon · 2026-10-21 · 部落格／評論
在 AWS Trainium 上以 torchtitan 訓練 Qwen3
原標題: Train Qwen3 on AWS Trainium with torchtitan
這篇文章在單一 trn2.48xlarge 上以 torchtitan 用三種方式訓練 Qwen3：Hugging Face Transformers v5 模型後端、torchtitan 原生的 Qwen3，以及 NKI 混合專家核心。相同的 torchrun 啟動器與設定結構在這三種路徑上皆無須修改即可運作，包括載入與儲存已發布的 Hugging Face safetensors。TorchNeuron 將 Trainium 註冊為原生的 PyTorch 裝置，讓 torchtitan 能透過標準 PyTorch 介面使用它。