Relatórios de IA · Amazon · 2026-10-21 · Blog / comentário
Treine o Qwen3 no AWS Trainium com o torchtitan
Título original: Train Qwen3 on AWS Trainium with torchtitan
Este post treina o Qwen3 de três maneiras em uma única instância trn2.48xlarge com o torchtitan: o backend de modelagem do Hugging Face Transformers v5, o Qwen3 nativo do torchtitan e os kernels de mistura de especialistas (mixture-of-experts) do NKI. O mesmo iniciador torchrun e a mesma estrutura de configuração funcionam sem alterações em todos os três caminhos, incluindo o carregamento e o salvamento de safetensors do Hugging Face publicados. O TorchNeuron registra o Trainium como um dispositivo PyTorch nativo, permitindo que o torchtitan o utilize por meio das interfaces padrão do PyTorch.