Informes de IA · Amazon · 2026-10-21 · Blog / comentario
Entrena Qwen3 en AWS Trainium con torchtitan
Título original: Train Qwen3 on AWS Trainium with torchtitan
Esta entrada entrena Qwen3 de tres maneras en una única instancia trn2.48xlarge con torchtitan: el backend de modelado de Hugging Face Transformers v5, el Qwen3 nativo de torchtitan y los kernels de mezcla de expertos (mixture-of-experts) de NKI. El mismo lanzador torchrun y la misma estructura de configuración funcionan sin cambios en las tres vías, incluida la carga y el guardado de los safetensors de Hugging Face ya publicados. TorchNeuron registra Trainium como un dispositivo PyTorch nativo, lo que permite a torchtitan utilizarlo a través de las interfaces estándar de PyTorch.