Ripoti za AI · Amazon · 2026-10-21 · Blogu / maoni
Funza Qwen3 kwenye AWS Trainium kwa kutumia torchtitan
Kichwa asilia: Train Qwen3 on AWS Trainium with torchtitan
Makala hii inafunza Qwen3 kwa njia tatu kwenye trn2.48xlarge moja kwa kutumia torchtitan: backend ya uundaji wa mifano ya Hugging Face Transformers v5, Qwen3 ya asili ya torchtitan, na kernels za NKI mixture-of-experts. Kizinduzi kilekile cha torchrun na muundo wa config hufanya kazi bila mabadiliko katika njia zote tatu, ikijumuisha kupakia na kuhifadhi safetensors za Hugging Face zilizochapishwa. TorchNeuron inasajili Trainium kama kifaa cha asili cha PyTorch, na hivyo kuwezesha torchtitan kuitumia kupitia violesura vya kawaida vya PyTorch.