AI رپورٹس · Amazon · 2026-10-21 · بلاگ / تبصرہ
torchtitan کے ساتھ AWS Trainium پر Qwen3 کی تربیت کریں
اصل عنوان: Train Qwen3 on AWS Trainium with torchtitan
یہ مضمون ایک ہی trn2.48xlarge پر torchtitan کے ساتھ تین طریقوں سے Qwen3 کی تربیت کرتا ہے: Hugging Face Transformers v5 ماڈلنگ بیک اینڈ، torchtitan کا نیٹو Qwen3، اور NKI کے mixture-of-experts کرنلز۔ وہی torchrun لانچر اور کنفیگ اسٹرکچر تینوں راستوں پر بغیر کسی تبدیلی کے کام کرتے ہیں، بشمول شائع شدہ Hugging Face safetensors کو لوڈ کرنا اور محفوظ کرنا۔ TorchNeuron، Trainium کو ایک نیٹو PyTorch ڈیوائس کے طور پر رجسٹر کرتا ہے، جس سے torchtitan اسے معیاری PyTorch انٹرفیسز کے ذریعے استعمال کر سکتا ہے۔