AI رپورٹس · Epoch AI · 2026-11-09 · سروے / اشاریہ / ڈیٹا
AI چپ انفرنس کارکردگی کو ناپنے کے طریقے میں تبدیلی
اصل عنوان: Changing how we measure AI chip inference performance
Epoch AI نے Inference Performance Index (IPI) تجویز کیا ہے، اور دلیل دی ہے کہ FLOP/s کے پیمانے چپس کی انفرنس کارکردگی کو کم ظاہر کرتے ہیں کیونکہ میموری اور چپس کے درمیان رابطہ بھی اہم ہیں۔ اس کے اندازے کے مطابق، جن ایجنٹک ورک لوڈز کا وہ ماڈل بناتا ہے ان پر Nvidia GB300 فی چپ H100 سے تقریباً 25 گنا انفرنس صلاحیت فراہم کرتا ہے، حالانکہ 8-بٹ FLOP/s صرف 2.5 گنا ہیں۔ IPI ورژن 1 ایجنٹک ورک لوڈز پر توجہ دیتا ہے، چار نمائندہ ماڈلز کے نتائج کو یکجا کرتا ہے، اور اسکور GB300 کے مساوی اکائیوں میں ظاہر کرتا ہے۔