AI रिपोर्ट्स · Epoch AI · 2026-11-09 · सर्वेक्षण / इंडेक्स / डेटा
AI चिप इन्फ़रेंस प्रदर्शन को मापने का तरीका बदलना
मूल शीर्षक: Changing how we measure AI chip inference performance
Epoch AI ने Inference Performance Index (IPI) का प्रस्ताव रखा है, जिसमें तर्क दिया गया है कि FLOP/s माप चिप्स के इन्फ़रेंस प्रदर्शन को कम आँकते हैं, क्योंकि मेमोरी और चिप-से-चिप संचार भी मायने रखते हैं। इसका अनुमान है कि जिन एजेंटिक वर्कलोड को यह मॉडल करता है, उन पर Nvidia GB300 प्रति चिप H100 से लगभग 25 गुना इन्फ़रेंस क्षमता देता है, जबकि 8-बिट FLOP/s केवल 2.5 गुना है। IPI Version 1 एजेंटिक वर्कलोड पर केंद्रित है, चार प्रतिनिधि मॉडलों के परिणामों को जोड़ता है, और स्कोर को GB300 समतुल्य में व्यक्त करता है।