Rapports sur l'IA · Epoch AI · 2026-11-09 · Enquête / indice / données
Changer la façon dont nous mesurons les performances d'inférence des puces d'IA
Titre original: Changing how we measure AI chip inference performance
Epoch AI propose l'Inference Performance Index (IPI), soutenant que les mesures en FLOP/s sous-estiment les performances d'inférence des puces, car la mémoire et la communication entre puces comptent également. Elle estime que le Nvidia GB300 offre environ 25 fois la capacité d'inférence du H100 par puce sur les charges de travail agentiques qu'elle modélise, malgré seulement 2,5 fois les FLOP/s en 8 bits. L'IPI Version 1 se concentre sur les charges de travail agentiques, combine les résultats de quatre modèles représentatifs et exprime les scores en équivalents GB300.