Informes de IA · Epoch AI · 2026-11-09 · Encuesta / índice / datos
Cambiando la forma en que medimos el rendimiento de inferencia de los chips de IA
Título original: Changing how we measure AI chip inference performance
Epoch AI propone el Inference Performance Index (IPI), argumentando que las mediciones de FLOP/s subestiman el rendimiento de inferencia de los chips porque la memoria y la comunicación entre chips también importan. Estima que Nvidia GB300 ofrece unas 25 veces la capacidad de inferencia de H100 por chip en las cargas de trabajo agénticas que modela, a pesar de tener solo 2.5 veces los FLOP/s de 8 bits. IPI Versión 1 se centra en cargas de trabajo agénticas, combina resultados de cuatro modelos representativos y expresa las puntuaciones en equivalentes de GB300.