Relatórios de IA · Epoch AI · 2026-11-09 · Pesquisa / índice / dados
Mudando a forma como medimos o desempenho de inferência de chips de IA
Título original: Changing how we measure AI chip inference performance
A Epoch AI propõe o Inference Performance Index (IPI), argumentando que as medições de FLOP/s subestimam o desempenho de inferência dos chips, pois a memória e a comunicação entre chips também importam. Ela estima que o Nvidia GB300 oferece cerca de 25 vezes a capacidade de inferência do H100 por chip nas cargas de trabalho agênticas que modela, apesar de ter apenas 2,5 vezes os FLOP/s de 8 bits. A Versão 1 do IPI foca em cargas de trabalho agênticas, combina resultados de quatro modelos representativos e expressa as pontuações em equivalentes de GB300.