AI レポート · Epoch AI · 2026-11-09 · 調査・指数・データ
AIチップの推論性能の測定方法を変える
原題: Changing how we measure AI chip inference performance
Epoch AIは、FLOP/s（演算速度）だけでは推論性能を過小評価するとして、メモリとチップ間通信も評価する「推論性能指数（IPI）」を提案している。同社の推定では、エージェント型の推論ワークロードにおいてNVIDIA GB300はH100の約25倍の推論能力を持つが、8ビットFLOP/sは2.5倍にすぎない。IPIはGB300を基準とした「GB300相当」の単位で表され、第1版はエージェント型ワークロードに焦点を当て、4つの代表的なモデルの結果を統合している。