Ripoti za AI · Epoch AI · 2026-11-09 · Utafiti / kielezo / data
Kubadilisha jinsi tunavyopima utendaji wa uelekezaji wa chipu za AI
Kichwa asilia: Changing how we measure AI chip inference performance
Epoch AI inapendekeza Inference Performance Index (IPI), ikidai kuwa vipimo vya FLOP/s hupunguza makadirio ya utendaji wa uelekezaji wa chipu kwa sababu kumbukumbu na mawasiliano kati ya chipu pia ni muhimu. Inakadiria kuwa Nvidia GB300 hutoa takriban mara 25 ya uwezo wa uelekezaji wa H100 kwa kila chipu kwenye mizigo ya kazi ya kiwakala inayoiga, licha ya kuwa na mara 2.5 tu ya FLOP/s za biti 8. IPI Toleo la 1 inalenga mizigo ya kazi ya kiwakala, inachanganya matokeo katika modeli nne wakilishi, na inaonyesha alama kwa kipimo sawa cha GB300.