Ripoti za AI · NVIDIA · 2026-11-05 · Blogu / maoni
Utendaji Zaidi Kutoka kwa Kila Baiti: Jinsi Usanifu wa Pamoja wa Mfumo Mzima Unavyotatua Changamoto ya Kumbukumbu ya AI
Kichwa asilia: More Performance From Every Byte: How Full-Stack Codesign Solves AI’s Memory Challenge
NVIDIA husanifu kwa pamoja GPU, CPU, mitandao, hifadhi na programu ili kupata kazi yenye manufaa zaidi kutoka kwa kumbukumbu katika kila safu ya kiwanda cha AI, badala ya kuongeza tu kumbukumbu zaidi kwenye GPU. Modeli kubwa zaidi, muktadha mrefu zaidi na programu za kiwakala zinaongeza shinikizo la kumbukumbu ya GPU huku usambazaji ukibana na bei zikipanda. Kutoka Blackwell Ultra hadi Vera Rubin, uwezo wa HBM kwa kila GPU uliongezeka kwa takriban 3%, huku utoaji wa kiwakala kwa kila dola ukiongezeka hadi mara 30 kwenye SemiAnalysis AgentX.