AI 報告 · NVIDIA · 2026-11-05 · 部落格／評論
每個位元組發揮更高效能：全端協同設計如何解決 AI 的記憶體挑戰
原標題: More Performance From Every Byte: How Full-Stack Codesign Solves AI’s Memory Challenge
NVIDIA 協同設計 GPU、CPU、網路、儲存與軟體,在 AI 工廠的每一層從記憶體中擷取更多有用的運算成果,而不是單純為 GPU 增加更多記憶體。隨著供應吃緊、價格上漲,更大的模型、更長的上下文以及代理式應用,正加重 GPU 的記憶體壓力。從 Blackwell Ultra 到 Vera Rubin,每顆 GPU 的 HBM 容量約增加 3%,而在 SemiAnalysis AgentX 上,每美元的代理式吞吐量最高提升 30 倍。