Rapports sur l'IA · NVIDIA · 2026-11-05 · Blog / commentaire
Plus de performance pour chaque octet : comment la co-conception full-stack résout le défi de la mémoire pour l'IA
Titre original: More Performance From Every Byte: How Full-Stack Codesign Solves AI’s Memory Challenge
NVIDIA conçoit conjointement GPU, CPU, réseaux, stockage et logiciels afin d'extraire davantage de travail utile de la mémoire à chaque couche de l'usine d'IA, plutôt que de simplement ajouter de la mémoire aux GPU. Des modèles plus grands, des contextes plus longs et des applications agentiques accentuent la pression sur la mémoire des GPU, alors que l'offre se raréfie et que les prix augmentent. De Blackwell Ultra à Vera Rubin, la capacité HBM par GPU a augmenté d'environ 3%, tandis que le débit agentique par dollar a augmenté jusqu'à 30x sur SemiAnalysis AgentX.