Informes de IA · NVIDIA · 2026-11-05 · Blog / comentario
Más rendimiento de cada byte: cómo el codiseño de pila completa resuelve el desafío de memoria de la IA
Título original: More Performance From Every Byte: How Full-Stack Codesign Solves AI’s Memory Challenge
NVIDIA codiseña GPU, CPU, redes, almacenamiento y software para extraer más trabajo útil de la memoria en cada capa de la fábrica de IA, en lugar de limitarse a añadir más memoria a las GPU. Los modelos más grandes, los contextos más largos y las aplicaciones agénticas están aumentando la presión sobre la memoria de las GPU a medida que se reduce la oferta y suben los precios. De Blackwell Ultra a Vera Rubin, la capacidad de HBM por GPU aumentó alrededor de un 3 %, mientras que el rendimiento agéntico por dólar aumentó hasta 30x en SemiAnalysis AgentX.