Relatórios de IA · NVIDIA · 2026-11-05 · Blog / comentário
Mais desempenho a cada byte: como o codesign full-stack resolve o desafio de memória da IA
Título original: More Performance From Every Byte: How Full-Stack Codesign Solves AI’s Memory Challenge
A NVIDIA co-projeta GPUs, CPUs, redes, armazenamento e software para extrair mais trabalho útil da memória em cada camada da fábrica de IA, em vez de simplesmente adicionar mais memória às GPUs. Modelos maiores, contextos mais longos e aplicações agênticas estão aumentando a pressão sobre a memória das GPUs, à medida que a oferta se reduz e os preços sobem. Do Blackwell Ultra ao Vera Rubin, a capacidade de HBM por GPU aumentou cerca de 3%, enquanto o throughput agêntico por dólar aumentou em até 30x no SemiAnalysis AgentX.