A Nvidia publicou em 26 de agosto, às 21:05 UTC, um post no blog apresentando o NVHBM, descrito ao lado do NVLink Fusion como memória HBM de alta largura de banda personalizada. Lido rapidamente, parece dizer que a Nvidia agora entrou no negócio de memória. Lido com atenção, diz algo mais restrito e mais interessante.
O que o NVHBM realmente é
Em uma pilha convencional, o controlador de memória fica no die do processador e se comunica com a HBM por meio de uma interface física. A proposta da Nvidia move esse controlador para a base die da própria pilha de HBM. A empresa descreve isso como "estabelecer uma implementação padrão de NVHBM, disponível de vários fornecedores de memória." A Nvidia projeta o controlador e a interface; outra empresa fabrica e empilha a DRAM. Trata-se de uma estratégia de licenciamento e especificação, não de fabricação.
Os três números e o denominador
O post faz três afirmações quantitativas: até 30% mais largura de banda de memória, 15% menos consumo de energia da HBM e liberação de até 25% mais área no die de computação do XPU. As três são apresentadas em comparação com HBM4E padrão. Isso importa por dois motivos. Primeiro, cada uma é uma cifra de "até", ou seja, um teto, não uma expectativa. Segundo, a HBM4E por si só é um componente voltado ao futuro — a comparação é entre uma especificação ainda não lançada e outra, não com memória que alguém possa comprar hoje.
O que a leitura comum interpreta errado
O resumo natural — "a Nvidia está construindo sua própria HBM" — inverte a lógica do acordo. Aqui, a Nvidia faz o oposto da integração vertical: padroniza uma interface para que vários fornecedores possam construí-la, o que aumenta sua alavancagem sobre os fabricantes de memória justamente porque ela não depende de apenas um. O segundo equívoco é a cifra de área. "Libera até 25% mais área no die de computação" está sendo repetido em alguns lugares como um ganho de computação de cerca de 30%, algo que o post não afirma. Área de silício liberada é uma oportunidade para adicionar computação em um projeto futuro, não um aumento de velocidade em um projeto já existente. Nada no mercado fica mais rápido por causa deste anúncio.
O que está faltando
Não há fornecedor de memória nomeado. Como todo o conceito depende de "vários fornecedores de memória" concordarem em construir base dies segundo a especificação da Nvidia, a ausência de um único parceiro nomeado da Samsung, da SK hynix ou da Micron é a lacuna mais substantiva do anúncio. Não há data de lançamento nem produto em que isso apareça. A única parte nomeada é Amazon's Annapurna Labs, descrita como a primeira a trabalhar no NVHBM ao lado do NVLink Fusion — colaboração na tecnologia, não uma implementação já comprometida.
Por que a Nvidia quer mover o controlador
Largura de banda de memória, e não aritmética, é o gargalo na inferência de grandes modelos, e a interface física entre processador e memória consome uma fatia crescente tanto da área do die quanto do orçamento de energia. Controlar a especificação do controlador permite à Nvidia ajustar essa interface às suas próprias arquiteturas enquanto mantém várias fábricas competindo para fornecer as peças. Se a especificação for adotada, o ganho estratégico é duradouro. Se não for, nada foi fabricado e nada foi perdido.