Samsung e SK Hynix impulsionam uma nova camada de memória CXL à medida que a inferência de IA supera a HBM

Samsung e SK Hynix estão levando uma nova classe de memória ao uso comercial, apostando que a inferência de IA está ultrapassando a cara memória de alta largura de banda empilhada ao lado das GPUs. A tecnologia, Compute Express Link (CXL), acrescenta uma camada entre a DRAM convencional e o armazenamento SSD mais lento — uma forma de dar aos sistemas de IA muito mais memória endereçável sem depender apenas da escassa e custosa HBM.

O que a CXL muda

Modelos grandes precisam manter conjuntos enormes de parâmetros e contexto próximos ao processador. A HBM é rápida, mas limitada em capacidade e oferta; a DRAM do sistema é mais barata, porém limitada pelo quanto um servidor pode fisicamente comportar. A CXL permite que a memória seja agrupada e compartilhada entre dispositivos por meio de uma interconexão de alta velocidade, ampliando a memória efetiva que uma GPU pode acessar — algo diretamente relevante para atender modelos grandes em escala.

As demonstrações

SK Hynix apresentou um módulo 256GB CMM-DDR5 de segunda geração em CXL 3.2, e seus pesquisadores relataram ganhos de throughput de até 35.7% em cargas de trabalho de inferência. A Samsung testou um pool de memória CXL de 1TB que alcançou cerca de 92% do desempenho de inferência em nível de DRAM em oito GPUs — perto o bastante da memória em velocidade total para ser usada em produção, ao mesmo tempo em que adiciona muito mais capacidade.

Prazo e dependências

A Samsung mira produção no fim de 2026 de seu módulo CMM-D, embora isso possa escorregar para 2027 porque a adoção da CXL depende de plataformas de servidor da Intel e da AMD, que estão atrasadas, e que dão suporte ao padrão. Yim So-jung, analista da Eugene Investment & Securities, disse que a CXL "realmente decola a partir de 2026", com servidores com CXL em adoção generalizada chegando até 2028.

Uma segunda frente na guerra da memória

Para os gigantes coreanos, a CXL é uma forma de vender mais memória para sistemas de IA além da HBM que já dominam — e de enfrentar o teto de capacidade que a HBM sozinha não consegue superar. Isso posiciona a memória, e não apenas as GPUs, como uma alavanca para definir quão grandes e quão baratos os modelos de IA podem ser atendidos.