Samsung and SK Hynix are pushing a new class of memory into commercial use, betting that AI inference is outgrowing the expensive high-bandwidth memory stacked beside GPUs. The technology, Compute Express Link (CXL), adds a tier between conventional DRAM and slower SSD storage — a way to give AI systems far more addressable memory without relying solely on scarce, costly HBM.

CXL가 바꾸는 것

대형 모델은 거대한 파라미터 집합과 컨텍스트를 프로세서 가까이에 유지해야 합니다. HBM은 빠르지만 용량과 공급이 제한적이고, 시스템 DRAM은 더 저렴하지만 서버에 물리적으로 장착할 수 있는 양이 한정돼 있습니다. CXL은 고속 인터커넥트를 통해 메모리를 여러 장치가 풀링하고 공유할 수 있게 해, GPU가 접근할 수 있는 유효 메모리를 넓혀 줍니다. 이는 대형 모델을 대규모로 서비스하는 데 직접적으로 중요합니다.

시연 내용

SK Hynix는 CXL 3.2 기반의 2세대 256GB CMM-DDR5 모듈을 선보였으며, 연구진은 추론 워크로드에서 최대 35.7%의 처리량 향상을 보고했습니다. Samsung은 8개의 GPU 전반에서 DRAM 수준 추론 성능의 약 92%에 도달한 1TB CXL 메모리 풀을 시험했습니다. 이는 완전한 속도의 메모리와 거의 맞먹는 수준으로, 생산 환경에서 활용 가능하면서도 훨씬 더 큰 용량을 제공합니다.

시점과 변수

Samsung은 자사의 CMM-D 모듈을 2026년 말 생산하는 것을 목표로 하고 있지만, Intel과 AMD의 해당 표준 지원 서버 플랫폼 도입이 지연되면서 2027년으로 미뤄질 가능성도 있습니다. Eugene Investment & Securities의 애널리스트 Yim So-jung은 CXL이 "2026년부터 본격적으로 탄력을 받는다"고 말했으며, CXL을 지원하는 주류 서버는 2028년에 도입될 것으로 내다봤습니다.

메모리 전쟁의 또 다른 전선

한국의 양대 기업에게 CXL은 이미 지배하고 있는 HBM을 넘어 AI 시스템에 더 많은 메모리를 판매할 수 있는 방법입니다. 또한 HBM만으로는 해소할 수 없는 용량 한계를 겨냥합니다. 이는 GPU뿐 아니라 메모리 자체를, AI 모델을 얼마나 크고 저렴하게 서비스할 수 있는지를 좌우하는 지렛대로 자리매김하게 합니다.