Hot Chips 38 于8月23日的教程日上，最引人注目的说法来自参会公司中规模最小的一家。d-Matrix 介绍了Raptor，这是一款 3D-DRAM 推理加速器，并将其带宽密度定为约32.6 GB/s per mm2，而 HBM4 器件约为1.5 GB/s per mm2，大约相差二十倍。

支撑这些数字的数据

3D-DRAM I/O 路径上的每比特能耗标为0.37 pJ/bit，而 HBM4 系统为2.5-5 pJ；功耗方面，前者为2.96 mW per GB/s，HBM 替代方案则为40 mW。容量为每卡 32GB，其描述中的 72 卡配置可承载 1M 上下文的前沿模型，并在 3T 级模型上为每名用户持续提供约1000 tokens per second。

它所指向的那堵墙

Micron 在相邻场次中已经量化了这一问题。加速器吞吐量大约每两年增长 3 倍，而 HBM 这类 2.5D 连接内存的带宽在同一时期仅增长不足 2 倍。Micron 还将一个典型封装——GPU 加基底芯片，再加 8 颗 HBM4 实例——的面积定为超过 12,000 mm2；在 12 层堆叠 HBM4 的情况下，内存硅片面积甚至可能超过 GPU 芯片本身的8 倍。这正是 Raptor 所瞄准的缺口。

常见表述哪里说错了

上述每一个数字，都是厂商在教程环节中给出的厂商对比，且并无可交付产品支撑。披露中没有发布日期、没有上市时间表，也没有点名客户。单一指标上的 20 倍并不等于系统层面的 20 倍：带宽密度并不能说明良率、每比特成本、真实机箱中的热行为，或软件栈是否存在。这类对比常常被当作已出货硬件的基准测试结果反复引用，但事实并非如此——它们是架构主张，正确的态度是记下来，然后等待硅片。

为何它仍然重要

因为现有巨头认可了这一前提。Samsung、SK hynix 和 Micron 都用各自的时段讲述了同一种约束，而一家挑战者能够提出一种根本不同的内存拓扑并获得听众关注，这本身就是信号。