Nvidia는 월요일 저녁 Hot Chips에서 Rubin GPU의 첫 아키텍처 공개를 진행했습니다. TSMC 3nm 공정의 레티클 크기 다이 두 개, 3360억 개 트랜지스터, Blackwell 대비 약 1.6배, 그리고 최대 288GB의 HBM4를 22TB/s 대역폭으로 탑재해, Blackwell의 HBM3e 대역폭보다 약 2.8배 빠릅니다.
랙, 그리고 건물
랙 수준에서는 NVLink 6가 GPU당 양방향 3.6TB/s의 전장치 간 통신과 130 TFLOPS의 인네트워크 연산을 제공하며, 800VDC 전력 분배와 45°C 액체 유입 온도를 전제로 합니다. Nvidia는 전력 평활화를 통해 투입 전력 1와트당 GPU 수를 40% 더 늘릴 수 있다고 주장합니다. 여기에 두 번째 층위의 수치가 있습니다. 2 ZFLOPS의 NVFP4 추론, 1.4 ZFLOPS의 학습, 11PB의 HBM4, 800PB/s이며, 이들은 100MW 규모의 AI 팩토리 기준으로 제시됐습니다.
통상적 프레이밍이 놓치는 것
세 가지 오류가 있으며, 이들은 서로 증폭됩니다. 첫째, 11PB의 HBM4는 랙이 아니라 건물입니다. 시스템도 아닙니다. 100메가와트 시설 전반에 설치된 메모리를 뜻합니다. 2 ZFLOPS도 같은 분모를 사용합니다. 이 둘은 이번 주 안에 랙 수치처럼 재인용될 것입니다. 둘째, 그리고 이 점이 이야기를 뒤집습니다. 288GB는 오늘 이미 구매할 수 있는 것보다 더 많은 메모리가 아닙니다. Blackwell Ultra와 같은 용량입니다. "HBM4"를 "이제 더 큰 모델을 한 개의 GPU에 올릴 수 있다"는 뜻으로 읽는다면 정반대로 이해한 것입니다. 개선된 것은 얼마나 많은 가중치를 담을 수 있느냐가 아니라, 그 가중치들이 얼마나 빨리 이동하느냐입니다. 셋째, "최대 30배"라는 수치는 속도 향상이 아닙니다. 이는 높은 상호작용성에서의 메가와트당 토큰 수이며, Nvidia가 선택한 단일 에이전틱 워크로드인 DeepSeek-v4-PRO의 14만 토큰 이상 컨텍스트에서 측정된 것입니다. 10배 수치는 같은 곡선의 다른 지점입니다.
지표가 말해주는 것
Nvidia는 FLOPS를 앞세우는 방식을 멈추고, 특정 지연시간에서의 와트당 토큰 수를 전면에 내세우기 시작했습니다. 이는 단순한 마케팅 변화가 아닙니다. 고객을 실제로 묶고 있는 제약이 무엇인지에 대한 정확한 판단입니다. 이제 병목은 실리콘 가격이 아니라, 시설에 얼마만큼의 전력을 연결할 수 있는지, 그리고 전력이 공급된 뒤 메가와트당 몇 개의 토큰을 뽑아낼 수 있는지입니다. 처리량을 와트당으로 제시하는 벤더는, 여러분이 실제로 무엇을 기준으로 구매를 고민하고 있다고 보는지 말해주고 있습니다.
이것이 아닌 것 하나
Vera Rubin은 이미 올해 초 Computex에서 생산 돌입이 선언됐습니다. 이는 아직 출시되지 않은 제품의 예고편이 아니라, 출하 중인 제품에 대한 기술 공개입니다. 따라서 헤드라인의 팩토리 규모 수치는 필수라기보다 선택의 문제였습니다.