Waymo의 엔지니어들은 월요일 Hot Chips에서 자사의 센서 융합 프로세서를 발표했다. 공개된 머신러닝 처리량은 160 TOPS(INT8×INT8)와 80 TFLOPS(FP16)다. Waymo가 해당 실리콘에 관한 블로그 게시물을 올린 8월 20일 이후, 유통돼 온 수치는 "1,000 TOPS 이상"이었고, 이는 관행적으로 Waymo가 "Nvidia의 최신 자율주행 시스템과 대등하다"는 의미로 풀이됐다.

슬라이드에 담긴 내용

TSMC N5 공정의 208 mm² 다이로, 45 mm × 45 mm FCBGA 패키지에 담겼으며 TDP는 75 W 미만이다. 패키지 내 LPDDR5x 대역폭은 273 GB/s, 온칩 SRAM은 64 MB이며 레지스터 파일은 8 MB다. 코어 배열에는 16개 처리 요소가 있고, 제어 요소에는 벡터 확장을 갖춘 두 개의 RISC-V CPU 코어가 있으며, 두 개의 외부 GPU가 포인트클라우드 작업과 FFT를 처리한다. 호스트와는 PCIe Gen5 x8로 연결되고, 25G 이더넷과 MIPI 센서 입력을 지원한다. 이 칩은 이미 배치돼 있으며, 6세대 차량의 실시간 운용 차량군에서 사용 중이다.

통상적인 해석이 놓친 부분

1,000이라는 수치에는 세 가지 오류가 겹쳐 있다. 첫째는 문법이다. Waymo의 게시물은 "these ASICs"라고 썼다. 복수형이다. 차량당 두 개가 들어가며, 언론 보도는 한 쌍을 하나의 부품으로 바꿔 읽었다. 둘째는 그 한 쌍의 용도다. 이것은 이중화를 위한 것이다. 하나가 고장 나도 차량은 안전 정차를 계속 수행한다. 장애 대비용 한 쌍의 성능을 합산해 사양처럼 적는 것은 허용되지 않는다. 설령 그렇게 계산하더라도 2 × 160은 머신러닝 기준 320 TOPS일 뿐, 1,000이 아니다. 셋째는 문장 자체의 단서다. Waymo는 ASIC이 "front-end processing and ML models"에 전용된 1,000 TOPS 이상을 제공한다고 적었다. 즉 고정 기능 픽셀 처리, 이미지 신호 처리, 시간적 디노이징까지 매트릭스 엔진과 함께 묶은 수치다. Hot Chips는 이를 분리해서 제시한다. 이 복합 수치를 Nvidia Thor급 ML 수치와 비교하는 것은 서로 다른 분모를 비교하는 셈이다.

그 아래에 있는 더 흥미로운 이야기

75와트 미만의 부품이 500와트급 드라이브 컴퓨터와 원시 처리량 경쟁을 할 리는 없었고, 발표 내용도 그렇게 하려는 것이 아니었음을 분명히 보여준다. 설계 목표는 배치 크기 1에서의 지연시간이다. Waymo가 만든 것은 자사 융합 인코더와 공동 설계된 작고 저렴하며 저전력인 센서 프런트엔드이며, 무거운 주행 모델은 차량의 다른 곳에 남겨뒀다. 이는 분명한 성과이지만, 그동안 널리 퍼진 주장과는 다른 이야기다. Waymo는 대형 연산을 대체한 것이 아니라 픽셀 배선을 줄였다.

여전히 세분화되지 않은 부분

Waymo는 자사 복합 수치에 남아 있는 처리량이 무엇으로 구성되는지 분해해 설명하지 않았다. 이 공백은 여기서도 공백으로 남겨 둔다.