Gli ingegneri di Waymo hanno presentato lunedì a Hot Chips il loro processore di sensor fusion. Il throughput di machine learning dichiarato è di 160 TOPS (INT8×INT8) e 80 TFLOPS (FP16). Dal 20 agosto, quando Waymo ha pubblicato un post sul blog dedicato al silicio, la cifra in circolazione è stata "oltre 1.000 TOPS", interpretata abitualmente come prova che Waymo fosse "alla pari con gli ultimi sistemi autonomi di Nvidia."

Cosa c’è nelle slide

Un die da 208 mm² su TSMC N5, in un package FCBGA da 45 mm × 45 mm, con TDP inferiore a 75 W. LPDDR5x nel package a 273 GB/s, 64 MB di SRAM on-chip e un register file da 8 MB. 16 elementi di elaborazione nella matrice core, due core CPU RISC-V con estensioni vettoriali nell’elemento di controllo e due GPU di terze parti per la gestione delle point cloud e delle FFT. PCIe Gen5 x8 verso l’host, Ethernet 25G, ingestione dei sensori via MIPI. È già in uso, nei veicoli di sesta generazione, in una flotta operativa.

Dove la lettura convenzionale sbaglia

Tre errori si sommano fino alla cifra di 1.000. Il primo è grammaticale: nel post di Waymo si parla di "these ASICs" — al plurale. Sono due per veicolo, e la copertura giornalistica ha trasformato una coppia in un singolo componente. Il secondo riguarda la funzione della coppia. Serve alla ridondanza: se uno si guasta, l’auto riesce comunque ad arrestarsi in sicurezza. Non si possono sommare una coppia di failover e citarla come specifica — e anche così, 2 × 160 fanno 320 TOPS di ML, non mille. Il terzo è l’avvertenza contenuta nella stessa frase. Waymo ha scritto che gli ASIC offrono oltre 1.000 TOPS "dedicated to front-end processing and ML models" — includendo nel conteggio elaborazione pixel a funzione fissa, image signal processing e denoising temporale insieme ai motori matrice. Hot Chips li separa. Confrontare questo aggregato con il numero ML di un Nvidia Thor equivale a confrontare due denominatori diversi.

La storia più interessante sotto la superficie

Un componente sotto i 75 watt non avrebbe mai gareggiato, in termini di throughput puro, con un computer di guida da 500 watt, e la presentazione chiarisce che non era questo l’obiettivo: il target di progetto è la latenza a batch size uno. Quello che Waymo ha costruito è un front end sensoristico piccolo, economico e a basso consumo, co-progettato con il proprio encoder di fusione, mentre il modello di guida più pesante resta altrove nel veicolo. È un risultato reale e una tesi diversa da quella circolata. Waymo non ha sostituito il grande calcolo; ha rimosso l’impianto di elaborazione dei pixel.

Ciò che resta non dettagliato

Waymo non ha suddiviso in dettaglio in che cosa consista il throughput restante nella propria cifra composita. Qui questa lacuna è indicata come tale, non colmata.