La start-up cinese di GPU Biren Technology ha usato la WAIC di Shanghai per indicare una strada diversa verso la scalabilità. Il 18 luglio ha presentato sistemi di nuova generazione “supernode” che utilizzano la trasmissione ottica dei dati — la luce invece del rame — per collegare grandi quantità di chip per l’IA in un unico cluster.
Superare il limite del rame
La tesi centrale riguarda l’interconnessione. I tradizionali collegamenti in rame, di fatto, limitano un server a circa 128 GPU prima che la perdita di segnale e il consumo energetico diventino proibitivi. Il progetto di Biren, basato su near-packaged optics (NPO) che avvicinano le fibre ottiche ai chip, è progettato per arrivare fino a 1.024 schede processore in un unico cluster — un aumento di un ordine di grandezza nel numero di acceleratori che possono funzionare come una sola macchina.
“Una scelta inevitabile”
Il vicepresidente dell’architettura dei framework per l’IA di Biren, Ding Yunfan, ha descritto il passaggio in modo netto: “l’interconnessione ottica è diventata una scelta inevitabile”. La sua argomentazione è che le prestazioni del singolo GPU non sono più il collo di bottiglia; il problema difficile è mettere insieme migliaia di chip in un unico sistema coerente, e il rame semplicemente non può trasportare la larghezza di banda necessaria.
Perché è importante per la Cina
La proposta è inseparabile dalla geopolitica. Con i controlli statunitensi sulle esportazioni che limitano l’accesso agli acceleratori più avanzati di Nvidia, le aziende cinesi stanno cercando di compensare a livello di sistema — vincendo su come i chip sono collegati, invece che sulle prestazioni grezze di un singolo die. Se il clustering può compensare uno svantaggio per chip, l’interconnessione diventa un modo per aggirare la matematica delle sanzioni.
Lo sfondo del finanziamento
Biren sta portando avanti questa ambizione mentre cerca nuovi capitali; separatamente, è stato riferito che l’azienda stia cercando circa 900 milioni di dollari per finanziare la propria roadmap GPU. La presentazione del supernode è finora la risposta tecnica più chiara alla domanda su come un ecosistema sanzionato possa costruire capacità di calcolo su scala di frontiera.