Zyphra ha rilasciato ZUNA1.1, un modello foundation a licenza aperta per elettroencefalografia (EEG) — le registrazioni elettriche dell'attività cerebrale — il 17 luglio. Pubblicato con una permissiva licenza Apache 2.0, è un tentativo di fare per i dati neurali disordinati ciò che i precedenti modelli foundation hanno fatto per testo e immagini.

Il modello

ZUNA1.1 è un encoder-decoder transformer da 380 milioni di parametri costruito come autoencoder di diffusione. Il suo principale miglioramento rispetto al ZUNA1 originale è la flessibilità: accetta input di lunghezza variabile da 0,5 a 30 secondi, invece di essere vincolato a segmenti fissi di 5 secondi — una differenza pratica quando le registrazioni reali non arrivano in finestre ordinatissime.

Cosa fa

Il modello denoisa l'EEG, ricostruisce i canali mancanti e upsample le registrazioni — colmando le lacune che affliggono i dati cerebrali del mondo reale. Sul reconstruction error su dati tenuti da parte, Zyphra afferma che eguaglia o supera l'interpolazione classica a spline sferiche, la tecnica standard che punta a sostituire. Un autoencoder di diffusione impara a comprimere i segnali e poi a rigenerarli, ed è questo che consente al modello di inferire valori plausibili per canali caduti o mai registrati in primo luogo.

Dalle fasce ai setup di ricerca

In modo cruciale, generalizza su hardware diversi. Usando la tokenizzazione consapevole della posizione, ZUNA1.1 funziona su configurazioni di elettrodi arbitrarie — dalle fasce consumer a 4 elettrodi fino ai setup di ricerca a 256 canali. Questa portabilità tra dispositivi è esattamente la frammentazione che ha mantenuto i dati neurali in silos e difficili su cui costruire.

Pesi aperti

Addestrato su circa 3,5 milioni di channel-hours di EEG pubblico — in aumento rispetto ai circa 2 milioni della versione precedente — il modello, il suo codice e i suoi pesi sono tutti disponibili gratuitamente. In un settore in cui i dati cerebrali etichettati sono scarsi e costosi, un modello base aperto e agnostico rispetto all'hardware abbassa la barriera per startup e accademici che sviluppano neurotecnologie e interfacce cervello-computer. Zyphra, meglio conosciuta per modelli linguistici e multimodali efficienti, sta applicando la stessa filosofia di efficienza prima di tutto ai biosignali, scommettendo che un'infrastruttura aperta alimenti l'ecosistema di sviluppatori che alla fine guida l'adozione.