Zyphra выпустила ZUNA1.1 — открытую базовую модель для электроэнцефалографии (EEG), то есть электрических записей активности мозга, — 17 июля. Опубликованная под permissive-лицензией Apache 2.0, она призвана сделать с «грязными» нейроданными то же, что ранние foundation models сделали для текста и изображений.

Модель

ZUNA1.1 — это трансформер encoder-decoder с 380 миллионами параметров, построенный как diffusion autoencoder. Главное улучшение по сравнению с оригинальной ZUNA1 — гибкость: модель принимает входы переменной длины от 0,5 до 30 секунд, а не ограничивается фиксированными 5-секундными сегментами — что на практике важно, когда реальные записи не приходят аккуратными окнами.

Что она делает

Модель очищает от шума EEG, восстанавливает пропущенные каналы и увеличивает частоту дискретизации записей — заполняя пробелы, которые мешают работе с реальными данными мозга. По ошибке восстановления на отложенной выборке Zyphra сообщает, что она сопоставима с классической spherical-spline interpolation или превосходит ее — стандартным методом, который модель стремится заменить. Diffusion autoencoder учится сжимать сигналы, а затем заново их генерировать, и именно это позволяет модели делать правдоподобные выводы о каналах, которые выпали или вообще не были записаны.

От повязок до исследовательских установок

Ключевой момент — модель обобщается на разное оборудование. Благодаря position-aware tokenization ZUNA1.1 работает с произвольными схемами расположения электродов — от потребительских повязок с 4 электродами до исследовательских установок на 256 каналов. Такая переносимость между устройствами — это ровно та фрагментация, которая долгое время удерживала нейроданные в изолированных хранилищах и мешала строить на их основе новые решения.

Открытые веса

Обученная примерно на 3,5 миллиона канало-часов публичных EEG-данных — против примерно 2 миллионов у предыдущей версии — модель, ее код и веса доступны бесплатно. В сфере, где размеченные данные мозга редки и дороги, открытая базовая модель, не привязанная к конкретному оборудованию, снижает барьер для стартапов и исследователей, создающих нейротехнологии и интерфейсы мозг-компьютер. Zyphra, более известная своими эффективными языковыми и мультимодальными моделями, применяет ту же философию эффективности к биосигналам, делая ставку на то, что открытая инфраструктура формирует экосистему разработчиков, которая в конечном счете и ускоряет внедрение.