Google опубликовала HEIR — Homomorphic Encryption Intermediate Representation — 14 августа: open-source-компилятор и платформу разработки, которая берет предварительно обученную модель и выпускает версию, выполняющую инференс на входных данных, защищенных гомоморфным шифрованием.
Что это значит на практике
Полностью гомоморфное шифрование позволяет выполнять вычисления над шифртекстом. Применительно к инференсу это означает, что сервер запускает модель, ни разу не расшифровывая входные данные, и возвращает зашифрованный результат, который может открыть только клиент. Оператор не узнает ничего ни о запросе, ни об ответе — а это снимает главное возражение против передачи медицинских, финансовых или биометрических данных чужой модели.
Что именно было выпущено
Четыре скомпилированных эталонных приложения, для каждого опубликованы измерения задержки на однониточном CPU: рекомендательная модель глубокого обучения, созданная вместе с Belfort Labs, LG и NYU; обнаружение мошенничества по кредитным картам вместе с Niobium и hardshell.ai; обнаружение сетевых вторжений на системе Kitsune вместе с Niobium; и обнаружение hotword для защиты аудиоданных вместе с Belfort Labs. Исходный код всех четырех доступен в GitHub-репозитории Google с названием fully-homomorphic-encryption.
Чем это не является
Это инструментальная цепочка для разработчиков, а не управляемый сервис Google Cloud. Здесь нет SLA, нет размещенной конечной точки и нечего покупать. Формулировка «Google запускает зашифрованный ИИ-сервис» была бы неверной. Релиз рассчитан на тех, кто будет собирать и запускать это самостоятельно.
Число, которое никто не опубликовал
В публикации Google не приводится сравнение ускорения с более ранними работами по FHE — говорится лишь, что стоимость гомоморфного шифрования быстро снижается. Именно это упущение и есть честный предел истории. Инференс с FHE по-прежнему на порядки медленнее, чем инференс на обычных данных, а то, что эталонные задержки измерены на однониточном CPU, показывает, в каком конце диапазона производительности эта технология все еще находится.
Почему это опубликовано именно сейчас
Компиляторы — это то, как криптографическая техника перестает быть исследовательским артефактом. Вручную писать FHE-схему для нейросети — специализированная работа на месяцы; компилятор превращает ее в обычный этап сборки. То, что Google сопровождает релиз именами академических и стартап-партнеров, а не страницей продукта, говорит о том, что компания ожидает: разрыв в производительности закроет экосистема в целом, а не только Google.