Google 开源了一款可在模型无法读取的数据上运行 AI 模型的编译器

Google 于 8 月 14 日发布了 HEIR——Homomorphic Encryption Intermediate Representation——这是一套开源编译器工具链和开发平台，能将预训练模型转换为可直接在同态加密输入上运行推理的版本。

这在实践中意味着什么

全同态加密允许在密文上进行计算。用于推理时，服务器在从不解密输入的情况下执行模型，并仅返回一个只有客户端才能打开的加密结果。运营方无法获知查询内容或答案——这消除了将医疗、金融或生物识别数据交给他人模型时最大的顾虑。

实际发布了什么

随发布一同推出的有四个已编译参考应用，均公布了单线程 CPU 延迟测量结果：一个由 Belfort Labs、LG 和 NYU 共同开发的深度学习推荐模型；与 Niobium 和 hardshell.ai 合作的信用卡欺诈检测；在 Kitsune 系统上的网络入侵检测，由 Niobium 提供；以及与 Belfort Labs 合作的用于音频隐私的热词检测。这四个项目的源代码都收录在 Google 的 fully-homomorphic-encryption GitHub 仓库中。

它不是什么

这是一套面向开发者的工具链，不是 Google Cloud 的托管服务。没有 SLA，没有托管端点，也没有可购买的产品。“Google 推出加密 AI 服务”这样的表述是错误的。此次发布面向的是会自行编译并运行它的人。

没人公布的那个数字

Google 的文章没有给出相较此前 FHE 工作的提速幅度——它只表示同态加密的成本正在快速下降。这个遗漏也是报道的诚实边界。FHE 推理仍比明文推理慢几个数量级，而参考延迟采用的是单线程 CPU测量，这足以说明这项技术目前仍处于性能曲线的哪一端。

为何选择此时发布

编译器是加密技术从研究产物走向实际应用的方式。为神经网络手工编写 FHE 电路是一项以月为单位的专业工作；编译器则把它变成构建流程中的一个步骤。Google 此次将发布与具名学术和初创合作伙伴绑定，而不是推出产品页面，表明它预期生态系统而非 Google 一家来弥合性能差距。