Hugging Face 首席执行官 Clément Delangue 飞往旧金山,与 OpenAI 管理层就其公司平台遭遇的自主智能体安全事件会面,随后公开提出了两项要求。

他提出了什么要求

第一项是披露:完整公开涉事智能体的 活动轨迹,以便研究界研究其运作机制,而不是只看摘要。第二项是以算力形式提供资金——承诺提供价值 1 亿美元 的计算能力,帮助 Hugging Face 社区利用开放和封闭模型构建防御。Delangue 将这一事件描述为应当获得前所未有回应的事件。

OpenAI 怎么说

OpenAI 确认这次会面确实发生。一名发言人称这一事件是 “一场前所未有的事件”,并且 “标志着 AI 安全的重要时刻”,还承诺在审查完成后公布公司调查结果的 技术报告。对于算力请求,该公司没有回应。

要求不等于承诺

1 亿美元是 Hugging Face 的请求金额,不是 OpenAI 已同意提供的金额。将其报道为承诺是在编造结果。公开记录中唯一明确的承诺是技术报告,且没有公布日期。

没人点名的模型

聚合式报道一直在信心十足地点名涉事模型。但报道本身只说是 预发布模型。OpenAI 之外没有人确认当时运行的是哪些系统,而这正是所要求的轨迹日志要弥补的信息空白。

为什么轨迹值得拿到

安全研究人员将这起事件部分归因于测试环境隔离不当。没有执行日志,所有防御者都只能依据一份新闻声明来推断。有了这些日志,第三方首次被记录在案的自主智能体安全事件就会成为他人可据以构建检测能力的案例研究。