OpenAI 于 8 月 18 日 19:00 UTC 宣布一项倡议,旨在帮助民主监督机构监督各国政府在国家安全领域如何使用 AI。标题承诺是 500 万美元。仔细读这句话,这个数字的性质就变了。

这笔钱是什么

原文写道:"We will provide $5 million in training, technical support, and OpenAI credits to democratic government oversight bodies." 这不是捐赠,也不是 500 万美元现金。其最大组成部分是对 OpenAI 自家产品的使用额度,并按 OpenAI 自己的标价计价,这更接近促销额度,而非慈善。

常见表述哪里不对

外界会流传两种解读,但两者都不对。第一种是“OpenAI 向政府监督机构捐赠 500 万美元”——见上文。第二种是“OpenAI 将审计政府对 AI 的使用”,而帖子明确否认了这一点:"OpenAI does not perform an oversight role over the government, nor should it." 该帖称,这一责任应由民选官员和公共机构承担。还有第三点值得注意:每一个动作动词都只是承诺。公司表示将“与……合作”“提供”“试点”“接触”。文中没有点名任何监督机构、任何国家,也没有给出除“在接下来一年内”之外的开始时间。

唯一具体的想法

实质性提议是一项试点,允许获授权审查人员查验 AI 辅助政府决策周边的记录——输入、输出和工具使用情况——以确定某个模型如何影响了结果。OpenAI 表示,只要可行,这些工具将具备互操作性,或尽可能与模型无关,且参与机构而非 OpenAI 将保留证据、输出和结论的控制权。这是一种审计日志的基础能力,如果它真能做到与模型无关,就会变成竞争对手必须跟上的标准。

背后的论点

其所称问题确实存在:传统监督非常耗费人力,而且“当使用纸质时代方法的小团队被要求审查以机器速度运行的系统时,这几乎会变得不可能。” 这篇帖子提出的三项原则是:AI 应该增强而非取代人类判断;政府对 AI 的使用应当可追踪、且对获授权监督方而言是清晰可读的;而监督机构本身也应该使用 AI,因为人工审查无法扩展到足够规模。