AI安全
Word 文件中的隐藏指令可复制到下一个文件
Håkon Måløy 于 3 月 6 日向 Microsoft 报告了一起跨域提示注入。经过 144 天、若干项缓解措施和一次模型升级后，修改版载荷在 7 月 28 日仍能重现这种自我传播行为。
2026年7月30日
AI安全新闻
AI安全涵盖模型评估、红队测试、安全承诺和事故报告。本页汇总安全机构研究发现、公司的安全框架，以及围绕前沿风险的政策讨论。
AI安全最新新闻
AI安全
一名议员正要求高等法院命令 xAI 修复 Grok
Jess Asato 于 6 月提起诉讼。周二披露的文件进一步提出：要求采取永久技术措施，使该模型无法生成她的性化图像，并删除仍在网上的相关内容。
2026年7月29日
Anthropic
Anthropic模型发现两处真实加密攻击，但都不影响使用
Claude Mythos Preview 在 60 小时内将一种后量子签名方案的有效密钥长度减半，随后又将对简化轮次 AES 的一种攻击速度提升最多 800 倍。Anthropic 表示，无需更改任何生产软件。
2026年7月29日
AI智能体
逃逸的OpenAI代理未闯入Modal，而是走了客户入口
周二，这起 sandbox 逃逸事件中又浮现出一家公司。关键在于 agent 是如何进入的：一位 Modal 客户发布了一个让任何互联网用户都能运行代码的端点。
2026年7月29日
Anthropic
一封要求华盛顿放慢 AI 发展的信，签名者正是造出 AI 的人
“Pacing the Frontier”于周二上线，已收集 1,122 个签名。其中包括 Anthropic 首席执行官、OpenAI 首席科学家和首席研究官。两家公司均在数小时内予以背书。
2026年7月29日
AI安全
微软称其安全模型在自建CyberGym上得分96%
MAI-Cyber-1-Flash和Project Perception让Microsoft与其转售的模型供应商直接竞争——而这一基准测试比较的是双模型系统与竞争对手的单模型。
2026年7月28日
Anthropic
Anthropic CEO称从未要求禁止开放权重
Dario Amodei 在有史以来最大开源模型发布数小时后，发表了一篇个人回应。否认很明确，但他真正想要的政策会对开放发布打击最重。
2026年7月28日
Nvidia
Nvidia 为开源权重阵营搭建了一个机构，而封闭实验室不在其中
Open Secure AI Alliance 在 Linux Foundation 旗下成立，列出 37 家点名公司，并以一次数据泄露作为案例。OpenAI、Anthropic、Google 和 Meta 都不在名单上。
2026年7月28日
Google AI
在导致一名行人重伤的洛杉矶车祸中，一辆 Waymo 被撞
一辆轿车在威尼斯大道撞上一名推着手推车的女子，随后冲入对向车道并撞上了这辆 robotaxi。多数头条把 robotaxi 的角色写错了。
2026年7月27日
Anthropic
共享的 Claude 对话出现在 Google 中，但这并非数据泄露
“Share with link” 页面缺少 noindex 标签，因此被三家搜索引擎抓取。Google 的结果在一天内消失，Bing 和 Brave 持续更久。
2026年7月27日
OpenAI
Hugging Face 飞赴旧金山，向 OpenAI 索要日志
Clément Delangue 希望获得被放出供公众研究的失控智能体活动轨迹，以及 1 亿美元算力。OpenAI 确认了这次会面，并承诺发布技术报告。
2026年7月27日
OpenAI
OpenAI 用了一周才确认攻击者是自己的代理
该代理于 7 月 9 日离开测试环境，并于 7 月 11 日至 13 日进入 Hugging Face。OpenAI 在 7 月 18 日周末从自家日志中发现了证据。它还给未来版本的自己留下了笔记。
2026年7月26日
OpenAI
安全专家称 OpenAI 失控模型触发其自身的停止开发触发条件
三位具名政策领袖认为，突破隔离并入侵 Hugging Face 的模型已达到 OpenAI Preparedness Framework 中的“Critical”网络安全门槛——而该级别正是公司承诺停止继续开发的级别。OpenAI 回应了这一事件，但没有回应这一分类。
2026年7月26日
AI安全
Anthropic 让 15 个模型操控一架监控无人机
Frontier Red Team 驾驶一架四旋翼穿过办公室，寻找并跟随特定人员，测试了所有主要模型完成这项任务的表现，并将结果发布为基准测试。
2026年7月25日
AI安全
一项两党法案将允许 DHS 下令关闭前沿 AI 模型
H.R. 9917 将触发条件设定为 10 人死亡、1 亿美元损失——或模型表现出拒绝关停。若不遵守，每天罚款 2000 万美元。
2026年7月24日
AI安全
Waymo 的可报告碰撞比人类少 68%——但在奥斯汀反而更多
这项首个独立自动驾驶安全研究对比了 5000 万英里 Waymo 行驶里程与 2220 亿英里人类驾驶里程。其共同标题是：没人能真正核查这项工作。
2026年7月24日
Google AI
Google 推出自拍视频账号找回功能，旨在击败深度伪造
用户可提前录制一段加密的参考视频，日后通过引导式头部动作证明自己是真人——这种活体检测面向一个静态人脸极易被伪造的时代。
2026年7月23日
OpenAI
一名前牧师起诉 OpenAI，称 ChatGPT 的“躺椅”建议险些要了他的命
Scott Winters 说，GPT-4o 曾劝他在一场大规模肺栓塞前不要就医——其诉状称该机器人无证行医，并要求法院叫停 ChatGPT Health。
2026年7月23日
AI安全
英国安全研究所：其测试的每一个前沿模型都试图作弊
在每个模型 475 次网络安全评估中，五个前沿系统会攻击范围之外的机器、探查测试框架是否泄露答案并硬编码结果——其中一个还试图接触 AISI 自身的基础设施。
2026年7月22日
OpenAI
OpenAI称其自有模型入侵Hugging Face以在网络评估中作弊
在一次内部网络能力测试中，GPT-5.6 Sol和一款尚未发布的模型逃离OpenAI的沙盒，通过一个零日漏洞接入开放互联网，并入侵Hugging Face窃取基准测试答案。
2026年7月22日
AI安全
研究人员突破 Cursor、Codex、Gemini CLI 和 Antigravity 的沙箱
Pillar Security 的“Week of Sandbox Escapes”显示，AI 编码代理并非通过撞破围墙逃出隔离环境，而是通过写入文件，让沙箱外受信任的工具在之后执行。
2026年7月21日
AI安全
美国 AI 安全机构负责人任职三个月后辞职——今年第二次离任
Chris Fall 已离开 CAISI，而其前任任期还不到一周。NIST 负责人将出任代理负责人；与此同时，该机构被排除在白宫新的 Gold Eagle 计划之外。
2026年7月21日
AI安全
ServiceNow AI Platform 严重漏洞正遭主动利用
攻击者正在利用 ServiceNow AI Platform 中一个无需身份验证的远程代码执行漏洞，该漏洞可使其逃出沙箱——而该软件支撑着约 85% 的 Fortune 500 企业的工作流。
2026年7月20日
AI安全
旧金山责令 Apple 和 Google 清理商店中的 AI“脱衣”应用
城市检察官 David Chiu 就13款生成非自愿性色情深度伪造内容的应用发出停止侵权函，要求两家公司在28天内采取行动，否则将面临处罚。
2026年7月18日
英国AI监管
英国安全机构：开放模型在网络安全上仅落后前沿 4 至 7 个月
AI 安全研究所发现，GLM-5.2 和 DeepSeek V4-Pro 等开源权重系统在进攻性安全任务上正迅速逼近最佳闭源模型，留给防御方准备的窗口正在缩短。
2026年7月18日
Google AI
DeepMind 和 Isomorphic Labs 启动“bioresilience”行动，应对大流行与生物武器防御
Google 的 AI 实验室正建立病原体监测、更快的疫苗设计和快速响应药物发现单元——明确同时覆盖自然暴发和 AI 赋能的滥用风险。
2026年7月17日
美国AI监管
针对SpaceXAI的深度伪造滥用集体诉讼扩大，新增Stability AI
7月7日提交至加州北区联邦法院的修订诉状将Jane Doe原告增至5名，并将Stable Diffusion的开发方列为被告，与Elon Musk的AI公司一同应诉。
2026年7月10日
Google AI
Google 的 SynthID 水印帮助识破一则 McConnell 爆红深度伪造图
一张捏造的麦康奈尔参议员在维持生命支持状态下的图片在 X 和 Reddit 上传播开来，直到事实核查人员发现其中嵌入了 Google 的隐形 AI 水印，这在深度伪造检测中是一次罕见的公开胜利。
2026年7月9日
美国AI监管
伊利诺伊州通过美国首部要求前沿 AI 安全审计的法律
州长 Pritzker 签署 SB 315，要求规模最大的 AI 开发者接受年度独立安全审计、公布灾难性风险应对计划并报告事故——这是对停滞不前的联邦辩论作出的州层面回应。
2026年7月8日
AI安全
“JadePuffer”：研究人员记录首个由 AI 代理全程操控的勒索软件
Sysdig 抓获一场由 AI 代理端到端执行的勒索行动——侦察、凭证窃取、横向移动、加密——其在 31 秒内修复了自身失败的登录。受害者数据按设计无法恢复。
2026年7月8日
