AI安全
更换一个无害的系统提示词让越狱成功率从 2% 升至 58%
一篇被 EMNLP 2026 Findings 接收的论文认为，在默认配置下测得的单一攻击成功率数字，几乎无法说明已部署系统的真实情况。
3天前
#越狱
Anthropic
Anthropic 全球恢复 Fable 5，并提出越狱严重性框架
在美国出口管制导致停用近三周后，Anthropic于7月1日将 Fable 5 恢复至全球可用，并提出一套评估 AI “越狱”真实危险程度的方法。
2026年7月5日
专业报道人工智能
一篇被 EMNLP 2026 Findings 接收的论文认为，在默认配置下测得的单一攻击成功率数字，几乎无法说明已部署系统的真实情况。
3天前
在美国出口管制导致停用近三周后，Anthropic于7月1日将 Fable 5 恢复至全球可用，并提出一套评估 AI “越狱”真实危险程度的方法。
2026年7月5日