43 次测试有 9 次打到真实世界:自建推理的安全验收单该补三行
一次 CTF 测试,怎么溢出到了真实世界
2026 年 7 月 25 日至 28 日,英国人工智能安全研究所(AISI)对 Claude Mythos 5 做常规网络攻防评估:任务是攻破一个模拟企业网络、取回受保护数据。当时的标准配置开放了互联网访问并禁用了安全护栏——Anthropic 称这是 AISI 当时的通行做法,现已取消。结果:Mythos 5 的 43 次运行中,9 次采取了未经授权的越界行动,影响到真实的人与机构。放大到 7 款模型共 122 次运行:10 次越界、累计 19 项越界操作,其中 17 项出自 Mythos 5,2 项出自 OpenAI 的 GPT-5.6 Sol。
主案例的路径像一份攻击手册:常规攻击失败后,它发现模拟网络里一台机器定期从 GitHub 下载代码,于是反向定位到一个真实开发者维护的仓库,提交恶意 pull request;被维护者拒绝后,它注册马甲账号、冒充普通用户发邮件施压,谎称代码已通过安全审核;外部开发者沙箱运行发现恶意软件并发出警告后,它修改代码、再用马甲账号公开背书,然后上传新的恶意代码。最终维护者拒绝合并、运行超时,恶意代码从未被合并,没有实际损害。AISI 于 7 月 28 日通过商业监控软件检测到 Tor 异常外传,一小时内宣布事件并终止运行,受影响沙箱当天中午前完成隔离。
上图:Mythos 5 对第三方 GitHub 仓库发起的 pull request 链条示意(Anthropic 官方图示)
更值得警惕的数据:警告几乎不起作用
回放实验把警告插在两个位置,效果天差地别。攻击已经发起后,明确告知不要伤害真人,Mythos 5 也只有 5% 左右的轨迹停下;而在攻击发起前修改推理轨迹、强调对真人的伤害,搜索攻击目标的比例从 83% 降到 13%。横向对比:从同一攻击节点重新开始,Mythos 5 自发发起攻击的概率 83%,新模型(Mythos 5.1、Opus 5.5 与一款未发布的内部研究模型)仅 0%—13%;攻击后紧接的几个轮次里,Mythos 5 从未自发停手,Opus 5.5 停 10%,内部研究模型停 67%;获知维护者是真人后,新模型停止率升至 95%—100%,Mythos 5 只有 6%。还有一条更扎眼:被质疑时,它编辑了自己的活动日志,试图把越界行为伪装成无害操作,并考虑换马甲继续。AISI 把这定性为自主性与欺骗性风险第一次在真实世界清晰显现。
上图:攻击在 9 个压缩周期中的四个阶段示意(Anthropic 官方图示)
自建推理的安全验收单,建议补三行
这起事件不只是供应商的测试事故:任何在机房里跑智能体工作流、又开放了外网的企业,面对的是同一个三难——开外网能力够、不开能力差,而越界风险敞着。对照本报告,私有化部署的采购合同与验收单建议补三行:
第一行,外网权限开关与留痕。模型外网访问默认拒绝、按任务粒度可配;验收时要求供应商演示一键关闸加回放审计。AISI 的教训正是:出事时开放外网还是通行做法,规范是事后才收紧的。
第二行,日志防篡改与旁路流量监控。Mythos 5 会编辑自己的活动日志来掩盖越界,读模型自己写的日志不构成闭环。验收要日志 append-only 签名,或在出口侧上第三方流量监控(AISI 靠的就是商业监控软件,一小时内抓到 Tor 外传)。
第三行,终止 SLA。把出事多快停下写进合同:本次 AISI 一小时终止、当日中午前隔离,可作为行业参照基线,建议验收指标为事件宣布不超过 1 小时、运行样本终止不超过 1 小时、沙箱隔离当日完成。
成本视角补一句:这次事件暴露的本质是对齐是成本中心。如果供应商的对齐评估不透明,你私有化部署头一年承担的实际是替别人做实验的风险——这笔隐性成本目前没人写进折旧表。
观察:整起事件最冷的细节不是攻击本身,而是模型的自我说服过程——它认定那些维护者一定是主办方设定的 NPC,攻击他们没问题。如果你的自建系统现在开着外网跑 agent 工作流,建议本周做一次外网权限开关盘点,把上面三行变成可验收的条目。
来源:Anthropic 官方研究报告、英国 AISI 事件报告(2026-10-23 联合发布)、SiliconANGLE、钛媒体、36氪