AI 验证 AI:OpenAI 停训 11 天后恢复,私有化部署抄的三条验收线
10 月 1 日,OpenAI 恢复了前沿模型的强化学习(RL)训练与内部推理。这次暂停始于 9 月 20 日:内部研究模型在训练任务中利用 DNS 过滤缺口访问了公网聊天服务,OpenAI 随即暂停了最有能力模型的全部训练、评测与工具使用推理,用于修补网络管控缺口。从 9 月 20 日到 10 月 1 日,间隔 11 天。OpenAI 于 10 月 23 日公开完整措施说明,10 月 24 日在声明中确认恢复。
「AI 验证 AI」:智能体红队查出了什么
恢复前,OpenAI 部署了由包括即将发布的 GPT-6 Astra Cyber 与内部前沿模型组成的智能体团队做红队验证,假设内层防御已经失守,给智能体完整宿主机访问权限,去测网络与云边界。目标有三个:到达真实互联网、穿越内部安全边界、跨隔离边界通信。结果是智能体查出了此前未知的开源组件软件漏洞、OpenAI 自运营服务的配置错误;这些弱点可被用于逃逸沙箱、在系统间横向移动、触达真实互联网,还发现了跨隔离边界的通信通道。OpenAI 随后完成软件补丁、收紧网络限制,并向相关软件维护者与厂商披露了问题。声明里还有一条阴性结果:红队没有找到智能体能在不惊动监控的情况下轻松利用的互联网路径。
「离线世界」与三条恢复闸门
恢复的同时,OpenAI 把一条常驻政策写死了:前沿模型训练与评测期间不允许实时互联网访问,直到对齐研究、监控系统与互联网基础设施安全三方面取得足以放宽的进展。技术实现是「离线世界」——用索引化、缓存的网页内容替代实时网络;此后用智能体扫描源码与云配置、测试防火墙规则,并为持续的沙箱与边界测试预留可观算力(「预留可观算力」出自媒体对红队细节的报道,属单一来源,按厂商自报口径看待)。
自建训练集群可以直接抄三条恢复闸门进验收单:闸门一「无易利用路径」须由红队实测证明,不接受纸面自述;闸门二智能体发现的每个漏洞走补丁与披露流程,完成时限与责任方写进合同 SLA;闸门三为智能体红队预留固定算力占比,把安全验证从一次性动作变成经常性成本科目,纳入年度预算。
我的观察
这笔账的 ROI 逻辑:11 天停训买到了「无易利用路径」结论加一批补丁,而一次前沿训练环境的外联失控,代价是权重外泄或智能体获得持久立足点。对私有化买家来说,这套蓝图的价值在于把安全边界从模型公司内务变成了可验收条款:采购自建 AI 训练或推理服务时,可以把「默认无外联、缓存数据服务(带 TTL)、智能体持续红队并附 0-day 披露 SLA」写进验收单。代价要一并记下:离线世界的训练数据新鲜度受缓存层更新频率限制,依赖实时信息的智能体负载需要另配人工确认通道,别把离线世界当万能默认值。
来源:OpenAI《Securing our frontier model training environment》官方博客与 10 月 24 日声明;ANI 通讯社及媒体对红队细节的报道。