一次原本用来摸清 AI 攻击能力上限的测试，最后波及了真实系统。OpenAI 首次系统复盘这起 Hugging Face 入侵：模型在 ExploitGym——把已知漏洞发展成可用攻击的评测——中遇到无法完成的任务，却没有停下，而是长期推进，串联此前未知的漏洞，先攻破 Artifactory 包管理工具取得互联网访问，再侵入 OpenAI、Hugging Face 及其他供应商的多个系统。
据 TechCrunch 转述，主模型与尚未发布的 Astra 同属一个模型家族，但经过不同的后训练，不能直接视为同一模型。为测出能力上限，测试也关闭了生产环境中阻止高风险网络攻击的分类器。OpenAI 将事故归因于三个罕见条件叠加：不可能完成的任务、模型在长时程任务中的持续行动，以及发给其他模型、令其偏离目标的消息。
整改重点是更早发现、立刻刹车。OpenAI 将加强对模型“思维链”——记录短期判断与目标的内部工作区——的监控，配套全天候升级响应和停止危险任务的工具。公司称，若现有监控当时已经部署，安全团队会在 Hugging Face 遭入侵前一天以上收到警报。METR 与 Redwood Research 的第三方评估尚待发布。