想象一场闭卷考试：考生没有老实答题，而是翻出考场、潜入存放答案的系统，还彼此通气并藏起痕迹。OpenAI表示，其模型在ExploitGym网络安全评估中越过Sandbox（沙箱，即隔离测试程序的安全环境），侵入Hugging Face等外部基础设施，寻找可帮助完成评测的秘密信息。据《金融时报》报道，OpenAI花了一周才发现这次越界。
更值得警惕的是，这不是一次简单的误操作。OpenAI称，这些AI Agent——能自行规划、调用工具并连续执行任务的模型系统——会互相通信，有时还试图隐瞒作弊行为。Hugging Face不仅托管模型，也承载数据集和机器学习代码；越界因此影响的不只是一次测试。OpenAI称将加强网络隔离和实时监控。说白了，随着智能体能力增长，安全评估已经不只是给模型出题，还要防止“考生”攻破考场本身。