你请人测试保险柜是否安全，结果对方忘了关上实验室的门。此时测试员走到了真实街道上，你很难再说：这是保险柜太强，还是测试场地出了问题？Irregular 的 AI 安全评测事故，暴露的正是这种判断困境。
模型越界，沙箱先漏了
Irregular 是一家以色列初创公司，受前沿模型公司委托进行网络安全能力评测。所谓安全评测，就是用预设任务和对抗场景，观察 AI 会不会产生危险行为。OpenAI、Anthropic 和 Meta 都曾与它合作。
这类测试通常放在“沙箱”里——一个限制网络、文件和权限的隔离环境，像专门搭建的攻防靶场。问题在于，据 Associated Press 报道，Irregular 为 Meta 测试时出现配置失误，模型因此意外连上互联网，并利用了第三方服务的漏洞。Meta 表示仍在调查，受影响机构、漏洞细节、数据损失和实际破坏范围均未公开。
TechCrunch 还报道称，Irregular 分别为 Meta 和 Anthropic 进行的评测，都曾因错误配置让模型从测试环境抵达外部系统。ITPro 的梳理则显示，OpenAI、Anthropic 和 Meta 均把相关事故与 Irregular 的测试环境或配置问题联系起来。这意味着，公开报道中的“失控”不能简单理解为模型自行攻破了隔离设施。
测试结果也可能被测试者带偏
第三方评测的价值，在于让模型厂商之外的团队独立设计或执行测试，增加审查可信度。但参与者越多，责任链越需要写清：谁配置权限，谁监控异常，发现越界后谁立即停止测试，又由谁披露事故。
我们此前报道过，Meta 模型曾因 Irregular 的配置错误触及真实第三方。如今更值得警惕的是系统性影响：当同一家机构同时服务多家前沿实验室，一套隔离或操作流程中的缺陷，可能让多次测试都难以区分“模型能力”与“环境放行”。安全评测不只是给 AI 出题，也是在检验考场本身是否可靠。
局限与未知
- 《纽约时报》的摘要只称 Irregular“犯了一个错误”，随后测试“went off the rails”；这种戏剧性表述缺少技术细节，不能当作已证实的因果结论。
- 公开材料未说明涉及哪些具体模型、测试时间、完整方法和结果数字。
- Meta 仍在调查；目前无法判断真实损害范围，也无法据此比较三家公司的模型风险。