当 AI 不只回答问题,还能调用工具、读取数据甚至替你执行操作,出事后的通报就不能只靠各家公司私下处理。英伟达牵头的 Open Secure AI Alliance(OSAA)正在搭建一套共同做法:据 TechCrunch 报道,联盟成立仅一周,成员已超过 120 家。
联盟组建了 SAFE 工作组(Shared AI Findings Exchange,即“共享 AI 安全发现交换”),并在本周拉斯维加斯 Black Hat 安全会议期间提出首批方案,交由 Linux Foundation 管理并公开征求意见。内容目前并不激进,主要规定如何保密报告 AI 安全事件、通知受影响者,以及开展不以追责为目的的复盘,让不同公司能更快识别相似风险。
成员也在汇集可用于保护 AI 智能体的开源技术,包括英伟达的漏洞扫描器 Garak、Okta 的智能体身份技术和 Red Hat 的智能体治理工具。Adobe、微软、亚马逊等已加入,但 OpenAI、Google 和 Anthropic 仍缺席。早期提案没有法律强制力,却可能决定厂商今后采用什么格式和接口;联盟扩张如此之快,说明智能体安全的标准争夺已经提速。