如果一家AI公司说自己的模型“安全”,另一家公司说模型“风险可控”,两句话可能根本不在同一把尺子上。更麻烦的是,一旦模型事故跨越国境,各国对“什么必须报告、怎么评估严重程度”也可能没有共同答案。OpenAI现在想推动一套全球通用的尺子,而且主张由美国牵头。
据OpenAI官方材料,这套倡议希望协调AI评估、报告与治理,以提升安全性。Bloomberg则报道,OpenAI明确推动美国领导这项国际标准工作。前者是利益相关方的政策主张,后者是目前关于“美国牵头”的单一独立信源;现有材料能确认OpenAI正在积极影响规则制定,但还不足以证明它已经取得主导权。
先把风险说成同一种语言
这里的“技术标准”,不是某一条具体法律,而是让不同机构采用相近的评测方法、报告格式和安全流程。它更像一套共同的体检指标:各方可以得出不同判断,但至少要用相近的方法测量,并说明结果。
据Reuters报道,OpenAI于9月21日呼吁美国与其他国家共同制定前沿AI的国际技术标准。前沿AI,指当下通用能力处于最前列、潜在影响也较广的模型或系统。OpenAI提出,让各国标准与国际标准相互衔接,并建立共同的测量方法和AI事件报告协议。
AI事件报告,是指模型出现达到规定严重程度的异常或危害后,开发者按统一口径记录并通报。难点不只是“要不要公开”,还包括什么算事件、严重到什么程度必须报告,以及各国如何理解同一份记录。OpenAI试图先统一这套词典。
方案还把“递归自我改进”列入标准覆盖范围。据Reuters解释,这是系统能够自主增强自身能力的情形。现有材料没有说明应如何测试这种能力,也没有给出触发监管或报告的具体门槛。
为什么偏偏是现在?
据Bloomberg报道,OpenAI建议借助各国已有的AI安全研究机构推进标准工作。这类机构负责测试先进模型,并制定或验证评估方法。方案提到的机构包括美国商务部体系内的Center for AI Standards and Innovation。其制度思路很清楚:先用各国机构连接本国标准,再把这些接口接到国际层面。
这并非临时起意。据美国国家标准与技术研究院(NIST)材料,早在2019年美国政府要求NIST制定联邦AI标准计划时,OpenAI就曾提交意见,把“可预测、可监测、可控制”的AI安全技术列为标准化对象。七年后,它把当年的技术意见扩展成跨国制度方案。
时点也值得注意。Bloomberg称,美中已同意建立AI对话,并讨论对具有国家安全影响的AI事件设置通报机制;OpenAI还表示,Sam Altman计划在当周前往联合国安理会讨论AI与国际安全。技术规则之争由此与外交议程合流。
标准也是产业权力
共同标准确实可能降低沟通成本:不同国家可以按相近尺度描述模型风险,企业也更容易知道要测什么、报什么。但标准从来不只是表格。谁先定义评测项目、报告格式和安全门槛,谁就更可能影响监管接口、企业合规成本,以及全球产业以后用什么语言讨论风险。
因此,“美国牵头”是这项倡议最值得关注、也最需要谨慎看待的部分。OpenAI既是规则倡议者,也是受规则直接影响的模型公司。它提出的安全收益目前仍是政策预期,并非已经验证的结果。
局限与未知
- 现有材料没有披露具体标准名称、发布时间表、参与机构名单或量化指标。
- 方案如何协调各国不同的监管目标,以及谁拥有最终解释权,仍不清楚。
- 目前只能确认OpenAI在推动并影响议程,不能据此断言美国或OpenAI已经赢得全球AI标准主导权。