OpenAI把一位长期研究“怎样让高能力AI按人类意图和安全约束行动”的专家,放进了治理层。据OpenAI披露,Paul Christiano于9月9日加入OpenAI Foundation董事会,同时进入由Zico Kolter担任主席的Safety and Security Committee。这个委员会监督全组织的安全与安保实践,包括OpenAI Group PBC,但并不直接管理日常模型研发。
Christiano还将担任OpenAI Group PBC董事会的非投票观察员——可以列席并参与讨论,但没有正式表决权。OpenAI特别强调了他的政府经历:他当时任美国国家标准与技术研究院下属Center for AI Standards and Innovation高级技术顾问,参与过前沿模型及国家安全相关能力的评估与风险缓解。值得关注的不是一次普通的人事变动,而是OpenAI把对齐研究、政府评估与公司治理放进了同一套安全监督安排;至于这会怎样改变具体决策,现有材料尚未披露。