聊天机器人看到有人对现实人物发出可信的枪支暴力威胁，要不要报警？加拿大不列颠哥伦比亚省（B.C.）正考虑把这个问题带上法庭。据 Bloomberg 报道，此事源于2月 Tumbler Ridge 大规模枪击案发生前，涉事者曾在 ChatGPT 上发出威胁，而 OpenAI 没有通知有关部门。
据 Global News 报道，B.C. 政府已于7月聘请加拿大和美国律师事务所研究法律行动，省检察长 Niki Sharma 表示将探索追责途径。受害者家属此前指称，OpenAI 员工曾将涉事账号识别为针对现实人物的可信威胁，却没有报警；据《卫报》报道，这仍是原告方主张，尚未经法院认定。OpenAI 后来表示，按更新后的规则，类似账号会转交执法部门。
争议的关键是“警示义务”：掌握具体、可信危险信息的一方，在特定条件下是否必须通知潜在受害者或有关部门。若这种义务延伸到聊天机器人平台，AI安全责任就不再只关乎模型说了什么，也会包括平台发现危险后做了什么。