银行让生成式AI参与业务，却不保存它当时收到什么指令、答了什么，就像出了事故却没有黑匣子：错误为何发生、是否泄露数据、当时用的是哪个模型版本，都很难查清。
据 Risk.net 对银行模型风险管理（MRM）的首次调查，三分之一受访银行没有为生成式AI模型保留日志；只有一家受访机构——一家欧洲专业贷款机构——表示会登记并审查完整的生产环境提示与输出记录。MRM 是银行用来登记、验证、监控模型并追究责任的一套治理流程。
这不只是文档缺失。生成式AI具有非确定性——同一个问题可能因设置或版本不同而得到不同回答。若提示、输出和配置没有一并留痕，银行就难以复现问题，也难以形成可供内部审计或监管检查的证据链。现有材料未披露调查样本规模及各银行的具体做法，因此这些比例仍需结合完整报告理解。