企业知识助手一本正经地答错时，问题未必出在大模型。RAG（检索增强生成）会先从知识库找材料，再据此回答；若第一步拿错文档，模型只是在错误资料上认真作答。Kezhan Shi 的测试很直观：面对一份 55 页的 NIST 标准，问题明确包含“backup”，答案所在页也恰好是全文唯一含该词的一页，但仅靠语义相似度排序时，它竟排在第 55 名。作者据此主张，许多所谓“幻觉”应先追查检索失败，而非直接更换生成模型。
真正的生产系统还需要持续体检。Priyansh Bhardwaj 建议先做一套 20 至 30 题的“黄金数据集”——每题同时记录正确答案和答案所在文档。这样才能分清：是关键材料没被找回，还是材料正确、模型却答错。测试题也不能只有简单问答，还应覆盖需要拼接多段资料、应当拒答、旧版与新版文档冲突，以及换种说法提问等情况。上线后继续运行同一套评测，分别监控检索、答案与引用，才能及时发现文档库、用户问题或模型变化带来的质量漂移。