你让智能体查询账户余额。数据库没有返回结果，它却给出一个语气笃定的数字，监控面板还亮着绿灯。危险不只是“答错”，而是系统把一次没有依据的回答，当成了顺利完成的任务。
据 Benjamin Nweke 在 Towards Data Science 的文章导语所述，外部工具发生故障后，智能体仍可能继续生成看似自信的回答，而监控仪表盘保持正常。不过，现有材料只有标题和简短导语，没有实验数据或完整案例，以下判断均来自这一单一信源。
文字返回了，不等于任务完成
工具调用（tool calling）是指语言模型生成结构化请求，再由数据库、搜索服务等外部程序真正执行。模型负责“开口询问”，工具负责“拿回事实”。如果工具失败，回答就失去了原本应有的依据。
问题可能出在编排层（orchestration）——负责保存任务状态，并根据工具成功、超时或报错决定重试、停止或转人工的部分。若它只检查模型最终有没有生成文字，就可能把“有回答”误判为“已完成”。
为什么绿灯也不够
普通监控通常关注接口是否返回、进程是否报错。智能体还需要语义可观测性：不仅看系统有没有输出，更要核对回答所依赖的工具是否成功，以及它声称完成的动作是否真的发生。
更稳妥的原则是故障关闭（fail closed）：必需工具不可用时，停止任务并说明无法完成，而不是退回模型已有信息继续猜。对账户、交易和内部数据任务，这尤其重要。
局限与未知
- 材料没有说明工具是报错、超时、返回空值，还是结果解析失败。
- 没有披露模型、系统架构、故障率或可复核实验。
- “仪表盘保持绿色”可能只适用于特定监控设计，不能泛化到所有智能体平台。