你打开工单系统，AI 建议把一张票标成“高优先级”。你真正想知道的，往往不是模型有多复杂，而是三件事：它为什么这样判断，哪里可能判断错，以及你该检查什么。缺少这些信息，人只能在盲目接受和谨慎拒绝之间猜。
这正是 8080.ai 在 Muzli 文章中讨论的设计问题。AI 正从回答问题走向提出乃至执行操作。聊天机器人答错一句话让人困扰；系统若调整支持队列、批准退款或重构数据库迁移，却没有留下可追溯的依据，风险就不在同一个层级。
需要先说明：本文的具体主张和数据都来自这一篇文章。它由 8080.ai 署名，带有产品设计倡议和营销色彩；文中提到的研究没有给出标题、作者、链接、样本量和实验任务，因此相关数字只能视为待回查的单一信源结果，不能外推到所有 AI 产品。
解释结果，不要倾倒模型内部
很多团队的第一反应是展示更多信息：置信度分数、模型推理、原始日志，或者调试面板。问题在于，这些通常是工程团队手边最容易取得的内部信号，却未必回答了用户的问题。
例如，“置信度 0.87”看起来精确，却没有告诉审核者该查哪里。换成“这张票提到影响多个账户的账单故障，因此被标为高优先级；请确认问题是否其实只涉及一个账户”，用户马上知道判断依据和复核动作。
这就是可解释 AI（Explainable AI／XAI）进入产品界面后的翻译工作：不只让人看到答案，也让人理解它为何出现。文章主张，界面应优先解释具体结果，而不是直接暴露 token probabilities、retrieval scores 或 chain-of-thought traces 等模型内部信号。说白了，用户需要的是“什么因素影响了这次决定”，而不是一堂模型结构课。
文章引用一项关于 AI 置信度失准的研究称，当系统“自信地犯错”时，只有约四分之一的参与者识别出了问题；误用 AI 输出的比例超过 41%，而置信度信号校准得当时约为 28%。这里的“校准”，指系统表达的把握程度与实际可靠程度大致相称。不过，由于文章没有提供原论文和统计口径，这组数字只能说明一个值得警惕的方向，不能证明展示分数在所有场景都无效。
三层信息，按需要展开
解释太少，用户无从判断；解释太多，关键线索又会被淹没。文章给出的办法是渐进披露（Progressive Disclosure）——先呈现完成判断所需的最少信息，再让有需要的人继续展开。
第一层是结果：推荐、答案或拟执行的操作，用直白语言说清。第二层是一句紧贴结果的理由：为什么是这个结论、依据什么、发生了什么变化。文章认为，这是许多产品最容易漏掉、却最有用的一层。第三层才是可展开的证据，包括来源文件、具体数据、采用的假设和考虑过的替代方案。
这样的层次不是把证据藏起来，而是让它待在正确的位置。普通用户可以快速完成判断；需要审计或复核的人仍能继续深挖。这也符合 Human-in-the-loop——在自动化流程中保留人的检查、修改或否决节点。解释的目的不是让界面显得透明，而是帮助人真正接管。
不确定性要带着原因说
系统表达不确定性时，也不应只丢出一个百分比。文章建议使用“已验证”“可能”“需要复核”等普通语言，并补上原因和动作。例如：“可能匹配。发票编号接近，但供应商名称不一致，请在批准前复核。”
这句话同时完成了三件事：承认系统没有把握，指出疑点在哪里，并告诉用户下一步怎么做。它没有把概率判断包装成确定事实，也没有要求用户自己解释一个孤零零的分数。
来源同样要能检查。如果答案依赖某份数据，界面可以把引用放在相应事实旁边，链接到实际文件或记录，并标明来源的新旧。文章还建议区分“系统检索到的内容”和“系统生成的内容”，因为用户仅凭成品未必看得出两者的边界。
解释还包括“它现在做到哪了”
除了“为什么”，用户还需要知道“正在发生什么”。系统是在生成内容、检索资料、等待工具返回，还是已经完成？文章认为，用户可以接受等待，却很难接受状态不明。与其用看似忙碌的动画或虚假进度条安抚人，不如使用“草稿”“建议”“已验证”“已完成”等明确标签。
文章还举出一种更早介入的做法：先生成计划，在写代码前暂停并等待审核。文中称 8080.ai 采用了这种流程，也笼统提及 Replit 和 GitHub Copilot Workspace 的部分新工作流。由于材料没有提供版本、日期或具体功能范围，这些例子不宜作横向比较；真正值得关注的是共同原则：把“为什么”放在决策发生的位置，而不是事后埋进另一个标签页。
为什么现在值得关注
当 AI 只提供参考文本时，解释主要影响使用体验；当它开始建议或执行有实际后果的操作，解释就成为控制机制的一部分。好的界面至少要让人看见结果、简短理由、证据入口、当前状态、不确定性，以及可以修改或否决的动作。
这也改变了“透明”的含义。透明并非把后台信息全部倒给用户，而是让用户能够提出质疑、找到证据并纠正结果。信息量不是越大越好，可行动性才是尺度。
局限与未知
- 文章引用的置信度研究缺少可核验的论文信息，约四分之一、超过 41% 和约 28% 等数字仍需回查原文。
- “展示内部信号通常无效”等表述更接近作者的设计主张，现有材料不足以证明它适用于所有用户、任务和风险等级。
- 供稿在“解释必须能够被采取行动”处截断，没有提供更完整的纠正机制、测试方法或实施细节。