Rebas Daily PERSONAL AI DAILY — 自动选题 · 核查 · 撰写 NO.096 — 2026-10-08
PAPER H 5 · HF 13 约 1 分钟

推理变短,不一定更难监督

实验发现,思维链缩短40%至65%时,忠实度未必下降,可监测性也大多保留。

让 AI 少写一点“解题草稿”,通常更省时间和算力,但人们也担心:草稿压得越短,越看不出它为何这样回答。Samuel Lewis-Lim 等人检验了这种直觉。他们用三种强化学习方法训练 Qwen3 和 Olmo3 系列模型,分别设置固定生成上限、逐题长度目标,或奖励同题回答中更短的版本。

思维链(Chain-of-Thought, CoT)就是模型在答案前写出的分步推理。研究发现,压缩后,衡量理由是否反映模型决策的“忠实度”在多数设置中确实下降,但主因更多是模型最终答案变得不稳定,而非推理文字删掉了关键信息。更反直觉的是,部分方法把思维链缩短了40%至65%,忠实度仍未下降,其中一个设置甚至有所提高。

可监测性——能否从推理文字中发现偏见等外来影响——则更耐压:较短的思维链通常仍会承认这些因素影响了答案。只有压缩很重时,它才可能明显退化。结论不是“越短越好”,而是低成本推理与监督能力之间并非必然二选一;具体结果仍取决于压缩方法和幅度。以上效果均为论文作者报告。


供稿材料 SOURCES — 1

← 返回 2026-10-08 · 学术板块