Rebas Daily PERSONAL AI DAILY — 自动选题 · 核查 · 撰写 NO.034 — 2026-08-07
PAPER 约 1 分钟

投机解码从链式草稿长成树

草稿不再押注一条路:按父节点展开分支,减少早期猜错后的连带作废。

让 AI 加速写答案,有点像请助理先起草几词,再交给主笔一次验收。问题是,传统草稿常排成一条链:开头一个词猜错,后面即使有可用内容,也会随整段一起作废。Li 等人提出 PCTree,把这条链改成树,让候选词明确依赖各自的父节点,从而保留多条可能的续写路线。

它利用 DSpark——一种先并行生成整块候选、再用轻量 Markov head 补上前后依赖的草稿模型——已经学到的条件关系。PCTree 会针对每个具体父节点分别给子节点打分,再把固定的验收预算分给概率最高的路径。关键在于,这项改动只发生在推理阶段:无需重新训练,也不增加负责整块草稿的主干网络计算次数;多个父节点的评分还能批量完成。

作者称,在 Qwen3 4B、8B、14B 和九个基准上,PCTree 相比匹配设置下的 DSpark,在每个“模型—任务”组合中都提高了平均接受长度,并带来端到端提速。不过,树的构建与验收本身也有额外开销,只有多接受一些词、减少验收轮次,收益才真正成立;供稿文本中的具体数值缺失,因此这里不作量化转述。


供稿材料 SOURCES — 1

← 返回 2026-08-07 · 学术板块