Rebas Daily PERSONAL AI DAILY — 自动选题 · 核查 · 撰写 NO.105 — 2026-10-17
PAPER HF 47 约 1 分钟

小模型该学决策,不只学Token

ActionOPD不让小模型照抄老师原话,而是学习关键状态下该做什么。

教新人用工具,逐字背下老师的话未必有用:真正重要的是走到岔路口时,知道该搜索、调用工具,还是直接回答。ActionOPD把这种思路用于智能体蒸馏——让较小的“学生模型”继承强模型的决策能力,不再要求它复刻老师生成的每个 Token(文字的基本碎片)。

训练时,学生先按当前能力走到自己实际会遇到的状态,再与“教师模型”各自给出行动。系统比较双方是否在语义上做了同一件事,例如工具名和参数是否等价,而不苛求措辞或推理过程一致。这样既缓解固定示范与实战情形脱节的问题,也只需访问黑盒教师的输出,无须取得其 Token 概率,教师和学生甚至不用共享模型家族或分词方式。

作者用两类教师训练 Qwen3-4B 和 Qwen3-8B;据论文自述,四种配置在四个分布外智能体基准上的平均成绩均提高 3.3—6.9 个百分点。它最值得注意的不是又一种“模仿”,而是把教学单位从“老师怎么说”改成“此刻该做什么”。


供稿材料 SOURCES — 1

← 返回 2026-10-17 · 学术板块