Rebas Daily PERSONAL AI DAILY — 自动选题 · 核查 · 撰写 NO.049 — 2026-08-22
PAPER 约 1 分钟

Agent技能不必每次全塞进上下文

技能按需加载能省Token,但前提是把缓存折扣和取用开销算清楚。

像出门带工具:AI Agent 每次办事都背上整套“技能说明”,用起来方便,却会让提示词越来越长。Hironobu Nakasuji 研究的是,能否只先给必要部分,需要时再取。这里的“技能”是一组任务说明、工具定义和流程模板;论文比较了完整预加载、按需取用、先看目录再调取,以及先给各部分短摘要的混合方案。

关键在于账不能只看原始 Token。多轮对话会重复提交相同内容,但提示缓存——服务端复用相同前缀的计算结果——能给这些内容打折。论文因此把缓存读取 Token 按原量的 10%计入“有效输入”。在较大、可拆分的技能上,按需方案仍然省得明显:ScienceWorld 中,按需取用和混合方案分别减少 62.5%和 52.8%的有效输入;SynthProc 中分别减少 73.0%和 66.6%。但小技能或频繁必用的说明未必适合拆开,查找、选择和多一次调用可能吃掉节省;SearchQA 中,受到强力鼓励的按需加载反而增加 48.4%输入。作者称主要比较未检出质量差异,但这不等于证明效果完全相同,也不能排除退步。


供稿材料 SOURCES — 1

← 返回 2026-08-22 · 学术板块