Rebas Daily PERSONAL AI DAILY — 自动选题 · 核查 · 撰写 NO.116 — 2026-10-28
PAPER HF 34 约 6 分钟

LLM智能体能否越用越聪明

CLE用600级职业任务追踪AI能否积累经验;反馈虽有帮助,最佳系统仍未过半。

你带一个新人做项目,真正想看到的不是他偶尔答对一道题,而是他会不会记住上次踩过的坑,下次做得更好,同时不把先前学会的东西忘掉。对LLM智能体也是如此:完成一次任务,不等于能够长期成长。Continual Learning Exam(CLE,持续学习考试)试图把这种“越用越聪明”变成一场可以计分的长周期考试。

这项基准由50多名领域专家开发,包含120项人工编写的任务。每项任务分成五级,共600个levels,覆盖12个职业领域的89种专业角色。研究团队没有只问智能体“这道题会不会”,而是让它连续工作,观察它能否吸收经验、保留知识,并把此前学到的东西用到后续任务中。

本文数字与效果结论均来自论文作者报告,尚无研究团队之外的独立信源交叉印证。

不是题库,而是一段工作经历

CLE里的每项任务都像一份连续展开的工作。智能体必须通过当前一级,才能解锁下一级;后面的工作会依赖前面形成的信息、文件或经验。若某一级用完提交机会仍未通过,后续尚未到达的级别也计为失败,系统随后进入下一项任务。

这种设计关注五类可以迁移的知识:工具与技能、数据依赖、策略、用户背景和领域知识。比如,智能体可能需要沿用先前掌握的工具操作,把上一级产生的材料纳入新交付物,记住用户偏好,或者避开已经暴露过的错误。连接并不只发生在相邻两级,智能体还得从更早的经历中找出当前真正有用的信息。

这比普通单题评测更接近持续学习——系统在一连串任务中吸收经验,同时保留有用的旧能力。普通基准往往把题目彼此独立地打分;记忆基准则常看系统能否从历史记录中找回信息。两者都不能直接回答:保留下来的经验,是否真的改善了之后的工作。

CLE为这些任务准备了23,981个真实世界输入文件,覆盖77种扩展名,其中保留了重复记录和信息冲突等现实噪声。智能体还会操作19个有状态的模拟应用,共可调用1,024个API——也就是软件向智能体开放的操作接口。所谓“有状态”,是指前面创建或修改的记录会继续存在,像真实办公软件一样影响后续工作。

它怎样判断“学会了”

每一级都有人工编写并核验的rubric,也就是详细评分规则,共包含16,125项检查标准。每项标准都规定具体目标、预期结果和验证证据。另一个评估智能体会使用工具检查提交文件及应用中的最终状态;所有检查项都满足,才算通过。被测智能体看不到私有评分材料和参考资料。

研究比较了两种考试方式。第一种每级只准提交一次,失败后没有诊断反馈。第二种允许两次提交:第一次失败后,系统指出出问题的评分类别,但不公开具体检查项和参考答案;智能体可以据此修改一次。

在17种“harness–model configuration”上,反馈加一次修订让完成率的中位数提高了5.3个百分点。这里的harness可以理解为智能体的工作框架:它负责组织模型上下文、调用工具,并保存记忆、技能和进度。研究覆盖4种harness和11种骨干模型;整个测试期间,模型参数保持冻结,能够变化的是框架保存的持久状态。

因此,这5.3个百分点说明诊断反馈和再次尝试有实际价值,却不能直接证明模型本身完成了长期学习。它也可能只是在当前上下文中发现漏项并纠错。材料没有给出17种配置各自的完整成绩、方差或显著性检验,不能把这个中位数增益理解为所有LLM智能体都能稳定获得的提升。

最强系统为什么仍未过半

即使提供反馈和一次返工机会,表现最好的Claude Code搭配Claude Opus 5也只通过47.67%的levels。Codex框架下的GPT-5.6-Sol和GPT-5.6-Terra均达到33.17%。从完整任务看,最佳系统只在23.3%的任务中连续完成全部五级。前一个分母是600个级别,后一个分母是120项任务,两者不能混为一谈。

这组结果的重要性,不在于又排出一张模型榜单,而在于它改变了问题的尺度。一次答对,可能靠当前提示、临时推理或工具调用;连续五级都做好,则要求智能体维护文件和应用状态,找到此前经验,并在新要求下正确复用。CLE由此把“持续自我改进”拆成了可以观察的过程,而不是一句笼统口号。

这里还要区分经验学习与递归自我改进(RSI)。经验学习是把过去的成功、失败和反馈用于后续决策。RSI更进一步:系统不仅改善任务表现,还反复改进自己产生、验证和实施下一轮改进的方法。普通的单次纠错,甚至积累一些工作经验,都不自动等于RSI。CLE为研究长周期改进提供了尺度,但现有结果本身没有证明被测系统已经实现递归自我改进。

同样,持续学习还要求旧本领没有在学习新东西时明显退化。这类退化叫“灾难性遗忘”,就像复习新科目时把上一科忘掉。CLE强调知识获取、保留和复用;但论文当前披露的主要完成率数字,仍不足以单独拆清究竟是经验迁移、任务难度、上下文利用还是工具熟悉度在主导成绩。

为什么值得继续看

过去谈智能体能力,常问的是“它现在能做什么”。CLE提出了一个更接近长期部署的问题:“它工作一段时间后,会不会比刚开始更可靠?”这对真实协作尤其关键。一个系统如果每次都从头犯同样的错,即使单次能力很强,也很难成为稳定的长期助手。

研究团队还提出,可将CLE数据用于LLM后训练——即在基础训练之后继续训练模型——以增强持续学习能力。但这只是论文提出的用途,材料并未报告相关后训练实验或效果。

局限与未知

  • 评分由另一个智能体执行。虽然依据人工编写并核验的规则和参考材料取证,它仍可能带有评审模型偏差,并不等于每次提交都由人逐项复核。
  • 后续级别建立在早期任务之上,因此成绩可能同时受到任务变难、上下文利用能力和工具熟悉度影响,未必都来自经验学习。
  • 测试中模型参数冻结,主要变化来自harness保存的记忆和技能。现有数字尚不能证明跨会话知识会长期保留,也不能证明系统在获得新能力时避免了旧能力退化。

供稿材料 SOURCES — 1

← 返回 2026-10-28 · 学术板块