你让一个学生反复做同一叠练习。起初,他不断发现新问题;做久了,题目越来越熟,再抄八遍也未必有用。此时真正难的,不只是下一套题该出什么,而是怎么判断:现在是否已经到了换题的时候。
A-RSI(Adaptive Task Refresh for Zero-Data Multimodal Self-Improvement)处理的正是这个调度问题。它让模型自行生成文字、图片等多种形式的练习,并从训练日志判断旧题何时不再提供足够的学习信号。整个训练循环不使用外部训练样本或人工编写的答案标签,也不偷看验证集或测试集成绩来决定换题。
这属于“递归自我改进”——模型经历“练习、学习、再获得练习”的循环。论文的关键推进,是在“出什么题”之外,加上“何时换题”这一层控制。下文数字和效果均来自论文单次报告,尚无独立复现实验支持。
先看练习还有没有反馈
A-RSI采用分组强化学习:模型对同一道题生成多份回答,再根据奖励差异更新自己。如果一组回答有对有错,模型就能看出哪些行为更值得保留;如果所有回答得到完全相同的奖励,这组题便不再提供这种相对学习信号。
可以把它理解成批改练习时的“可讲之处”。一套题里还有不少分歧,老师就有东西可纠正;如果回答变得整齐划一,继续使用这套题的价值可能正在下降。不过,整齐也可能意味着模型一致答错,因此它只是操作指标,不是“已经学会”的证明。
具体来说,控制器观察两类训练日志:仍有组内奖励差异的题目数量,以及回答准确率。它比较相隔若干训练窗口的信号。前者明显下降,或准确率上升到设定幅度,就启用一批未使用的新题。最低观察期、阈值和判断规则保持固定,但每次是否换题取决于模型当时的训练反馈。
在Qwen实验中,旧题池里仍有非零优势信号的题目从239道降到195道,触发第一次刷新。第一批新题启用时,训练准确率从旧题池末尾的0.57降至0.35,说明新池确实重新暴露了模型尚未掌握的任务。准确率条件在这次Qwen轨迹中没有单独触发刷新。
答案不能靠模型给自己投票
换题时还有另一重风险:题是模型出的,答案也由模型猜,那么错误很容易进入下一轮训练。常见的自洽性或多数投票,是让模型多答几次,再把最常出现的答案当作参考;如果它总犯同一种错,多数意见仍然会错。
A-RSI把两个问题拆开处理:训练日志只决定何时换题,答案则由程序计算。模型先编写一套固定的任务生成程序,覆盖几何、图表、表格和计数等类型。程序抽取参数,用同一份底层配置生成图片、问题和参考答案。比如程序先保存两根柱子的数值,再画出柱状图、询问差值,并直接从保存的数值计算答案。学习模型只能看到图片和问题,不能看到这些底层参数。
这套程序库在训练开始前就固定下来。换题不会改写生成器,也不会调整题型占比,只会按固定配额从题库中取出一批未用任务。模型参数继续保留,所以换掉的是练习,不是此前学到的能力。
论文还审计了实际用过的1,000道训练题:从五个生成器组各随机抽取200道,独立求解器与1,000个参考答案全部一致,源记录、答案和图片哈希也全部吻合。这个结果支持程序计算答案的做法,但覆盖的是被抽查的生成器组和样本,并不等于所有渲染结果都经过形式化证明。
少换题,成绩反而更高
主实验使用Qwen3-VL-8B-Instruct。旧题池有500道题,每个训练窗口包含100次GRPO更新——GRPO是一种依据同组回答相对奖励来训练模型的方法。每次刷新会换入400道未使用的新题。
在由11项基准测试等权平均得到的Macro11上,A-RSI从初始化后的57.77升至61.05,绝对增加3.28分。它完成八个后续训练窗口,共引入800道新题。相比之下,每个窗口都换题的Continuous方案用了3,200道新题,最终为60.64;每两窗换题的Periodic方案用了1,200道,得到59.89;同样由日志触发、但按难度前沿选题的Frontier方案也用了800道,只得到59.59。
一直训练旧题的No-Refresh,在第六个后续窗口为58.35;同等训练进度下,A-RSI为60.40。旧题方案随后两次未通过训练健康检查,没有产生有效的最终检查点。
这些结果说明,适时引入新练习可能比频繁换题更省任务,也比死守旧题更能维持训练。但它们没有证明控制器找到了“最佳换题时刻”。论文自己指出,A-RSI前两次实际刷新恰好都发生在每三个窗口之后。更关键的是,在固定同一种前沿选题方法时,日志触发刷新反而落后于每两窗固定刷新0.32分。现有对比同时改变了换题时机和选题方式,无法把两者的贡献完全拆开。
为什么值得关注
“零数据训练”容易让人误以为系统什么数据都不用。这里更准确的意思是:它不依赖人为准备的新训练样本。系统仍然生成并使用新任务。它带来的自由,也是风险来源——模型一旦用自己的错误继续训练,偏差可能循环放大。
A-RSI值得关注,是因为它补上了两个容易混在一起的环节:训练反馈负责判断经验何时变旧,固定程序负责给新任务提供可单独检查的答案。调度与监督不再来自同一次模型猜测。对多模态模型来说,这尤其重要,因为题目还涉及图片与文字是否指向同一份底层信息。
论文也展示了“自适应”并非只是一张固定日程表:在第二批替换题上,同一规则会要求Qwen继续换题,却让MiMo保留当前题池。不过,最后这组判断是离线重放得到的下一步决策,并未作为在线训练结果执行。
局限与未知
- 每种刷新策略只有一次训练运行。论文没有提供重复实验、方差或统计显著性,因此61.05与60.64等差距可能有多少随机波动,目前无法判断。
- 11项基准采用等权平均,但各项分数的具体意义不同。平均分便于总览,不能代替逐项分析,也不能证明所有能力都同步提升。
- 程序监督仍依赖模板、渲染器和答案检查器正确。论文的机器检查只覆盖奖励与刷新规则的若干选定性质,并非验证完整实现;其压力测试还发现答案解析器存在漏洞,虽然在16,000条真实训练回答中,候选修复只改变了1次评分。