Rebas Daily PERSONAL AI DAILY — 自动选题 · 核查 · 撰写 NO.101 — 2026-10-13
PAPER H 7 约 1 分钟

RLVR也会练成单一解题套路

RLVR能提高正确率,也可能让模型只会少数几套解题套路。

一道题明明能用好几种方法解,AI 训练久了,却可能只反复使用最熟的一套。论文研究的是 RLVR——“可验证奖励强化学习”:程序只检查最终答案对不对,答对就奖励,却不关心解法是否重复。这样做能提高正确率,也可能悄悄损失策略多样性。

作者设计了 ModeBench,让检查器同时判断答案是否正确、属于哪一种解法。它覆盖 5 类可执行任务,每类设 5 个难度。一个图着色案例有 6 个有效答案;经过 Dr.GRPO 训练后,模型更常答对,正确输出却集中到单一模式。更值得注意的是,作者测试的前沿模型即使保持近乎满分,多次采样找到的解法仍远少于实际可行解。

为此,作者提出 Re:Max:每发现一种正确解法,就保存一个样例,并让各种解法获得同等练习机会。作者称,这一办法在 3 种模型规模、不同训练目标和更难任务上,同时改善了成功率与解法多样性。结论很直接:只盯正确率,可能把“更会解题”和“更会重复套路”混为一谈。


供稿材料 SOURCES — 1
01
Measuring and Mitigating Solution Mode Collapse in RLVR arXiv (cs.AI+cs.LG+cs.CL+cs.CV+stat.ML) · PAPER
原文 ↗

← 返回 2026-10-13 · 学术板块