你让机器人擦灶台。它刚把抹布推到污渍旁边,单看这一帧,很难判断动作是快成功了,还是马上会把抹布推落桌面。速度、接触过程和刚才的动作都藏在历史里。可许多机器人强化学习系统的“批评家”,偏偏只看当前画面就给动作打分。
WCM(World Critic Model,世界批评家模型)想改变这一点:它一边判断当前动作对最终成功有多大价值,一边预测接下来世界会怎样变化。论文作者认为,只有先学会理解过程,价值判断才不至于沦为看图猜结果。
本文数字和效果均来自 Senyu Fei 等人的论文及作者实验,尚无第三方复现。论文覆盖四个模拟基准的 149 个任务和七个真实机器人任务,但部分表格中的模型名排版缺失;“最先进”“稳定部署”等概括也应视为作者结论。
机器人需要的不是裁判,而是懂过程的教练
Vision-Language-Action(VLA)模型把摄像头画面和文字指令直接转成机器人动作,相当于把“看见、听懂、动手”放进同一个模型。监督微调可以用人类示范教它操作,但示范不可能覆盖所有失误和新场景。强化学习则让机器人通过交互继续练习。
这里的 Critic——强化学习中的价值评估器——像场边教练:它判断当前状态或动作是否更接近最终成功,再把这个信号交给动作策略学习。难点叫信用分配:一次任务最后成功或失败,究竟应归功于此前哪一步?任务越长,答案越难找。
机器人控制还有“部分可观测性”。单帧画面通常无法完整显示速度、遮挡、接触进度和刚发生的动作。论文据此指出,现有 Critic 主要依据单帧 observation(观测)或单帧视觉语言模型的内部表示估值,与真实控制问题存在错位。
直觉上的补救是多塞几帧。但作者认为,这还不够。在高维视觉空间里,简单堆叠历史会迅速增加复杂度;更重要的是,如果训练目标仍然只是回归一个最终回报数字,模型完全可能把多帧画面当成一张更大的静态图片,并没有真正学会“先发生什么,后发生什么”。
先预判世界,再评价动作
WCM的关键变化,不是单纯给 Critic 加记忆,而是给它增加一项明确的世界建模任务。
模型接收一段历史观测和语言指令,把每帧画面编码成 latent state——对画面中任务相关信息的压缩表示。随后,一个因果 Transformer 按时间处理这些表示,并分成两路:一路估计长期价值,另一路结合动作预测下一时刻的 latent state。
可以把它理解为教练同时回答两个问题:“照这样做,任务最后能成功吗?”以及“做完这一步,场面会变成什么样?”第二个问题提供了比单一成败分数更密集的训练信号,迫使内部表示保留跨时间的动态信息。
WCM基于轻量级 LeJEPA 架构。训练目标由三部分组成:预测下一 latent state、估计回报,以及用 SIGReg 正则化防止 latent representation(内部表示)坍缩成缺少信息的少数模式。三部分端到端联合训练。它不是先造一个独立世界模型,再把结果交给 Critic;世界预测和价值估计共享同一套过程理解。
这套设计可接入 on-policy 和 off-policy 两类训练流程。前者主要用当前策略刚收集的数据更新,后者还能利用此前积累的数据。论文将其用于 Pi0、Pi0.5 和 OpenVLA-OFT 等 VLA 骨干;其中 OpenVLA-OFT 使用 PPO,流匹配模型则使用 Flow-SDE。离策略实验还加入人工遥操作数据、错误 rollout(让策略实际执行形成的轨迹)和典型失败案例,帮助 Critic 避免过度乐观。
数字说明了什么?
作者在 ManiSkill、MetaWorld、CALVIN 和 LIBERO-Plus 共 149 个模拟任务上测试 WCM,同时考察 IND(训练分布内)和 OOD(分布外,即场景发生变化)表现。
在 ManiSkill 上,采用 OpenVLA-OFT 时,WCM的 IND 平均分为 99.0,标准 PPO 为 97.7;OOD 平均分为 77.9,PPO 为 77.1。优势不算巨大,但在不同骨干上较一致。另一组骨干实验中,WCM的 OOD 平均分达到 64.4,而作者列出的最强对照为 59.5,差距更明显。
更值得注意的是泛化实验。在 LIBERO-Plus 中,从 one-shot SFT——每类只用极少示范的监督微调——出发,经过约 250 步强化学习,WCM的总分在三种骨干上分别达到 72.8、73.7 和 74.0;对应 full-shot SFT 使用 2 万条轨迹,分别为 71.2、72.9 和 71.7。按作者结果,较少示范加后训练,超过了数据更多的纯监督方案。
真实机器人实验使用 WidowX-250S,包含动态抓取、布料与毛巾折叠、灶台清洁及三项拾放任务。每个任务先用 100 条轨迹训练,再进行八轮强化学习,每轮收集 50 次执行。在 OpenVLA-OFT 上,WCM在七项任务中均高于 AWR 基线。例如灶台清洁从 10/50 次成功提高到 15/50,毛巾折叠从 35/50 提高到 40/50。另一组实验里,动态任务由 RECAP 的 18/50 提高到 24/50。
真正值得看的,是信用分配方式变了
世界模型常被理解为生成未来画面的“想象器”。WCM没有把重点放在生成可观看的视频,而是让未来预测服务于 Critic:模型越能辨认动作将把环境带向哪里,就越有机会判断早先哪一步促成了结果。
消融实验也支持这个方向。作者把 Critic 的输入从单帧扩展到两至五帧后发现,给原有 MLP 加历史可能反而变差;使用带位置编码的历史 ViT 也没有稳定改善。加入世界预测目标后,表现才提升。这说明有效成分可能不是“看得更多”,而是训练目标要求模型理解变化。
历史也并非越长越好。在作者测试的一至五帧范围内,三帧平均最佳。论文给出的直觉解释是,两帧可以反映速度,三帧还可能提供加速度信息;对这些任务而言,再增加历史的边际收益有限。
局限与未知
- 所有效果均由论文作者自报,尚缺独立复现;“state-of-the-art”和“稳定部署”不能视为已经确认的行业结论。
- 真实实验每项只统计 50 次执行。论文给出了成功次数,但材料没有提供显著性检验,尚难判断部分较小差距是否稳定。
- WCM证明了“预测 latent state + 估值”在这些任务上有效,但尚不能据此断言它已解决长任务中的信用分配;实验只显示这条路线比单帧估值和简单堆叠历史更有希望。