机器人没把布放进篮子,可能是抓取时掉了,也可能是一开始就抓错目标。两段执行最后都算失败,但改进方向完全不同。WorldFailBench要检验的,正是世界模型——根据动作生成后续画面的模型——能否复现机器人策略为何失败、在哪一步失败,以及什么场景变化会让成功转为失败。
研究覆盖LIBERO、RoboTwin模拟环境和G1人形机器人的真实操作,并测试了七个世界模型。它采用闭环评估:策略根据模型生成的新画面继续行动,像机器人每走一步都重新看路,因此早期偏差会改变整段失败轨迹。基准分别检查失败原因、失败阶段和失败边界。最值得警惕的是,在RoboTwin测试的边界条件对上,七个模型有95.2%的回答低估了真实成功率变化的幅度。换句话说,模型即使能猜中最终成败,也可能没看懂策略会在何种小变化下突然失灵。这说明,用生成视频替代昂贵实机评测之前,还需先验证它能否忠实重现失败过程。