你让 AI 在房间里找路,它会先在脑中试走几条路线,再挑一条终点最接近目标的。问题是,它脑中的地图可能比例失真:隔着一堵墙的两个位置看起来很近,真正容易到达的位置反而显得很远。SCALE 要修的正是这张“内部地图”。它不更换 JEPA 的编码器,而是在训练时校准状态之间的距离,让规划器所见的近与远,更能反映任务中的状态差异。
JEPA——Joint-Embedding Predictive Architecture——不逐像素重画未来画面,而是预测未来状态的抽象内部表示。规划时,模型把候选动作带来的终点放进潜空间,再与目标比较距离。潜空间就是模型内部组织信息的数字空间;其中点与点的距离和方向关系,则是“潜空间几何”。这篇论文的核心判断很直接:保存了正确的信息,还不够。信息还得出现在规划器真正会重视的距离结构里。
本文的数字与效果均来自 Jiaming Hu、Yan Zheng 和 Tian Wang 的论文,尚无独立信源交叉验证。
信息在,不等于规划器看得见
论文比较了两种获得稳定表征的路线。DINO-WM 沿用预训练特征空间;LeWorldModel(LeWM)则从头联合学习编码器和动力学预测器,并用 SIGReg 防止“表征坍缩”——也就是许多不同状态被压到几乎同一个内部位置。
SIGReg 会让整体表征充分铺开,但它不决定哪些差异应该主导规划距离。于是可能出现一种微妙情况:任务状态明明能从完整表征中读出来,对终点距离的影响却很小。
可以把它想成一张表格。某个关键信息确实写在里面,但藏在字号极小的脚注中。专门训练的读取器仍能找到它;只看醒目栏目的规划器却几乎不会受它影响。
原因在于 LeWM 和 DINO-WM 都用平方欧氏距离给候选方案打分。潜空间里变化幅度大的方向,对距离贡献更大。作者把一个方向在规划成本中的这种分量称为“metric leverage”,即“度量杠杆”。在平方欧氏距离下,它等于该方向的方差。任务信息若集中在低方差方向,就算很好解码,也很难改变候选动作的排名。
论文用 Spearman 秩相关检验潜空间距离和真实任务状态距离的排序是否一致。相关越高,说明状态差异越大的两帧,通常也在潜空间里离得越远。五项任务中,DINO-WM 在 Push-T、Reacher、Cube 和 Two-Room 上分别得到 0.70、0.46、0.46 和 0.85;LeWM 只有 0.13、0.18、0.00 和 0.41。PointMaze 是例外,两者为 0.50 和 0.52。这组结果说明,两种模型都可能保留状态信息,但它们给这些信息安排的“地图位置”不同。
SCALE改的不是内容,而是地图比例
SCALE 全称 State-CAlibrated Latent Embeddings。训练时,每个观测都配有模拟器记录的任务相关状态。作者选择与任务有关的状态维度,把角度改写为正弦—余弦对,排除速度,并按训练集统计量标准化。
随后,SCALE 同时抽取轨迹内部和不同 episode 之间的帧对,分别计算潜空间距离与状态空间距离,再让两组距离的变化保持正相关。换句话说,如果一对状态在任务意义上差得更多,它们在潜空间中也应倾向于离得更远。这里校准的是相对距离结构,而不是要求潜向量与状态变量逐项对应。
这一步的妙处在于,它直接约束规划器使用的接口。测试时,编码器和规划器仍然只看图像;状态数据只是训练阶段的参照尺。原有的预测目标负责学习动作后的变化,SIGReg 负责防止坍缩,SCALE 则重新分配已有的表征空间,让任务相关变化获得更大的度量杠杆。论文称它只增加一个轻量训练正则项,不增加规划阶段的额外模块或计算;这不代表训练本身没有额外成本。
为什么不直接教模型读出状态?
作者设置了一个很关键的对照 Aux:给编码器接一个仅训练时使用的“潜变量到状态”回归头。它和 SCALE 使用相同的状态监督,但目标只是让状态容易被解码,并不约束潜空间距离。
结果恰好说明了两者的区别。Aux 在 Push-T 和 Cube 上,从完整表征解码状态的能力达到或超过 SCALE;但潜空间距离与状态距离的对齐几乎没有变化。规划方面,SCALE 在五项任务、三种规划求解器形成的 15 个 task–solver 平均结果上全部超过 LeWM;Aux 只改善其中 13 个,并在五项任务中的四项落后于 SCALE,Push-T 是例外。
以论文表中 iCEM 求解器跨计算预算的平均成绩为例,SCALE 相比 LeWM 从 63.9 提至 68.2(Push-T)、78.0 提至 81.1(Reacher)、65.3 提至 70.5(Cube)、82.9 提至 92.9(Two-Room)、80.2 提至 83.4(PointMaze)。这些是任务平均结果,不能理解为每个求解器与预算组合都逐项获胜。
更接近规划现场的证据来自候选排序。作者比较模型想象出的终点排序,与在模拟器中实际执行同一批动作后得到的排序。SCALE 的 Kendall 排序一致性在五项任务上都高于 LeWM:Push-T 从 0.7316 升至 0.7857,Reacher 从 0.6233 升至 0.6435,Cube 从 0.3654 升至 0.4433,Two-Room 从 0.5448 升至 0.6210,PointMaze 从 0.1675 升至 0.2850。也就是说,重新组织后的几何没有停留在静态编码中,而是至少部分穿过了未来预测过程,影响了规划器看到的候选次序。
它为什么值得关注?
这项工作的价值不只是一组更高的任务分数。它把“表征好不好”拆成了两个问题:模型是否保存了任务信息,以及这些信息是否真正塑造了决策所用的距离。
我们在 8 月 17 日报道 ACPC 时,关注的是视觉扰动会不会让 JEPA 在相同动作下预测出不同未来,以及怎样防止表征坍缩。SCALE 又向前追问一步:即使模型能区分状态,也能稳定预测,内部距离是否真的适合拿来规划?这补上了表征预测与行动决策之间常被忽略的一层。
不过,SCALE 校准的是标准化任务状态距离,并非直接学习“从一个状态经过允许动作到另一个状态需要多少代价”的状态可达性。它让地图更贴近任务状态差异,但还没有把地图变成完整的交通导航。
局限与未知
- 实验只覆盖五项任务、三种求解器和五档计算预算。论文尚不能说明这种校准能否推广到更复杂或状态标注更难获得的场景。
- SCALE 训练时依赖模拟器记录并人工选择的任务相关状态。哪些维度该保留、状态距离是否等同于规划难度,仍带有任务设定。
- 所有效果均来自同一篇论文。部分比较虽给出绝对成绩和排序指标,但材料没有完整呈现各预算结果、方差及全部显著性检验,因此更适合视为支持“几何影响规划”的证据,而不是已经证明的因果定论。