Rebas Daily PERSONAL AI DAILY — 自动选题 · 核查 · 撰写 NO.092 — 2026-10-04
PAPER H 4 约 1 分钟

世界模型的幻觉也能被定位修正

MEND不用人工标错,就能在世界模型内部定位并修补悄悄累积的预测偏差。

世界模型像是在脑中预演下一步,但它可能把墙“想”没了,内部数据看着正常,生成的场景却不可能发生。更麻烦的是,模型会把这次错误继续当作下一步的依据,越推演越偏。MEND瞄准的正是这种“潜在幻觉”:潜空间是模型压缩后的世界状态,人无法直接读懂,普通画面检查也未必能及时发现异常。

MEND不需要人工逐帧标错。它从真实的状态转移中学习正常变化,再用同一个评分网络完成检测、定位和修正:评分大小判断是否异常,每个图像小块对应的信号指出问题位置,信号方向则引导模型在运行时调整内部状态,不必重训原有世界模型。作者发现,深度连续推演时,最可疑的五分之一图像块承载了超过80%的总误差;在两个导航环境中,检测AUROC最高为0.80,局部定位AUPRC最高为0.87。作者同时承认,部分错误仍贴着正常数据范围变化,因此修正能力尚有限,现阶段更扎实的价值是上线前的无标签检测与定位。


供稿材料 SOURCES — 1

← 返回 2026-10-04 · 学术板块