只看一把把湿伞,你会不断修正“外面是否下雨”的判断。隐马尔可夫模型(HMM)正是这样工作:从可见线索推测看不见的状态,再预测状态如何变化。Yongchao Huang 的这项工作指出,完整的概率式 PIB-VJEPA 也能拆成类似三步:编码器更新对当前状态的概率判断,预测器推进隐藏状态,解码器或目标编码器的逆映射再把状态对应回观测。
最具体的一步,是作者提出 Markov-Chain JEPA(MCJEPA),用学习到的状态转移矩阵替换常规预测器。对有限、规则不随时间变化的情形,矩阵的多次相乘能保证多步预测前后一致:直接预测三步以后,应与一步步推进三次相符。这给“模型是否学到可持续演化的世界状态”提供了可检查的标准。
不过,结构相像不等于 JEPA 自动就是 HMM。作者区分了四层对应关系;要达到完整序列层面的等价,还需满足马尔可夫性、观测发射和概率一致性等条件,训练目标也未必相同。