多数语言模型像打字一样，一个词接一个词往后写；扩散语言模型则像同时修改一整段草稿，可以并行确定多个位置。潜力虽大，难点是往往要反复修改很多轮。ORL（On-Policy Residual Learning）瞄准的正是这个速度瓶颈：让模型更快收敛，用更少的计算轮次完成文本。
作者称，ORL 不让模型每轮都从头猜，而是把上一轮预测当作“修改底稿”，继续修正；训练时还使用当前模型刚生成的过程状态，减少训练与实际推理之间的偏差。另一项设计会鼓励每轮去噪都比上一轮更快降低不确定性。配合自研推理引擎 dlmrt 和 NVFP4 低精度量化，LLaDA-2.1-mini 在单张 RTX 5090 上达到每秒 2788 Token。这个数字来自作者公布的特定基准峰值，指单请求、批量为 1，并非任意提示下的平均速度；Token/s 也只衡量吞吐，不能单独代表生成质量。项目已开放模型、训练代码、评测流程和推理引擎。