同一道计算题，两个人都只保留有限位小数，但一个每步都四舍五入，另一个算到最后再舍入，答案仍可能不同。大模型强化学习也会踩中这个坑：推理系统先生成回答，训练系统再依据奖励更新模型。即使两边使用相同权重和 BF16——一种精度有限的数字格式——舍入发生的位置不同，算出的概率也可能悄悄分叉。
这会破坏“同策略训练”：训练数据本应由当前策略生成，但生成端与训练端实际理解的策略已经不同。Ke、Cai 和 Wang 没有重做整套系统，而是让训练端在 RoPE、SwiGLU 和 residual RMSNorm 三处关键计算中暂存 FP32 高精度中间结果，直到输出时再转成 BF16。作者报告，在四个 Qwen 系列模型上，对齐三处舍入位置避免了默认 BF16 基线出现的训练崩溃；更反直觉的是，实验中只对齐 RoPE 路径也已足够，尽管其他数值差异仍然存在。推理引擎、矩阵乘法与注意力内核以及学习目标都无需更改。结论的边界也很明确：这是论文所研究运行条件下的结果，尚不能说明 RoPE 对所有模型和训练配置都足够。