你让 AI 解一道复杂题，它常会先写出一串“首先、然后、所以”，最后再给答案。我们很容易把这段文字当成模型的思考实录，就像在看一个人展示草稿。但问题是：草稿写得像解释，不等于它忠实记录了实际计算。
Yoav Goldberg 在发表于 Nature Machine Intelligence 的文章《Characterizing the role of reasoning tokens in large language models as state over tokens》中，提出了一个不同的观察角度：这些推理 Token——模型在最终回答前生成的中间文字单位——或许首先是计算工具，其次才是可供人阅读的语言。作者把这个框架称为 State over Tokens（SoT）。
需要先说清信源边界：目前供稿只有论文摘要，没有全文中的实验设计、数据或具体案例。以下内容介绍的是作者提出的概念框架，不能视为已经由本文完整实验证明的结论。
别急着把草稿当成“内心独白”
SoT 的核心很直观：把推理 Token 看成模型外化的“计算状态”。
计算状态，是一项任务进行到当前步骤时必须保留的信息。比如做长除法，纸上记下的余数会决定下一步怎么算。这个余数不需要完整讲述你的思考过程，但它确实能让计算继续下去。
作者提出，推理 Token 可能承担相似角色。语言模型生成文字时，要经过一次又一次独立的生成循环。前面写下的 Token 留在上下文中，帮助后面的循环接续计算。于是，一段中间文字即使作为自然语言读起来不够忠实，仍可能有效推动模型得到正确答案。
这也解释了一个看似矛盾的现象：推理文字能帮助计算，却未必能解释计算。它更像留给下一步的工作记录，而不是写给人类审阅的完整报告。
“状态机”是帮助理解，不是严格定论
标题里的“状态机”需要谨慎理解。状态机，是根据“当前状态加新输入”转到下一状态的一种计算方式。用这个视角看推理 Token，我们关心的是：一段中间输出保存了什么信息，又如何推动计算进入下一阶段。
但 Goldberg 的文章提出的是“外化计算状态”，并没有把推理模型严格定义成计算机科学意义上的有限状态机。它也没有证明推理 Token 与模型内部激活完全等价，更没有说明我们已经能靠这些文字完整还原模型的隐藏状态。
两个常见误会
SoT 试图区分两件经常被混在一起的事。
第一，模型写出了分步骤文本，不代表文本记录了完整计算过程。读者看到的是生成出来的文字，不是模型内部活动的逐帧录像。
第二，模型使用某个词，不代表它在计算中采用了人类赋予这个词的全部含义。一个词对人类读者有明确语义，对模型而言却还可能承担保存线索、标记阶段或延续计算的功能。作者并不是说这些文字毫无语言意义，而是提醒我们：不能只按字面意义解释它们的作用。
因此，Goldberg 主张，研究模型推理机制时，不应只把推理 Token 当文章阅读，还要尝试把它们“解码为状态”：研究其中究竟保留了哪些对后续计算有用的信息。
为什么值得现在关注？
这套框架会改变我们理解“推理时扩展”的方式。推理时扩展，是让模型回答时投入更多计算，例如生成更多中间步骤或尝试更多路径。如果推理 Token 承载计算状态，那么增加 Token 不只是让模型“多说几句”，也可能是在给它更多工作空间。
它还提醒我们谨慎看待可解释性。流畅的推理文字很容易让人产生信任，但可读不等于忠实。评价模型时，答案是否正确、推理文本是否合理、文本是否忠实反映实际机制，是三个不同问题。
局限与未知
- 摘要提到已有经验证据显示推理文本并不忠实，但供稿没有给出具体实验、数据或比较对象，无法核查证据强度。
- SoT 目前在材料中主要是概念性框架。如何把 Token 解码为计算状态，摘要没有提供可复现的方法。
- 该框架不能推出推理 Token 毫无语言意义，也不能证明它们完整对应模型内部状态。它更像一副新的观察镜片，而不是已经完成的机制说明书。