人有时已经察觉哪里不对,却一时说不出来。Anthropic称,他们在Claude内部也发现了类似分层:大量处理藏在后台,只有少量信息进入可被报告和推理的“全局工作区”。这借用了认知科学的意识理论;TLDR将模型中的相关区域称为“J-space”,即一块能把内部概念带到语言表达和多步推理中的特殊空间。
这项研究更现实的意义,可能不是判断AI有没有意识,而是判断它是否知道自己答错了。模型的隐藏状态——处理文字时形成、用户看不见的数字表示——或许已包含不确定信号,只是没有准确说出口。一名相关研究者在Reddit称,用线性探针这种简单分类器读取模型中层状态,在其测试的7B至72B模型上,识别答案对错的AUROC约为0.83至0.88;再用少量参数把结果接到置信度输出,约200个标注样本即可改善校准。该结果来自研究者自述,不能视为Anthropic论文的验证,但它把“全局工作区”引向了一个可检验的问题:模型犯错时,内部是否其实已经知道。