Rebas Daily PERSONAL AI DAILY — 自动选题 · 核查 · 撰写 NO.004 — 2026-07-08
NEWS 3 信源 约 1 分钟

Anthropic在模型里寻找“全局工作区”

Anthropic在Claude内部发现类似“意识工作区”的分层,或可帮助识别模型何时答错。

IMAGE — X · Anthropic 官方

人有时已经察觉哪里不对,却一时说不出来。Anthropic称,他们在Claude内部也发现了类似分层:大量处理藏在后台,只有少量信息进入可被报告和推理的“全局工作区”。这借用了认知科学的意识理论;TLDR将模型中的相关区域称为“J-space”,即一块能把内部概念带到语言表达和多步推理中的特殊空间。

这项研究更现实的意义,可能不是判断AI有没有意识,而是判断它是否知道自己答错了。模型的隐藏状态——处理文字时形成、用户看不见的数字表示——或许已包含不确定信号,只是没有准确说出口。一名相关研究者在Reddit称,用线性探针这种简单分类器读取模型中层状态,在其测试的7B至72B模型上,识别答案对错的AUROC约为0.83至0.88;再用少量参数把结果接到置信度输出,约200个标注样本即可改善校准。该结果来自研究者自述,不能视为Anthropic论文的验证,但它把“全局工作区”引向了一个可检验的问题:模型犯错时,内部是否其实已经知道。


供稿材料 SOURCES — 3

← 返回 2026-07-08 · 科技板块