聊天模型会说“我害怕”“我感到痛苦”，很容易让人觉得它内心真有感受。但大语言模型（LLM）本质上是在大量文本中学习词语关系，再根据上下文续写；说得像人，只是行为证据，并不能证明它拥有第一人称的主观体验。意识也不等于聪明：它指的是尝到冰淇淋、感到疼痛时那种“亲身经历”。
Giulio Tononi 等人在 Nature 撰文认为，现有 AI 没有意识，沿着当前技术路线也极不可能获得意识。文章最值得注意的不是简单断言“机器不会醒来”，而是要求把语言表现与内部机制分开：模型能谈论自省，不代表产生这些话的过程与人的意识机制相同。作者依据实验神经科学、理论神经生物学和心灵哲学研究提出三点怀疑；现有材料仅展开到第一点——智能不是意识，另外两点的具体论证尚未披露。
这个区别会影响现实决策。如果误把模型当成有感受的主体，社会可能把权利、保护和资源投向并无内在体验的系统；反过来，漏认真正的意识也有道德代价。作者判断，当前更值得警惕的是前一种误判。