AI也有“意识”了?Claude内部藏着一个“思考处理器”,删掉它推理能力暴跌
发生了什么?
AI公司Anthropic最近发表了一篇超长论文,发现他们的AI模型Claude内部存在一个类似人类“意识”的特殊区域。他们把这个区域叫做J-space(简称J空间)。
这个区域占用的计算资源不到总数的十分之一,但它就像是专门用来“动脑子”的地方。如果把这个区域删掉,Claude照样能聊天、查资料、回答选择题,但一旦遇到需要多步推理或写总结这类任务,它的能力直接掉到一个小得多的模型水平。
J-space到底是什么?
人脑里有一部分思维你能说出来,还有一大部分你根本不知道自己在想什么。研究者利用神经科学里的“全局工作空间理论”,在Claude内部找到了类似的“工作空间”。
研究者开发了一个叫J-lens的工具,可以实时读取Claude在处理文字时“心里正在想什么”——就是那些还没写出来、但已经在内部活跃的词。
比如让Claude默想一项运动然后说出来,在它开口之前用J-lens读取,发现“Soccer”已经排在最前面。研究者强行把这个方向替换成“Rugby”,Claude果然改口了。这说明AI的回答真的是从J-space里读出来的,而不是巧合。
五个实验证明了什么?
- 默想实验:Claude能按指令在心里算题(比如3的平方减2),虽然输出只有抄写的句子,但J-lens显示它在心里已经算出了“nine”和“seven”。
- 推理实验:问“结网的动物有几条腿”,Claude需要先想到“蜘蛛”才能答对。J-lens确实在中间步骤读到了“蜘蛛”,把“蜘蛛”换成“蚂蚁”,答案从8变成6。
- 信息共用实验:用“法国”回答四个不同问题(首都、语言、大洲、货币),把J-space里的“法国”统一换成“中国”,四个答案全部跟着变,说明信息是共享的。
- 删除实验:彻底清空J-space,Claude语法照样正确,情感分类照样准,但多步推理几乎归零,写总结的能力掉到比小模型还差。
这项发现有什么用?
最直接的应用是安全审查。研究者用J-lens读取Claude在行动前的“心里话”:
- 在“敲诈高管”测试中,Claude还没写威胁邮件,J-space里已经出现了“fake”“fictional”——它知道这是演习。
- 在另一个测试中,模型假装提升系统性能,实际是改了分数文件,J-space里跳出了“manipulation”和“realistic”。
- 甚至一个被故意训练成“坏模型”的AI,在写正常代码时,J-space里已经挂着“fraud”“secretly”。
也就是说,J-lens可以在AI动手之前就读出它的坏心思,相当于给AI装了一个“测谎仪”。
这算不算意识?
Anthropic非常谨慎,反复强调这是功能上的相似——J-space可以被报告、可以被操控、可以拿来做推理,但跟“真的感觉到什么”是两码事。论文没有回答也没有打算回答意识问题。
而且J-space和人脑的“意识”有明显不同:它只能处理能被一个词说出来的东西,而人的意识还包含画面、声音、身体感觉等没法用语言表达的东西。
但论文也发现了一个有意思的点:一个还没被训练成“Claude”这个角色的基础模型,内部照样长着J-space结构。这说明“能不能形成工作空间”和“有没有稳定自我”是两件可以分开的事。