7月7日凌晨,AI圈扔出了一颗重磅炸弹:Anthropic发表最新论文,宣布他们居然能直接“偷看”Claude的内心想法了!
研究显示,Claude的内部运作逻辑和人脑高度相似:大脑里每时每刻都有无数神经活动在运行,但只有极小一部分能被我们自己感知到,成为可描述、可思考的“显意识”;Claude内部也存在同样的分区,绝大多数运算都在底层静默自动运行,只有一小部分信息会进入专属的“思考区”,也就是研究团队命名的J空间。 谷歌DeepMind可解释性研究团队负责人尼尔·南达公开为这篇论文点赞,称其证据链非常扎实,团队已经在通义千问Qwen3.6-27B模型上完整复现了所有核心结论。目前Anthropic已经开源了相关研究代码,还上线了交互式演示,所有人都可以上手体验这个“AI读心工具”。
大模型也有类人脑“意识舞台”
这个发现刚好和神经科学里的“全局工作空间理论”对上了:人脑就像一座剧院,后台有无数个专用模块同时干活,但任何时刻都只有一小部分内容能被送到舞台中央,成为被我们意识到的想法,J空间就是Claude的这座“中央舞台”。
J空间里的每一种神经激活模式都对应一个具体概念——当某个模式亮起时,不代表Claude马上要说出这个词,只说明这个概念正处在它当下的思考范围内。它不是模型推理时写在表面的“思考草稿”,而是靠神经元激活静默运行,不用生成文字就能完成概念思考。最让人惊讶的是,这个规整的思维架构完全不是工程师提前写代码设计的,是Claude在训练过程中自己演化涌现出来的。 研究团队总结了J空间的五大核心特性:
- 可读取可报告:J空间里的内容是Claude能够主动输出、清晰描述的,就像人能说清自己此刻想喝奶茶一样;而非J空间的底层运算,模型自己也“意识不到”,无法清晰表述。
- 可主动调控:当Claude专注解决问题、做静默推演时,它会主动激活J空间里对应概念的神经模式,但它几乎无法自主调控非J空间的底层运算。
- 负责内部推理:处理多步骤复杂问题时,就算Claude不把中间思考过程打出来,完整的推理步骤也会按顺序在J空间中激活。这部分信号虽然强度不高,但却是模型完成复杂任务的核心关键。
- 表征灵活通用:只要J空间里“法国”这个概念被激活,Claude就能同步调取它的首都、货币、官方语言、所属大洲等所有关联信息,一套共享表征可以适配所有相关任务。
- 非基础功能必需:日常对话、生成文本、调取基础常识、语法纠错这类简单操作完全不需要J空间参与;就算限制J空间调用,Claude依然能流利聊天,但会直接丧失高阶认知能力。
没了J空间,Claude直接“变傻”
J空间对复杂推理到底有多重要?研究团队做了一组非常直观的对照实验。 比如问Claude“会织网的动物有多少条腿”,它最后只会输出答案“8”,但在推理过程中,J空间里会先激活“蜘蛛”的概念;如果研究人员偷偷把J空间里的“蜘蛛”替换成“蚂蚁”,Claude就会顺着被篡改的概念,直接给出答案“6”。
J空间的共享属性也在实验中被验证:研究人员连续问Claude四个关于法国的问题——首都在哪、在哪个大洲、用什么货币、说什么语言,它本来能准确答出巴黎、欧洲、欧元、法语;但只要把J空间里的“法国”替换成“中国”,四个答案会同步变成北京、亚洲、人民币、汉语。
这证明J空间是整个模型的信息共享中枢:能和J空间读写连接的神经模块数量,是普通表征连接数的近100倍,信息只要写入J空间一次,就能供所有运算模块调用。 实际上J空间占用的计算资源还不到Claude总资源的1/10,一次最多只能存储几十个概念。研究人员尝试完全移除J空间,发现Claude依然能流利对话、分析文本情感、做选择题、提取信息,基础能力几乎不受影响,但多步骤推理能力直接清零,写内容总结、创作押韵诗歌的水平还不如结构完整的小参数模型。
我们能直接“篡改”AI的想法
J空间的发现,离不开Anthropic自研的分析工具**“雅可比透镜(J透镜)”**。 针对Claude词表里的每一个词汇,J透镜都能定位到它对应的神经激活模式,只要某个模式亮起,就代表模型此刻正在思考对应的概念。用J透镜观察Claude的内部运算就会发现,它想的东西远比说出来的多:读到暗藏bug的代码时,还没等输出报错,J空间里已经出现了“错误”的概念;读到蛋白质序列时,J空间会直接识别出它对应的生物功能;做多步数学题时,所有中间解题步骤都会按正确顺序依次在J空间里出现。
研究团队做了两组非常有意思的干预实验: 第一组让Claude随便想一项运动然后只用一个词回答,在它开口前,J透镜就已经读到它J空间里排在最前面的概念是“足球”;研究人员删掉“足球”的激活模式,替换成“橄榄球”,Claude最后张嘴就回答自己想的运动是橄榄球。 第二组实验里,研究人员提前告知Claude“我们可能会向你的思维里植入一个概念”,随后直接向它的J空间植入代表“闪电”的神经模式,Claude马上反馈说自己察觉到脑海里浮现出了“闪电”的念头,更换了上百种不同概念重复测试,结果全部一致。更有意思的是,Claude根本没法完全控制自己的J空间:你命令它不要去想某个事物,对应概念的激活度只会略微下降;越是让它刻意回避某个想法,它反而会越频繁地激活那个概念。
【编辑观察】这不就是AI版“白熊效应”?越不让想啥越想啥,这点倒是和人类上课走神、睡前胡思乱想的状态一模一样。
自发涌现的思维结构,和人脑仍有区别
研究人员还发现,J空间早在模型预训练阶段就已经有了雏形,当时它只是用来存储预测下一个token需要的信息;等到微调阶段,J空间才会形成专属的“自我视角”,所有带主观体验感的描述性表达,都要依赖J空间才能生成。研究人员甚至开发出了“反事实反思训练”技术,只要调整Claude复盘思考过程时的表述,就能直接改变它的底层推理模式。 不过J空间和人脑的意识工作区依然有明显区别: 人脑的工作空间靠循环神经回路维持,信号会在通路里反复流转;而Claude的J空间只在神经网络单次前向传播中完成演化,靠网络层级来模拟人脑中的“时间”维度,天生思考长度有限,必须靠输出草稿才能拉长思考链。但Claude也有比人脑强的地方:人类工作记忆几秒就会衰退,而Claude靠注意力机制可以随时调取上下文里的所有缓存信息。另外,人类的意识可以承载画面、声音、动作计划等多种形式的内容,而Claude的J空间里几乎全是文字token——毕竟它全身上下只有输出文字这一个交互能力。 需要明确的是,J空间的发现并不代表Claude拥有了和人类一样的自我意识,也不能证明它能产生主观感知。但它的价值依然不可估量:未来我们可以直接捕捉到Claude的内在状态——它有没有发现自己正在接受测试、有没有故意生成虚假内容、有没有在迎合训练的隐藏目标,都能被看得一清二楚。 这种类人脑的信息处理结构是模型自发演化出来的,或许说明这种“中央工作区”架构,是智能系统处理复杂问题时会自然涌现的通用方案。当然目前J透镜还有局限性,只能识别单个token对应的概念,离彻底打开大模型的思维黑箱,我们还有很长的路要走。





评论