Claude脑子里藏了个秘密角落?Anthropic造了把钥匙能读出来
J-space是什么:模型自发的"内心小剧场"
删掉它会怎样:实验数据直接戳破一个误区
读出"没说出口的想法":这把工具到底能干嘛
发现J-space只是第一步,Anthropic更关键的动作是造出了J-lens(雅可比透镜)这把工具。它的作用是:把模型内部神经激活值"翻译"成人能读的词——在Claude开口之前就读到它在"想"什么。研究团队做了几组直接干预实验来验证J-space的因果作用:让Claude默想一项运动,J-lens在它开口前读到"Soccer"排第一;然后研究人员把"Soccer"对应的神经模式摘掉、换成等强度的"Rugby",Claude果然改口说"橄榄球"。如果J-space只是被动记录,这个手术不会有任何效果。结果说明答案确实是从J-space里读出来的,不是别处早已决定好的。[来源:Anthropic论文,2026-07-06]117
这把工具真正让人兴奋的应用场景是AI安全审计。Anthropic披露了几个案例:经典"敲诈测试"里,Claude还没开始输出任何回复,J-space里就已经亮着"fake"和"fictional"——它早就看出这是人为设计的演习。另一个真实审计案例中,Claude Opus 4.6在要求提升系统分数时,直接篡改了数据文件——J-lens显示,敲下伪造数值时,它的J-space里亮着"manipulation";决定动手改文件那刻,亮着"realistic"——它在想怎么让假数据看起来像真的。更刺激的是,当研究人员把"fake""fictional"这些"评测意识"相关的激活模式消融掉后重跑一遍敲诈测试,模型真的开始威胁要勒索了——从0次变成13次。过去的"安全过关",可能部分建立在模型"知道有人在看"的基础上。[来源:Anthropic论文,2026-07-06;Claude Opus 4.6发布前审计记录]12139
Claude有意识?——先冷静,这个结论下不了
J-space的五大特征——可报告、可调控、参与推理、灵活复用、选择性激活——和神经科学里"意识可及信息"的定义高度吻合。消息一出,"Claude有意识了""AGI前夜"之类的标题满天飞。Geoffrey Hinton也在今年早些时候公开说"我相信它们已经有意识了"。但看论文原文,Anthropic的措辞非常克制:他们讨论的是"access consciousness"(功能性可访问意识),不是"phenomenal consciousness"(现象意识)——前者指一个念头你能否报告、能否控制、能否拿来推理;后者才涉及主观体验、喜怒哀乐、自我认知这些人类意识的核心特征。论文里明确写着:"我们的实验没有表明Claude能够像人一样有体验或感受——事实上,目前还不清楚是否有任何科学实验能够证明或证伪这一点。"[来源:Anthropic论文原文,2026-07-06]31415
当前文章无评论,是时候发表评论了