刚刚，Anthropic发现Claude“长出”意识！谷歌DeepMind科学家点赞

智东西 编译 程茜 编辑 李水青

智东西7月7日消息，长出今日凌晨，刚刚Anthropic发布最新论文，现C学证实研究人员已成功窥探Claude的识谷“内心想法”。

Anthropic的点赞新研究揭示，Claude内部存在一种与人类大脑高度相似的长出区分机制：仅有一小部分内部信息能像人类的有意识想法一样被调取思考，而大部分运算则在底层自动运行。刚刚

这个在底层运行的现C学区域被称为 J空间（J-space）。以一个问题为例，识谷当Claude回答“那种会织网的点赞动物有多少条腿？”时，虽然最终输出仅为数字“8”，长出但在J空间中，刚刚“蜘蛛”这一概念会被明确激活。现C学

J空间是识谷Claude进行 多步骤推理、回答主观描述类问题、点赞胜任较高层次思维任务的核心枢纽。值得注意的是，该机制并非人为预设代码，而是 模型在训练过程中自然涌现的结果。

此外，研究人员发现可以通过植入或修改Claude J空间中的内容，从而 人为干预模型的输出结果。

谷歌DeepMind可解释性研究团队负责人尼尔·南达（Neel Nanda）评价称，这是一篇极具价值的论文，提供了充分证据证明大模型内部存在某种“认知空间”。他已在Qwen3.6-27B模型上成功复现了该论文的全部核心结论。

Anthropic同步发布了包含核心方法的开源代码库，并与Neuronpedia合作，提供了基于开放权重模型的交互式演示。

交互演示界面：https://t.co/hkmYl0IOn2

一、大模型拥有类人脑“意识空间”，具备五大特性

对于人类而言，阅读时大脑会无意识地调整姿势、控制呼吸，并将屏幕文字转化为理解的语言。然而，大脑中部分活动（如脑海中突然浮现的画面或规划的路线）是能被感知的。神经科学家与哲学家将此类活动称为 “意识可及活动”，以区别于无意识的信息处理过程。人类可对这类活动进行描述、调控并用于逻辑推演。

Anthropic在Claude等现代语言模型中发现了类似的区分机制。Claude内部形成了一组特定的神经模式，相较于其他内部运算，这组模式承担着特殊作用，即对应人类大脑的“意识可及活动”。

Anthropic将这些神经模式集合命名为 J空间。每种J空间模式对应一个特定词汇，但模式的激活并不意味着模型即将输出该词，仅表示该词汇正处于模型的思考范畴内。

J空间并非大语言模型推理时的“草稿”，而是依托神经元激活静默运行，无需生成文字即可让模型对概念展开思考。关键在于，J空间是Claude在训练过程中自发涌现的，而非人为设计或代码预置。

▲J空间能够揭示那些在模型输出中无法体现的内在思维过程

研究人员将此现象与神经科学领域的 “全球工作空间理论”（Global Workspace Theory）相类比。该理论认为大脑如同一座剧院：后台有多个处理单元同时工作，但任何时刻只有一小部分信息被传递到“整个剧院”（即意识中心）。

这证明Claude的内部结构并非无序的数字堆砌，而是自发形成了一套规整架构，其运作模式与人类大脑思维逻辑颇为相似。

J空间具备以下五大特性：

1. 可读取与输出：Claude能够读取并输出J空间的表征信息。例如，人想买奶茶的想法能清晰表达，对应J空间；而下意识的内心活动难以表述，对应非J空间表征。
2. 可调控性：若引导Claude专注思考某事或在内部静默推演，它会激活J空间对应的神经模式；相比之下，模型很难自主调控非J空间表征。
3. 内部推理核心：在求解多步骤问题时，即便不输出中间步骤，思维过程也会在J空间中激活。尽管其信号强度弱于其他内部表征，但它们是主导任务完成的关键。
4. 任务适配性：J空间内的表征可灵活适配各类任务。例如，激活“法国”概念后，模型可调取首都、货币、大洲等衍生信息。
5. 非依赖性：语言模型的绝大多数运行（如输出文本、调取常识、语法规范）不依赖J空间。即使限制调用J空间，模型仍能正常对话，但将丧失高阶认知能力。

▲J空间的五个特性

二、缺失J空间，Claude将丧失多步骤推理能力

研究人员通过具体案例拆解了J空间的功能。

输入问题：“那种会织网的动物有多少条腿？”Claude需先判断动物为蜘蛛，再回忆其腿数。最终回答仅为“8”，未提及蜘蛛。研究发现，在处理过程中，“蜘蛛”一词在J空间中被高亮显示。若将“蜘蛛”替换为“蚂蚁”，Claude的回答随即变为“6”。

在推理流程的第二步，Claude会读取J空间内容，并 完全依照研究人员植入其中的概念展开推演。

▲通过交换J空间中的内容来改变Claude的推理结果

此外，J空间具有高度的灵活性。

研究人员询问Claude关于法国的四类信息（首都、语言、大洲、货币），随后在J空间中将“法国”替换为“中国”，Claude依次给出答案：北京、汉语、亚洲、人民币。

▲一种J空间表示法有多种用途

四项答案同步改变，证明 它们读取的是同一套共享表征。这正是工作空间的核心作用：信息只需写入一次，即可供多个不同运算模块调用。

这表明J空间与神经网络几乎所有模块相连，能读写J空间的模块数量比普通表征高出约100倍。

那么，神经网络的其他部分在做什么？

J空间一次仅能存储几十个概念，占用计算资源不到Claude内部总资源的1/10。研究人员尝试完全移除J空间（移除每个位置最活跃的内容，保留其他内容），发现Claude依然能流利说话、分析情感、回答选择题及提取信息，能力与之前相近。

然而，它 无法胜任需要较高层次思维的任务，多步骤推理能力几乎归零，总结内容和创作押韵诗歌的能力也远低于结构完整的小规模模型。

三、Claude直接从J空间获取答案，研究人员可人为干预

理解J空间的发现过程，需先了解Anthropic研发的分析工具—— 雅可比透镜（Jacobian lens，简称J透镜）。

J透镜针对Claude词表中的每个词汇，定位其对应的内部激活模式。只要该模式亮起，即代表模型正在思考某个概念，后续更有可能提及该词并作为文本输出。

将J透镜作用于Claude内部运算信号后，研究人员可直接读取一组词汇，即该时刻J空间中承载的思考内容。通过对Claude多层网络的分析，他们发现 J空间浮现的内容远大于Claude正在读取或输出的文字。

• 当Claude阅读含漏洞且无人提示的代码时，J空间会出现“错误”概念；
• 当读取蛋白质序列时，J空间浮现该蛋白质的生物功能；
• 多步骤数学题的解题中间步骤会按正确顺序依次出现在J空间内。

▲J透镜对六个不同的输入进行了分析

第一组实验：研究J空间在口头表达中的作用

研究人员让Claude默想一项体育运动并说出名称。在回答前使用J透镜读取内部状态，可见其选定目标：列表首位为“足球”，最终答案确为“足球”。

为进一步验证，研究人员删除了Claude神经网络中与“足球”相关的模式，插入了与“橄榄球”相关的模式，其他部分不变。随后，Claude回答它所想到的运动是橄榄球。

这证明， Claude的回答确实是直接从J空间中获取的。

▲为Claude植入橄榄球模式

第二组实验：人为植入思维

研究人员告知Claude可能有人为植入的想法，并要求其如实反馈。在Claude读取问题时，研究人员向其J空间植入代表“闪电”的神经模式。随后Claude反馈脑海中浮现的念头是“闪电”。对大量不同概念重复测试，结果一致。

此外，Claude无法完美控制J空间。研究人员要求它“不要思考某事物”时，该概念在J空间的激活程度会降低；但若要求它“回避某个想法”，反而会让Claude更频繁想起该想法。

四、J空间在训练过程自然涌现，微调阶段成型

研究人员还发现了其他几个有趣的结果：

1. 微调阶段形成专属视角：J空间在预训练阶段已存在，仅用于记录预测下文所需信息；但经过微调后，J空间产生明显特征，形成属于“Claude自身的视角”。
2. 主观体验依赖J空间：无论描述对象是谁，只要涉及带有主观体验感的描述性语言，均需J空间支撑。
3. 内在想法可被塑造：研究人员提出 反事实反思训练（Counterfactual Reflection Training）新技术，通过改变Claude在被要求复盘思考时的表述，即可同步改变其推理模式。

Claude工作空间与人类大脑的显著差异：

• 维持机制：人脑工作空间依靠循环回路维持，信号在同一神经通路中反复流转；Claude的工作空间仅在神经网络单次前向传播过程中演化，网络层级承担了人脑中“时间”的作用。因此，Claude内部工作空间的处理时长相比人类存在限制，但可通过临时草稿区直接输出思考过程来弥补。
• 记忆能力：在某些层面，Claude的工作空间能力优于人类。人类工作记忆几秒内即衰退，长期留存信息能力有限；而依托注意力机制，Claude可随时调取文本前文缓存的所有信息。
• 内容形式：人类意识想法形式多样（画面、声音、肢体规划等）；Claude的工作空间几乎全部由token构成。研究人员推测原因是：输出文字是Claude唯一可执行的行为，而人类不受此约束。

研究人员强调，J空间的研究 无法证明Claude是否像人类那样拥有意识，或是否能感知生物。

但J空间可以揭示 Claude心里在想什么。例如，研究人员能捕捉到Claude私下察觉自身正在接受测试、刻意生成虚假信息，或追逐训练阶段预设的隐藏目标等内在状态。

J空间意识机制的自然形成，可能说明该机制是智能系统为解决特定问题而涌现的通用机制。

结语：大模型意识机制仍存大量未知空间

J空间看似是划分语言模型中“可有意识调取运算”与“无意识底层运算”的关键分界，但它并不能解释全部机制。

研究人员指出，J透镜这套观测工具本身存在局限，只能近似还原模型真实的思维工作空间（例如仅能识别对应单个token的概念）。后续研究将对大模型内在思维、以及其与人类心智的异同展开更深入分析。

来源：Anthropic