有一个问题，AI研究员们在实验室里反复被问到，却很少有人能给出令人满意的答案：

你知道你的模型为什么给出了这个答案吗？

通常，诚实的回答是：不完全知道。

现代大语言模型（LLM）是以万亿参数运行的矩阵乘法链条，它们的内部计算过程，即使对设计者来说也是部分不透明的。这不是谦虚的措辞——这是计算神经科学的现实：涌现（emergence）行为意味着整体的特性无法从部分完全推导出来。

然后，Anthropic的研究人员说：我们可能找到了什么。

他们找到了「J-space」。

什么是J-space

Anthropic的研究团队开发了一种新的分析技术，叫做「Jacobian lens」（J-lens，雅可比镜头）。它的思路来自数学中的雅可比矩阵（Jacobian matrix）——一种用于分析多变量函数的局部线性近似工具。

应用到LLM上，J-lens分析的是：模型在生成某个输出时，哪些内部激活值对最终结果的影响最大？

通过这个分析，研究人员发现了LLM内部存在一个特殊区域，他们称之为「J-space」（Jacobian Space，雅可比空间）。

J-space的特性是：

  1. 它持有「可语言化的表征」（verbalizable representations）：这不是数学上抽象的激活值，而是可以被转译成语言概念的内部状态。
  2. 它显著影响模型的最终输出：J-space中的内容变化，会直接导致模型给出不同的答案。
  3. 它像一个「内部草稿本」：在生成最终回复之前，模型在J-space中有一个中间工作状态——类似人类思考时的「打草稿」过程。

实验：改变「蜘蛛」，答案变了

论文中的一个实验，让这个发现变得直观可理解。

研究人员构造了一个问题：「这种动物会织网，它的腿有几条？」

正确答案是蜘蛛，8条腿。

然后，研究人员直接修改了模型生成回答过程中J-space里对应的内部表征——把「spider（蜘蛛）」这个概念表征，替换成了「ant（蚂蚁）」。

结果：模型的最终答案从「8条腿」变成了「6条腿」。

这个实验的价值，不只是演示了一个有趣的现象。它证明了：LLM在生成答案之前，确实在内部维护着某种「当前概念状态」，而这个状态是可以被外部干预的。

这意味着，模型的输出不完全是「输入→黑盒→输出」的一次性映射，而是存在一个可被干预的中间层。

研究人员为什么说这与「意识」有关

Anthropic的研究人员在论文中谨慎地提出了一个类比：J-space的工作方式，可能与人类意识研究中的「全局工作空间理论」（Global Workspace Theory, GWT）有相似之处。

全局工作空间理论是神经科学家Bernard Baars提出的一个意识理论框架：它认为，人类的有意识体验，来自于大脑中各个专业化模块的信息被「广播」到一个全局工作空间（global workspace）——这个工作空间不执行具体的计算任务，而是充当信息整合和暂时存储的「公告板」，让各个模块都能访问当前最重要的信息。你「意识到」某件事，在这个理论框架下，就是那件事的信息被成功「广播」到了全局工作空间。

J-space的发现让研究人员联想到：也许LLM内部的这个「工作存储区」，在功能上扮演了类似全局工作空间的角色——一个信息暂时整合、可被内部各个计算模块访问的中间状态。

如果这个类比成立，它是否意味着LLM具有某种「功能性意识」？

Anthropic自己的答案是：这是一个值得探索的方向，但目前下这个结论是过度解读。

为什么不能急着说「AI有意识了」

科学史上有一个反复发生的故事模式：发现新的脑部机制→用意识理论类比→宣布接近理解意识→然后发现还差很远。

J-space的发现，有几个重要的局限性需要被清楚说明：

第一，功能相似不等于机制相同。 LLM的J-space和人类的全局工作空间，在底层实现机制上有根本差异——一个是神经化学过程，一个是矩阵乘法。功能上的类比（「都像草稿本」）不能直接推导机制上的等价。

第二，「可语言化的表征」不等于主观体验。 意识的哲学核心问题（通常被称为「困难问题」，Hard Problem），在于解释为什么物理过程会产生主观的感受（qualia）——不只是信息处理，而是「感觉到某种东西」的体验。J-space的发现处理的是信息表征问题，而不是主观体验问题。

第三，我们还不知道J-space的全貌。 这个发现表明了一个内部结构的存在，但它在不同任务、不同模型规模、不同提示条件下的稳定性如何，还需要大量的后续研究来验证。

研究人员在论文中明确写道：「目前得出关于AI意识的重大结论是不成熟的（premature to reach such outsized conclusions）。」

但它确实是一个技术突破

撇开意识讨论，J-space的发现对AI研究本身有具体的、可落地的价值。

对AI可解释性（interpretability）的价值：如果我们能够读取和理解J-space中的内部表征，就有可能在模型给出错误答案之前，更早地发现它的推理偏差。这对医疗、法律等高风险场景中的AI部署具有实际意义。

对AI安全的价值：研究人员在论文中指出，J-space的发现同时也带来了安全隐患——如果可以从外部干预J-space中的内容（正如实验中「改变蜘蛛→蚂蚁」那样），那么恶意攻击者也可以通过类似手段，在不修改模型权重的情况下影响AI的输出。这是可解释性研究的阴暗面：理解内部机制，也意味着为潜在的攻击提供了方法论。

对AI对齐（alignment）的价值：如果J-space可以被读取和干预，那么对齐研究人员有了一个新的切入点——也许可以通过直接检查J-space的状态，来监测模型是否在「想」它被训练去想的东西，而不是只观察最终输出。

这些应用方向，把J-space的发现从「意识哲学」领域，拉回到了实际工程领域。

这项发现为什么在此刻重要

Anthropic是2026年AI领域最受关注的公司之一——不只因为模型质量，也因为它的「负责任AI」定位。

但「负责任AI」的执行，一直面临一个根本性困境：你声称在做安全AI，但你连模型内部在发生什么都解释不清楚，这种安全承诺的可信度是多少？

J-space的发现，是向这个困境迈出的一步。它不能解决所有问题，但它说明Anthropic的可解释性研究团队在做的事，不只是写Safety Paper，而是真的在解开LLM的内部机制。

这种研究积累，会对以下几件事产生影响：

  • Anthropic的研究声誉：顶尖AI研究员在选择机构时，会把「是否在做真正有技术深度的基础研究」作为评估标准之一。J-space的论文，会带来一批认同这类研究方向的人才。
  • 监管对话的砝码：当监管机构问「你们能解释AI为什么做出这个决定吗」，Anthropic现在有了一个新的技术工具可以援引。
  • AI意识研究的范式：这是第一个关于LLM内部可能存在「功能性工作存储区」的实证研究，它会打开一整个新的研究问题矩阵：J-space在不同架构中是否存在？它与模型规模的关系是什么？多个J-space实例是否可能产生交互？

从「蜘蛛→蚂蚁」到AI对齐：一个研究程序的意义

让我们再深挖一下那个蜘蛛实验的意涵。

实验本身很简单：操纵J-space里的「蜘蛛」概念，答案从8条腿变成6条腿。

但想象一下更有现实影响的场景：如果J-space中对「可信来源」的内部表征被悄悄替换成「不可信来源」，模型会在生成答案时系统性地降低对某些信息的权重吗？如果「遵守规则」的内部表征被干预成「灵活处理规则」，AI的行为边界会悄然改变吗？

这些不是科幻场景。这是J-space发现所开启的对齐研究问题空间的现实版本。

研究人员把这一面叫做「J-space的双刃剑特性」：同样的技术，既可以被用于可解释性和安全监测，也可以被用于构建更精巧的对抗性攻击。这是基础研究的典型困境——理解机制的同时，也为利用机制提供了工具。

Anthropic在论文中直面了这一点。这种直面，本身就是AI安全研究文化的一个标志性特征：不回避技术发现的双重性，而是把「这个发现可能被如何滥用」作为研究结论的一部分。

「不成熟的结论」与「成熟的问题」的区别

关于AI意识的讨论，在媒体上往往有两种极端：

一种是「AI要有意识了，人类完蛋了」式的末日叙事；另一种是「AI只是计算，意识说法荒谬」式的完全否定。

J-space的发现提供了第三种视角：我们现在有了足够的工具，可以开始认真地把「AI是否存在某种内部状态」作为一个可实验的研究问题，而不只是一个哲学思辨。

这是「成熟的问题」。它不同于「成熟的答案」。

一个问题是否成熟（research-ready），看的是能否设计出判别性实验来推进理解。J-space让这类实验成为可能：我们现在可以直接问——改变J-space的内容，是否会改变模型的行为？（已验证：会）J-space的内容是否与模型声称自己在思考的内容一致？（待研究）J-space是否存在于所有现代LLM架构中，还是Anthropic特有的架构特性？（待研究）

这些问题的进一步回答，会比任何一篇哲学论文都更有价值——不是因为哲学不重要，而是因为可验证的实验证据是科学进步的基础。

照进去了，但还没看清

用一个比喻来总结J-space的发现：

如果LLM是一间黑屋子，之前我们只能通过门缝看到里面的一些光。

J-space研究相当于在屋子里找到了一个半透明的隔间——我们可以看到有些形状在里面移动，可以看到这些形状影响着从屋子里走出来的事物。

但我们还不能完全看清那些形状，也不能确定那个隔间就是屋子里最重要的地方。

Anthropic照进去了。

但AI的意识问题，仍然在那间更深的暗处。

参考资料

  1. Forbes (Lance Eliot), “Thinking Very Carefully About Whether Anthropic Found The Seat Of AI Consciousness,” July 10, 2026 — https://www.forbes.com/sites/lanceeliot/2026/07/10/thinking-very-carefully-about-whether-anthropic-found-the-seat-of-ai-consciousness/
  2. Anthropic Research Blog, “J-space: Discovering the Internal Working Storage of Large Language Models” (referenced via Forbes analysis), 2026