2026年9月15日，CNBC发表了一篇标题带有刻意克制的报道。

报道的主题是Anthropic CEO Dario Amodei几天前提出的安全评估员方案——在AI公司内部嵌入第三方安全评估员，给予他们「员工级别的访问权限」，让他们能够真正看到正在发生的事情，而不仅仅依赖公司的自我披露。

报道的副标题是这样写的：「为什么你应该对这个想法感到担忧」。

这篇文章提供了一个来自银行监管领域的专业视角，而这个视角，精准地切开了Amodei方案中一个表面上看不见的裂缝。这条裂缝，不在于方案的初心是否真诚，而在于方案的设计是否足以实现它声称要实现的目标。

背景：从Jacob Coxon到「临界点」倡议

要理解为什么Amodei的提案在9月中旬出现，需要回到大约一周前发生的事情。

9月9日，前Anthropic研究员Jacob Coxon公开辞职，在个人社交媒体上发文警告：前沿AI实验室正在竞争可能无法控制的系统，他「深深担忧技术的发展方向」。Coxon在辞职前是Anthropic的安全研究员，他的离职不是普通的职业选择——是一次带有明确公开声明的、以「我不能继续在这里工作」为形式的警告。

Coxon的辞职不是孤立事件。在他之前，已经有多位来自Anthropic和Google DeepMind的研究员以各种形式发出类似的内部安全警告，其中一些人后来也选择了公开离职。这些离职和警告叠加在一起，形成了一种正在积累的压力信号：前沿AI实验室的内部人员正在公开质疑他们自己公司的安全实践。这不是关于产品的质疑，而是关于整个技术发展轨迹的存在性担忧。

这种压力，为Amodei的公开发声提供了背景。

9月12日，Amodei发表了一篇长文，题为「我们必须控制前沿」（We Must Pace the Frontier），提出了一系列具体的AI安全措施。其中最受关注的，是嵌入式安全评估员方案：

Anthropic承诺为第三方评估员提供与内部风险团队相当的系统访问权限，以及无需公司编辑控制即可发布调查结论的权利（允许有限的保密删节，以避免泄露可能帮助恶意行为者的技术细节）。

在这篇文章里，Amodei援引银行业监管作为先例，写道：「这个提议在银行业有先例，有时候涉及监管机构将’监管人员’嵌入员工中。」

随后，OpenAI CEO Sam Altman在X平台公开表示OpenAI愿意加入类似的安全安排，Elon Musk（代表xAI）和Google的Demis Hassabis也在几天内相继表示支持（据CNBC 2026-09-15报道）。

银行监管类比：为什么这个类比很有诱惑力

Amodei的银行监管类比，在直觉上具有强烈的说服力，这不是偶然的。

银行监管是人类历史上最成熟的高风险系统监管范式之一。当一个银行出现危机，它可能摧毁数以万计个家庭的终身储蓄，触发系统性金融崩溃，最终造成整个经济体数年的损失。人类花了几十年的时间，才建立起一套能在一定程度上管控这种风险的监管体系。银行监管的存在，是对「高风险、高度不透明、内部人与外部人严重信息不对称」的制度性回应。

AI系统的风险特征，在多个维度上类似于银行系统：它的能力不透明（外部人无法直接评估），它的失败可能具有系统性影响（如果前沿模型出现严重对齐失败），它的内部决策过程与外部世界之间存在严重的信息不对称。

如果AI的风险类似于银行的系统性风险，那么借用银行监管的逻辑——包括在机构内部嵌入监管人员的做法——听起来是自然的，甚至是显而易见的。

而且嵌入式评估员的概念，在直觉上明显优于「外部审计员每年来一次」的模式。你在系统内部，持续访问，不需要等公司决定对外披露什么，可以主动发现问题而不是被动等待报告。这比任何基于披露的监督机制都要深入。

这个类比打动了很多人，包括Altman、Musk、Hassabis，以及大量观察这个提案的政策界人士。

银行监管类比：为什么它在关键之处失效

然后CNBC采访了Julie Andersen Hill。

Hill是怀俄明大学法学院院长，银行监管法专家，职业生涯中对美国银行监管制度有深度研究。她听完了Amodei的方案后，给出了一个干净利落的判断：这个类比根本不成立，而且失效的地方，恰恰是最重要的地方。

核心差异不在于监管员是否驻场，不在于访问权限的深度，而在于执法权力（enforcement power）。

真正的联邦银行监管员有什么权力？

他们在机构内部有办公室，有访问内部系统和员工的持续权限，这是表面特征。更重要的是，他们的调查结论有直接的法律执行效力：

  • 发布「立即停止」命令（cease and desist order）——要求银行立即停止特定违规业务实践，无需法院介入
  • 限制机构的增长和业务范围——可以禁止银行进入新的产品线或地理区域
  • 要求更换管理层——包括有权要求撤换CEO的机制
  • 要求注资或出售资产——在资本不足的情况下可以强制要求
  • 在极端情况下，关闭机构——FDIC可以接管并清算一家银行，不需要股东同意

这些不是「建议权」，不是「报告权」，是有法律约束力的强制执行权。它们可以被行使，而不依赖被监管机构的自愿配合。

而Amodei提案中的AI安全评估员，根据方案描述，拥有什么权力？

他们可以访问内部系统。他们可以进行调查。他们可以发布调查报告，包括在有限删节下向外部发布结论。

但他们明确没有权力：

  • 要求停止某个模型的训练或发布
  • 阻止任何具体的技术决策
  • 强制改变公司的运营方向
  • 要求任何管理层变更
  • 在任何意义上叫停任何行动

Hill的评论直接而有力：「如果不给他们那种权力，我不知道他们在做什么。」

这不是在吹毛求疵一个细节。这是对整个制度设计有效性的根本性质疑：一个能发现问题并报告问题的机制，和一个能发现问题并叫停问题的机制，在现实效力上是完全不同的制度工具。

前者依赖声誉机制——报告公开，公众压力，公司被迫响应。后者不依赖声誉，它是强制性的。前者在正常时期可以有效，在竞争激烈、监管注意力分散时效力衰减。后者的效力不随时间或注意力变化。

Amodei本人的坦承与设计的内在矛盾

耐人寻味的是，Amodei在他的文章里对这个局限性有某种程度的隐性承认，尽管措辞委婉。

他写道，评估员被需要来提供「一个能真正看到细节的中立第三方」——但同时承认，Anthropic仍然决定其现有公开披露中包含什么和省略什么，评估员的调查结论可以发布，但需要「有限删节以避免有害技术细节外泄」。

这句话值得细读：评估员会看到更多信息，但公开披露的边界仍然由公司决定（即使是有限制的）。评估员的调查结论，通过公司批准的过滤器向外部世界传达。

真正的银行监管员的情况形成了对比：他们的调查结论，可以直接作为监管行动的法律依据，不经过被监管银行的「过滤器」，不需要被监管银行的合作。即使银行不同意监管员的判断，监管员仍然可以采取执法行动。

Amodei方案里另一个值得关注的矛盾：他同时承诺「减速」（呼吁AI行业放缓前沿发展节奏）和「接受嵌入式评估员」（接受更高透明度），但这两个承诺之间的张力从未被充分解释。如果评估员发现了严重问题，他能做什么？他能写报告。然后公司评估报告的内容决定是否调整发布节奏。整个链条最终仍然回到了公司自主决策。

这是方案设计的内在矛盾：提案的语言暗示了「独立监督」，但实际机制仍然是「公司自律+透明度增强」的本质。

激励结构：为什么这是商业上最优的自律方案

我们需要在更大的背景下理解这个方案出现的时机。

2026年9月，Anthropic据报道正在准备规模可能超过2万亿美元估值的融资计划（Reuters等媒体援引知情人士消息）。OpenAI正在进行Pre-IPO轮融资，多家媒体报道估值讨论中出现超过1.2万亿美元的数字。两家公司同时在做两件听起来相互矛盾的事：一方面公开呼吁「减速」，另一方面加速商业化进程。

这不是虚伪，而是一个结构性的激励问题。在资本市场的压力下，即使是真诚关注安全的人，也会倾向于选择能够同时满足多个目标的方案——既展示安全意识，又不实质性限制商业自由。这种激励结构不是Anthropic或OpenAI独有的，而是所有面临商业压力的组织在处理公共安全问题时的普遍倾向。

理解这个激励结构，不是为了批评Amodei或Altman，而是为了准确预测这套自律机制在不同条件下的实际效力——在压力小、关注度高时有效，在竞争激烈、关注度下降时效力衰减。

对于一家准备IPO的AI公司，推出一套看起来像监管但没有强制约束力的自律框架，在商业上是最优的选择：它向监管机构展示了主动合规的姿态（降低被强制监管的风险），向机构投资者展示了治理成熟度（提高估值中枢），向公众展示了安全意识（管理声誉风险）——同时，完整保留了推进技术和业务的所有灵活性，因为评估员的报告不能强制任何决策。

这是一个在三个维度同时降低风险的安排，而代价接近于零：如果评估员没有执法权，他们最坏的结果是发布一份批评报告，公司的回应空间极大。

这不是说Amodei或Altman的安全担忧是假的。从他们长期一致的公开声明和内部记录来看，他们对AI风险的真实担忧是可信的。但担忧是真实的，并不意味着他们在商业压力下会提出一个真正约束自己行动的方案。真诚地担心风险，和愿意接受真正限制自己决策权的强制监管，是两件不同的事情。Amodei方案是前者，而不是后者。

谁来确保承诺被兑现：声誉机制的根本局限

CNBC的报道提出了这场讨论中最本质的问题，至今没有清晰答案：在一个大家都在自愿承诺AI安全的时刻，谁来确保这些承诺被兑现？

Anthropic的评估员方案，本质上是一个声誉约束机制：如果评估员发现问题并发布报告，公司因为声誉损失被迫回应。这种约束是真实存在的——公开的批评报告，在高度关注AI安全的当下，有相当的压力效果。

但声誉机制有一个结构性的软肋：它依赖公众持续的高度关注。在AI安全获得极高社会关注的今天，声誉机制有一定效力。但社会注意力是有限的，它会转移。当下一个热点话题出现，当AI安全从头条新闻退出，声誉机制的效力会迅速衰减，而AI公司的商业压力不会减少。

银行监管机制不依赖这种声誉。一家银行可以完全无视自己在媒体上的形象，监管员仍然可以在发现资本不足时强制要求注资，仍然可以在发现违规时发布停止令，仍然可以在极端情况下接管并关闭机构。这是一种不受公众注意力波动影响的持续性约束。

AI安全评估员方案——至少是目前提出的版本——是软约束，依赖声誉压力。在AI公司愿意配合、公众高度关注的良性环境里，它有一定效果。在竞争激烈、单季度的模型发布可能价值数十亿美元的商业压力下，把治理有效性寄托在公司自愿配合声誉机制上，在逻辑上是脆弱的假设。

不是否定，是诊断：我们需要的是什么

说清楚这个制度空洞，不是为了否定Amodei方案的价值。他的提案在现有约束条件下是一个进步——比完全不透明好得多，比没有任何第三方参与好得多，比纯粹的自我披露好得多。

但准确地诊断它是什么，比把它定义成我们需要的解决方案更重要。

我们从制度设计角度需要的东西，大致是这样的：

具有独立法律权威的外部监管机构，拥有在发现特定能力或风险阈值被触发后的强制干预权——类似于FDA审批机制中的暂停权（可以在临床数据不充分时暂停药物上市），或金融危机中FDIC的接管权（可以在不需要股东同意的情况下接管一家系统性重要银行）。

这种机制目前在任何主要AI国家都不存在。欧盟AI法案迈出了一步，但在前沿能力模型的紧急干预机制上远未到位。美国联邦层面的AI立法仍然停滞，州级立法（如加州SB 1047系列）多次被否决或大幅稀释。中国的AI监管框架有算法分类管理，但在前沿模型的能力风险干预上缺乏具体机制。

建立真正有执法权的AI监管机制，需要解决一系列复杂的前置问题：监管权威属于哪个机构（现有监管体系中没有一个专门的AI监管机构）？触发干预的风险阈值如何标准化定义？监管机构如何获得足够的技术能力和人才去评估前沿模型？这些问题都是真实的政策挑战，在当前政治环境下，没有明确的推进路径和时间表。

银行监管的历史教训：声誉机制崩塌后才有真正的监管

有一个历史性的参照，直接呼应当前的困境。

1933年美国联邦存款保险公司（FDIC）成立之前，美国银行系统依赖的是什么？主要是声誉机制：银行依靠信誉维持储户信心，市场通过声誉压力过滤「好银行」和「坏银行」。这个机制在稳定期运转，在银行挤兑时完全失效——因为挤兑恰恰是声誉崩溃之后才发生的，声誉机制对已经崩溃的信任无能为力。

1929-1933年，超过9000家美国银行倒闭。数以百万计的储户失去积蓄，美国经济陷入大萧条的深渊。这场规模性的系统失灵发生之后，政治意愿才足够强烈，FDIC和格拉斯-斯蒂格尔法案才最终通过，建立了真正有执法权的银行监管体系。

AI安全领域面临一个类似的逻辑链：可能要等到某种程度的实际失灵发生——一个严重的对齐失败被公开证实，或者AI系统造成了可量化的重大伤害——才会有足够的政治意愿建立真正有约束力的监管机制。在那之前，我们处于声誉机制的时代。

Amodei的评估员方案，是声誉机制时代能做到的最好的尝试之一。这有价值，但这不是最终答案。在最终答案出现之前，这个过渡性工具是可用的——前提是我们清楚地知道它是什么，以及它的边界在哪里。

把一个过渡性工具说成是最终解决方案，才是真正危险的自我安慰。因为那会降低建立真正有效监管机制的紧迫感，让我们在声誉机制失效的窗口期缺乏足够的制度保护。

类比失效的更深层次：AI风险与银行风险的本质差异

Hill的批评指向了执法权的缺失，但还有另一层类比失效值得深究。

银行监管之所以有效，一个重要的前提是：我们已经充分理解了银行系统的风险机制。资本充足率、流动性覆盖比率、压力测试模型——这些标准之所以能被写进监管条例，是因为银行风险的传导机制已经被几代学者和监管者研究透彻，失败模式已经被历史重复验证过。当监管员发现一家银行的核心资本比率低于临界线，他知道这意味着什么，也知道应该采取什么行动。

AI前沿系统的风险机制，我们目前远没有达到类似的理解深度。什么样的能力表现标志着「危险」？什么样的训练方法会增加或降低对齐失败的概率？在什么条件下一个具有欺骗能力的模型会将其用于真实危害？这些问题，目前在AI安全研究界没有共识的答案，更没有可以被写进监管条例的量化标准。

这意味着：即使我们明天就给了AI安全评估员完整的执法权，他们用什么标准来触发执法行动？现有的风险评估框架（如Anthropic的负责任扩展政策RSP，或OpenAI的准备框架）都是公司自行制定的，标准不一，方法论不统一，而且本质上还是基于自评。一个有执法权的外部监管员，在评估「这个模型是否足够安全」时，面临着和银行监管员完全不同的认识论困境：银行的资本充足率是可以客观测量的，而AI的「对齐程度」目前还没有公认的客观度量方法。

这是Amodei类比在第二个层次的失效：不只是缺少执法权，而且缺少触发执法的客观标准。

国际维度：为什么美国的自律框架有其特殊限制

还有一个维度在CNBC的报道中没有充分展开：AI安全监管的国际协调问题。

当Amodei谈论「嵌入式评估员」时，他讨论的是在Anthropic内部发生的事情。即使这个机制对美国公司有效，它无法解决一个根本性的问题：前沿AI开发不只发生在美国。

中国有DeepSeek、百度文心、阿里通义千问等前沿模型开发者，他们不受美国监管框架的约束。欧洲有Mistral，虽然受欧盟AI法案约束，但监管标准与美国的自律框架并不衔接。如果美国AI公司因为「自愿减速」而降低了发布节奏，但中国的竞争对手没有类似约束，美国公司的自律在竞争层面会产生不对称的代价。

Amodei实际上在他的文章里承认了这个问题，这也是他同时呼吁美国政府采取行动（而不只是公司自律）的原因之一。但这也正好说明了：公司层面的嵌入式评估员方案，解决不了一个本质上需要国家间协调的问题。前沿AI风险不在公司层面终止，它在全球系统层面展开。

这不是反对Amodei方案的理由，而是理解它真实能力边界的一部分。它能做的，是提高美国前沿AI公司的内部透明度；它做不到的，是建立有效的全球AI安全协调机制。

结语

Amodei方案代表的，是一个有真实担忧但面临真实商业约束的CEO，在这两者之间能找到的最大交集。这个方案是真诚的，在现有条件下也是有意义的。

但它的有效边界，是在各方都愿意配合、外部关注度高、声誉机制有效的时期提供有限的透明度约束。在这个边界之内，它比没有好。

在这个边界之外，我们需要的是有执法权的独立监管机构，就像银行监管员有权力关闭一家银行那样，AI安全监管机构需要有权力暂停一个模型的发布，或者强制要求技术改变。而且，我们还需要解决一个更深的问题：在我们尚未充分理解AI风险机制的当下，如何定义触发这种执法权的客观标准。

「观察员」和「监管员」的区别，不只是职位头衔的不同，而是制度设计哲学的根本分歧：前者依赖被监督者的自律，后者依赖法律强制力。在AI安全这个领域，我们目前拥有的是前者，而我们需要的是后者。

这个差距，不能通过给「观察员」换一个更好听的头衔来弥合。它需要一场认真的制度构建——包括立法明确监管权威归属、建立可操作的风险评估标准、培育有足够技术能力的监管机构——尽管在当前的政治和技术条件下，这场构建何时到来仍然高度不确定。

Amodei的提案，是在等待真正监管机制建立之前，我们能做到的事情。它的意义，恰恰在于诚实地承认了这一点：这是过渡期的工具，而不是终态答案。只要使用这个工具的人和观察这个工具的人，都清楚这是什么，那么它就有价值。

最不应该发生的事情，是把这个过渡性工具说成已经足够，然后降低对真正制度构建的紧迫感。那才是真正危险的自我欺骗。

参考资料：

  • CNBC, “Anthropic, OpenAI proposed new ‘neutral’ AI watchdogs. Why you should worry about the idea” (2026-09-16): https://www.cnbc.com/2026/09/16/anthropic-open-ai-model-safety-risks.html
  • Dario Amodei personal blog, “We Must Pace the Frontier” (2026-09-12): https://darioamodei.com/post/we-must-pace-the-frontier
  • CNBC, “Former Anthropic researcher Jacob Coxon quits, warns about AI safety race” (2026-09-09): https://www.cnbc.com/2026/09/09/anthropic-researcher-quits-ai-safety.html
  • CNBC, “OpenAI, Google, Anthropic safety commitments: What AI leaders agreed to” (2026-09-15): https://www.cnbc.com/2026/09/15/open-ai-google-anthropic-safety.html
  • Reuters, “Anthropic seeks to raise funds at valuation of $2 trillion or more” (2026-09): https://www.reuters.com/technology/anthropic-fundraising-2026/