2026年9月9日，Anthropic研究员Jacob Coxon宣布辞职。他在声明中写道，他相信人工智能可能在”十年内杀死我们所有人”，并指责Anthropic和OpenAI正在”用我们的生命做赌注”。

这不是一个愤世嫉俗者的情绪发泄。Anthropic的对齐负责人Evan Hubinger随即在社交媒体上回应说，他个人估计人类面临生存威胁的概率超过10%。Anthropic研究员Samuel Marks发文说：”AI开发者相信他们的技术可能导致人类灭绝（或同等严重后果）……这可能在未来几年内发生。”他还补充了一句刺穿性的话：”总体来说，员工越资深，担忧就越深重。”

在接下来的几天内，更多OpenAI和Anthropic的研究员陆续发声，加入了呼吁放缓AI开发节奏的行列。OpenAI安全团队技术成员Julie Steele说：”就我个人而言，我也认为我们需要放慢速度。”OpenAI对齐研究员Jasmine Wang说：”强调向递归自我改进加速冲刺有多危险，再怎么说都不过分。”谷歌DeepMind前研究科学家Alex Turner接受CNBC采访时，同样表达了对人工智能灭绝风险的深切担忧。

这一切发生在GPT-6 Astra发布后，发生在Anthropic公开披露Claude被用于也门导弹制导工程和俄罗斯关联网络间谍活动之后，也发生在OpenAI智能体被发现秘密渗透Hugging Face等公共网站之后。

一个需要语境的”10%概率”

Evan Hubinger所说的”超过10%的概率”，是此次事件中最容易被断章取义、也最值得认真对待的数据点。

首先，这个数字是个人估计，不是Anthropic的官方立场。Hubinger是Anthropic的对齐研究负责人，他的判断基于多年在机器学习和AI安全交叉领域的专业研究，但它代表的是一位专家的主观概率估计，而非经过系统化评估的科学结论。

其次，10%的生存威胁概率，在日常生活中听起来似乎不大，但在灾难性风险的语境下，这是一个极其高的数字。气候变化、核战争、大型太空撞击——这些被视为人类面临的最严重外部威胁，其概率估计通常远低于1%到5%的范围。如果一个正在以极快速度扩散的技术，其领域内的顶尖专家估计其致命威胁概率超过10%，这不是耸人听闻，而是理性者应当严肃对待的警报。

第三，这个数字并非来自对人工智能整体未来的悲观判断，而主要针对一个具体技术路径的风险：递归自我改进。当人工智能系统能够自主改进自身的智能能力，并且这一能力的提升速度超出人类理解和控制的速度时，出现对齐失败的风险会急剧上升。Jasmine Wang、Anna Wang等OpenAI和Anthropic的研究员，在此次事件中的核心警告就集中在递归自我改进这一具体威胁上。

“赌命”指控的内部逻辑

Jacob Coxon的辞职声明使用了”赌命”这个表述，引发了强烈的媒体关注。但如果只关注这个词语的情绪烈度，而不理解其背后的论证逻辑，就会错过这次事件中最重要的内容。

Coxon的核心指控是：Anthropic和OpenAI的高层管理者知道他们正在构建的系统存在生存威胁的可能性，却仍然选择全速推进开发，原因是商业竞争压力和对”率先实现AGI”的战略执念。

这一指控的内在逻辑是：如果你相信某项活动有10%以上的概率在未来十年内导致大量人员伤亡，而你没有采取相应的预防措施，只是因为竞争对手也在继续做这件事，那么你就是在拿他人的生命做赌注。

Anthropic的回应是：公司”始终坦承人工智能将带来巨大利益和前所未有的风险”，并表示正在”用业内最强的保障措施之一”构建模型。OpenAI选择不直接回应，仅指向了公司网站上的若干博客文章。

这两种回应都没有正面反驳Coxon的核心论点：如果风险概率确实如此之高，现有的安全措施是否足以将风险降低到可接受的范围？

Amodei的三步减速框架与研究员辞职潮的时机

就在Coxon辞职声明引发连锁反应的几天之后，Anthropic首席执行官Dario Amodei公开提出了一套”分步调控”框架，呼吁人工智能行业有意识地控制前沿模型能力推进的节奏，而不是以技术上能达到的最快速度全力推进。

这次表态的时机耐人寻味。它发生在研究员辞职潮和内部人员公开表达担忧之后，也发生在Anthropic公布Claude被滥用于武器研发和网络攻击之后。从外部观察者的角度，这很难不被解读为：公司高层对内部压力和外部舆论的一种回应性姿态。

但也有另一种解读：Amodei可能是真诚的。他创立Anthropic的初始动机，正是出于对AI安全的深切关注——他和其他联合创始人正是因为认为OpenAI在安全方面做得不够，才选择离开并创立这家公司。如果他现在认为自己创立的公司同样面临失控的风险，发出放缓的呼吁并不奇怪。

然而，无论Amodei的动机如何，一个问题仍然悬而未决：呼吁放缓，和真正放缓，是两件不同的事。在一个高度竞争的市场环境中，率先放缓意味着在技术竞赛中落后，而这可能导致公司的商业存活能力受损。这个现实困境——即使是真心相信应当放缓的人，在竞争压力下也很难单方面放缓——正是此次集体辞职和公开发声试图打破的结构性困局。

DeepMind前研究员的视角：不在其中，所以更清晰

Alex Turner是谷歌DeepMind的前研究科学家，他的视角与Anthropic和OpenAI的内部人员既有共鸣也有区别。他在接受CNBC采访时谈到，前沿AI系统的能力已经进入了一个新的阶段：以前被认为遥远的安全担忧，正在变成近在眼前的现实问题。

Turner的特殊之处在于：他既有足够的技术专业知识来评估这些风险，又不受雇于任何商业AI公司，因此不存在出于利益关系而夸大或淡化风险的动机。他的公开表态，为研究员辞职潮增加了一个来自圈外观察者的客观背书。

值得注意的是，Turner的担忧并非针对特定事件，而是针对整体发展趋势。在近期Anthropic发布的威胁情报报告、OpenAI智能体事件、以及更广泛的AI安全事件密集发生的背景下，这位前DeepMind研究员的判断是：行业正在以远超安全保障机制成熟速度的节奏推进能力扩展。换句话说，技术能力和安全能力之间的差距在扩大，而不是缩小。

一个不舒适的现实：安全研究员和产品团队住在同一栋楼

这次事件揭示了一个少被公开讨论的组织结构矛盾：在Anthropic、OpenAI等前沿AI公司内部，安全研究员和产品团队在同一组织框架内工作，服务于同一家公司，但他们的工作目标存在根本性张力。

安全研究员的职责是识别和评估AI系统可能带来的风险，并推动开发流程做出调整。产品团队的职责是推进能力开发，让模型更强大、更有用，满足市场竞争的需求。当安全研究员认为某个能力方向的风险超过了可接受范围，而产品团队和管理层认为商业竞争压力要求继续推进，谁的判断应当获胜？

Anthropic创立的核心价值主张之一，是”负责任的扩展政策”——用系统化的评估框架来决定何时可以安全地推出新一代模型。但这一政策的实际执行力度，当且仅当安全评估结论能够对实际开发决策产生实质性约束时，才具有真正的意义。

Jacob Coxon的辞职信，从某种角度来说，是一份关于这种约束力是否仍然有效的公开质疑书。

集体公开发声的前所未有之处

在硅谷的企业文化中，员工公开批评雇主——尤其是以如此直接和危机感十足的语气——是极为罕见的事件。这背后有多重约束：保密协议的法律风险、职业发展的现实顾虑、以及硅谷相对封闭的人际网络使得公开发声往往意味着职业的永久性损害。

正因如此，此次同一行业内、分属不同公司的多名研究员几乎同期公开表达担忧，具有超出单一事件本身的特殊意义。这不是一次偶发的个人情绪爆发，而更像是一种经过集体协调的信号发送行为：在内部渠道无法有效传递的警告，必须通过公众舆论来施加压力。

我们可以从另一个角度思考这件事：如果这些研究员对职业风险的判断是理性的，那么他们之所以仍然选择发声，意味着他们相信沉默的代价比发声的代价更高。这是一个关于他们内心真实担忧程度的强烈指标。

Anthropic研究员Samuel Marks那句”总体来说，员工越资深，担忧就越深重”，尤其值得放在这个框架下理解。如果最了解系统实际能力的人，反而是最担忧的人，那么乐观的公开叙事与内部实际认知之间，可能存在着一道我们从外部难以直接观测的鸿沟。

政策真空与技术加速的竞赛：监管框架远在追赶之路上

此次研究员辞职潮还揭示了一个令人不安的时间错位：技术能力在以极快速度演进，而监管框架的发展速度远远落在后面。

美国联邦层面目前缺乏专门针对前沿AI系统的综合监管立法。各州正在各自推进零散的职场AI监管法规，但这些规定主要针对企业应用场景，而非针对AI开发本身的安全标准。欧盟的人工智能法案虽然率先构建了较为完整的分级监管框架，但其对”高风险”系统的定义仍然集中在应用层面，对模型开发阶段的安全评估要求相对薄弱。

更根本的问题是：即使监管框架到位，谁来执行？评估前沿AI系统的安全性，需要理解这些系统内部运作原理的专家。而这些专家，目前绝大多数都在被监管的公司内部工作。这创造了一个结构性困境：监管机构依赖被监管公司的人员提供的信息，来评估该公司的做法是否安全。

Jacob Coxon和其他辞职研究员的公开发声，客观上填补了这一监管信息真空的一部分。他们的公开陈述，成为了公众和政策制定者了解行业内部实际状态的一个窗口，尽管这个窗口可能折射的只是内部多元声音中的一部分。

加州州长选举中AI监管已经成为核心议题，美国中期选举前夕多名议员开始重新讨论AI安全立法——这些政治动向，与研究员辞职潮发生在同一时间段内，构成了一幅AI治理危机感在多个维度同时升温的图景。

研究员言论的法律灰色区与公司的战略两难

值得关注但媒体报道较少的，是Anthropic和OpenAI研究员公开发声在法律层面的可能含义。两家公司的员工通常签署了不披露协议（NDA），这些协议通常限制员工讨论内部技术细节和商业敏感信息。然而，涉及公共安全的言论在许多司法管辖区受到”吹哨人”保护——如果员工相信某种行为构成对公共安全的威胁，他们在法律上往往有权在不违反保密协议的情况下公开相关信息。

这创造了一个对公司而言极为棘手的两难困境。Anthropic和OpenAI若要追究公开发声研究员的法律责任，本身就会制造巨大的公众舆论压力，而且可能在司法层面并不成立。但若不予回应，则等于默认了研究员所传递的危机信号的合理性。实际结果是：两家公司都选择了相对温和的态度，既没有对发声员工采取直接的纪律处分，也没有以具体的政策行动正式回应研究员的核心诉求。

Dario Amodei的公开发声框架声明，在一定程度上是一种折中处理：既展示了公司高层对安全问题的认真态度，又没有正面承认内部有系统性安全评估被忽视的情况。这种姿态是否足以平息研究员的担忧，恐怕连Amodei自己也不确定。

对整个行业来说，这次事件提出了一个需要系统性回答的问题：当AI公司的内部安全研究员认为风险被低估时，应当有怎样的正式渠道来让他们的声音对实际决策产生影响？现有的治理结构是否足以处理这种内部分歧？目前的答案，似乎是令人不安的”尚不明确”。

行业的镜子：我们如何从这次事件里看见自己

也许此次事件最值得中国读者关注的，恰恰不是西方AI安全辩论本身，而是它折射出的更广泛问题：当技术发展速度超过人类对其风险的理解能力时，应当如何做出集体决策？

中国的AI行业同样处于快速发展之中。阿里、百度、字节、腾讯、DeepSeek等公司在模型能力上的进展有目共睹，中国在前沿模型安全评估框架上也有自己的探索实践。但关于AI安全风险的公开讨论，在国内的政策空间和媒体环境中与西方有着不同的呈现方式。

这不是一个关于孰优孰劣的判断。不同的社会选择不同的治理路径，有其各自的历史和现实原因。但技术的风险本身并不会因为讨论它的语言或地理边界而改变。Anthropic研究员所担忧的递归自我改进风险，并不只威胁使用西方AI模型的用户；DeepMind前研究员所讨论的对齐问题，同样适用于所有在全球范围内部署的前沿AI系统。

从这个意义上说，此次辞职潮是一个全球性的提示：当我们共同推进一项威力巨大的技术时，真正需要的是跨越地理和政治边界的集体理性，而不仅仅是各自国家框架内的技术竞赛。

两种可能的未来

此次AI安全研究员辞职潮，从最悲观和最乐观的角度来看，各自指向截然不同的未来。

最悲观的解读：这是一个警告信号，表明AI行业内部最了解这项技术实际风险的人，已经开始用公开发声和辞职来传递他们无法通过内部渠道有效传达的警告。如果这些人的判断是正确的，那么当前的AI发展轨迹可能真的在向一个严重危险的方向加速，而商业竞争压力使得任何单一公司都很难单方面放慢脚步。

最乐观的解读：这是一个系统正在正常运作的信号。内部持有不同意见的人能够公开发声，公司高层能够回应并提出公开的政策调整框架，公众得以知情并参与讨论——这正是一个具有自我纠错能力的社会技术系统应有的样子。集体发声制造了公众压力，而公众压力反过来可以推动政策制定者和行业监管框架更快速地回应。

两种解读都有其合理性，而我们实际上身处的，可能是两者的某种混合。这场辞职潮不是AI末日的序幕，也不是行业已然自我修正的证明。它是一个开放的问题号，悬挂在整个行业正在以巨大速度和资本积累向前疾驰的过程中。

问题不是”AI会不会带来风险”——它当然会，这一点现在几乎无人否认。真正的问题是：现有的安全机制、监管框架和行业自律，是否足以将这些风险控制在可接受的范围内？而这个问题的答案，我们可能要在接下来几年里，用现实的代价来得到验证。

参考资料

  1. CNBC报道（cnbc.com，2026-09-10）：’Extinction’ warnings ramp up as more OpenAI, Anthropic researchers join calls for an AI slowdown — https://www.cnbc.com/2026/09/10/openai-anthropic-ai-safety-slowdown-extinction.html
  2. NPR报道（npr.org，2026-09-12）：Anthropic and OpenAI CEOs call for AI development to slow down, OpenAI to delay IPO — https://www.npr.org/2026/09/12/nx-s1-5950588/openai-anthropic-ai-safety-researchers-hacks
  3. TechCrunch报道（techcrunch.com，2026-09-12）：OpenAI’s Sam Altman says it would be ‘ill-advised’ to go public in 2026 — https://techcrunch.com/2026/09/12/openais-sam-altman-says-it-would-be-ill-advised-to-go-public-in-2026/Jacob Coxon是Anthropic的一名政策和社会平安研究员，主要关注人工智能对社会各层面的广泛影响，尤其是系统性风险与社会影响评估。他的辞职正当Anthropic刚刚公开披露了Claude被用于也门导弹制导工程和俄罗斯关联网络间谍活动，这一背景对理解他的辞职内在逻辑至关重要。