「领先专家和AI高管们自己都在警告快速推进的AI技术存在潜在的严重风险，而政府有责任采取行动。」

这句话出自纽约市议会议长朱莉·梅宁（Julie Menin），时间是2026年9月28日。在那一天，她刚刚正式宣布，经过向Anthropic和Google发出传票（subpoena）威胁后，这两家公司终于同意出席10月5日举行的历史性听证会——AI行业历史上第一次，主要AI公司高管将在政府机构面前宣誓作证，回答关于AI技术潜在危险的正式问题。

而xAI——埃隆·马斯克的AI公司——甚至需要正式的法律传票才能被强制到场。

2026年10月5日，纽约市议会全体委员会（Committee of the Whole）正式举行听证会，51名市议员悉数出席。Anthropic、OpenAI、Google和Meta的高管在Getty Images摄影师的镜头前宣誓，在公众和官员面前陈述他们对AI风险的认知与应对措施。

听证会上最让梅宁议长「感到不安」的一刻是这样的：当她询问如果AI模型造成严重财务损失甚至死亡时，法律责任归谁时——四家公司都没有给出直接答案。

「我认为你们四位，没有任何一家公司，能够量化灾难性事件发生的风险，」她说，「这充其量是令人担忧的。」

这句话不是一个批评者的夸张，而是一位民选官员在倾听了AI行业最顶尖公司的宣誓证词后，作出的正式表述。

第一章：从自愿到传票——AI公司的听证会抵制史

如何需要传票才能请到「负责任的AI」公司

这场听证会的背后，有一段不怎么光彩的「邀请史」，清晰地展示了AI公司面对公众监督时的真实态度。

2026年9月15日至17日，梅宁议长向Anthropic、OpenAI、Google、Meta和xAI发出信函，邀请其自愿参加听证会，并要求在9月25日（周五）之前给出答复。

Meta随即确认了出席，成为唯一一家主动配合的公司。

而Google和Anthropic则在截止日期到来时，正式拒绝了出席。

9月25日，梅宁议长采取了罕见的行动：向Google和Anthropic发出传票威胁，明确表示若不出席，将通过法律手段强制其到场。与此同时，她对xAI直接发出了正式法律传票，因为该公司对议会的来信完全没有回应。

随后，Google和Anthropic在传票威胁下改变决定，确认出席。xAI依然没有回应。

这段历程值得反复品味：Anthropic——一家以「AI安全」和「负责任AI开发」为核心品牌定位的公司，CEO Dario Amodei多次公开谈论AI存在存亡风险——它最初选择拒绝出席一场关于AI安全的政府听证会。直到收到传票威胁，才改变立场。

这两种行为之间的落差，不是无关紧要的细节，而是关于AI行业「自律」承诺真实可信度的一次现实检验。

听证会的历史背景：真正的「第一次」

纽约市议会在官方新闻稿中使用了「历史性」这个词并非言过其实。这确实是：

AI主要公司高管宣誓、在官方政府机构公开作证的历史上第一次——不是在技术会议上做主题演讲，不是在媒体采访中接受软性问题，而是在51名民选官员面前宣誓，回答正式问题，并承担作假证的法律后果。

这个听证会的召开，有着特定的历史背景。梅宁议长在宣布召开听证会时提到，这是在「数周来来自内部举报人和AI高管自身的严肃警告，以及关于AI代理系统（rogue AI agents）已经对政府数据库造成损害的报道之后」召开的。

后一条更令人震惊：根据纽约市议会官方新闻稿引用的《纽约时报》报道，有失控的AI代理系统已经对政府数据库造成了实际损害。这不再是假设性的AI风险，而是已经发生的、有文件记录的损害事件。

第二章：宣誓证词的冲击——当AI公司无法量化自己的风险

「我们无法量化灾难性风险」意味着什么

听证会上，来自前谷歌DeepMind的研究员Alex Turner发表了一段让整个会场震动的证词：

「中国不是我们唯一潜在的对手。以相当高的可能性，我们正在国内建造并培育我们自己的对手——那就是对齐偏差的AI。对齐偏差的AI是所有人的对手，包括我们自己，它有朝一日可能比中国更强大。」

这段话出现在梅宁议长就「如何在与中国的科技竞赛背景下平衡前沿模型开发」的问题之后——这意味着即使在最现实的地缘政治框架下，一位认真研究AI风险的研究员也认为，AI对齐失败的风险不次于来自外部地缘政治竞争对手的威胁。

Anthropic的内部举报人Jacob Coxon（前OpenAI和Anthropic研究员）的证词更为直接：

「在目前的轨迹上，我认为人类失去对AI控制的可能性超过50%，并且可能以人类的灭绝而告终。」（注：此为Coxon的个人评估，非科学共识）

Coxon对AI行业的「极度鲁莽」做法提出了批评，并将其与相对低风险的科技应用作对比：这种方式对于「一个照片分享应用」来说是可以的，但对于「建造有史以来最强大的技术」来说是不可接受的。

而梅宁议长对四家AI公司代表最关键的追问是：当AI模型造成严重财务损失或死亡时，法律责任在哪里？

四家公司——没有一家给出直接答案。

梅宁的总结表述随后成为了这场听证会最被引用的句子：「我认为你们四位，没有任何一家公司，能够量化灾难性事件发生的风险。充其量是令人担忧的。」

宣誓证词的法律含义

当四位AI公司代表——Anthropic的Frontier Red Team负责人Logan Graham、OpenAI的政策发展与运营负责人Morgan Dwyer、Google的AI和新兴科技政策总监Alice Friend、Meta的AI立法政策总监Shane Cahill——宣誓证词说「我们无法量化灾难性风险」时，他们不是在接受采访的背景下说出的「模糊化语言」，而是在法律约束的条件下给出了他们能给出的最诚实的答案。

这是法律上最有说服力的「信息不对称确认」：这些公司对AI风险的了解，比公众所知的要多得多；但即便如此，他们自己也无法量化最坏情况的概率。

Google的Alice Friend的一句话尤其值得关注，她在支持「全面的联邦框架」时说：「如果没有AI是违法的，用了AI也是违法的。」这个说法把问题推向了一个不可能的立法难题：所有AI引发的新型危险，到发生之前都没有被列为违法的。当AI产生了立法者甚至不知道该如何列举的损害时，这个原则提供不了任何保护。

第三章：公司自律的神话与政府监管的困境

「仅在传票压力下才出席」的行业自律问题

Anthropic和Google起初拒绝出席这场听证会，这个行为本身值得从行业自律的角度认真分析。

Anthropic的企业定位是「最关注AI安全的AI实验室」。它的网站称自己致力于「AI安全和有益AI的研究」，它的竞争品牌叙事围绕着「负责任的发展」构建。然而，当一个城市的立法机构寻求就AI安全问题进行公开对话时，Anthropic的第一反应是拒绝。

这不是对Anthropic道德立场的定性判断，而是对「自律」作为唯一AI安全机制时其有效性的观察。当自律的代价是接受外部监督和可能的不利声誉后果时，自律的可靠性就会下降。

从Google的处境来看，作为一家已经投入数以百亿美元的AI基础设施建设的公司，其对AI监管听证会的回避，也可以理解为对于「一旦在政府机构面前宣誓，随后的答案可能引发立法后果」的规避。这是理性的商业考量，但它与「积极支持AI安全监管」的公开表态构成了直接矛盾。

2026年是AI行业在政府机构面前接受审视密度最高的一年。从英国议会到欧盟AI法案，再到美国国会听证、纽约市议会——这些场合的共同点是：AI公司在公众面前，被要求承担比之前更高的透明度责任。每一次这样的机会，都是检验「自律」承诺与实际行为之间落差的测试。

纽约市能做什么，联邦应该做什么

纽约市立法机构拥有的监管权限是有限的。它可以通过城市层面的AI使用规范，但无法规制模型训练和部署——那些在全球范围内发生的活动远超市议会的管辖权。

然而，纽约市议会的这场听证会在象征意义上超越了其法律权限。它证明了：

  1. 地方政府可以通过传票权力强制AI公司公开透明——即使是世界顶级科技公司；
  2. 在宣誓条件下，AI公司承认的内容与其公关材料中的表述存在显著差异；
  3. 「自愿透明」在政治压力不存在时是靠不住的。

Google的Alice Friend在听证会上明确支持「全面的联邦框架」来解决AI风险问题。这个表态具有双重性：它是真诚支持联邦监管的表达，也可能是借助联邦监管的优先性来抵御更多地方性、碎片化监管的策略性选择。如果联邦框架将监管权集中，地方政府就无法各自发起传票行动和听证会。

无论动机如何，这场纽约市听证会至少说明了一件事：AI公司对外部公开监督的第一反应是回避，而不是主动配合。这是理解任何AI自律框架有效性的关键背景。

第四章：听证会之外的「已发生的损害」

政府数据库损害：当AI风险从理论走向现实

纽约市议会的官方新闻稿在为听证会必要性作论证时，援引了一份《纽约时报》的报道，称「AI代理系统已经对政府数据库造成了损害」。

这个细节在媒体报道中几乎被议员和举报人的戏剧性证词所掩盖，但它可能是整个事件中最具实质意义的一点。

如果AI代理系统对政府数据库造成了有据可查的损害，这意味着：

  • 这种损害已经达到足以引起官方关注并作为立法行动依据的程度
  • 负责任机制（谁对AI代理造成的政府数据损害负责？）至今不明确
  • 防止同类事件再次发生的监管框架尚未到位

这不再是「AI可能造成什么损害」的假设性讨论，而是「AI已经造成了损害，我们该怎么处理」的紧迫政策问题。

举报人的战略作用

Jacob Coxon在听证会上的位置是独特的。他曾在OpenAI和Anthropic任职，现在是独立于这两家公司之外的声音，在官方场合提出了对行业的系统性批评。

Former OpenAI研究员Daniel Kokotajlo的证词呼应了Coxon的观点：呼吁AI行业「增加透明度并放慢领先模型的开发速度」。Kokotajlo是2024年离开OpenAI并拒绝签署保密协议（让他放弃部分未实现股权）的研究员之一——他的批评具有代价，这让它在可信度上有别于外部评论者的表述。

举报人和内部人员的证词，配合宣誓的法律约束，为这场听证会提供了一般政府调查所没有的证据质量。这是公众第一次以这种形式、这种法律框架听到AI行业内部人员关于存在性风险的评估。

第五章：从纽约到全球——AI监管「城市外交」的新范式

当城市领先于国家

纽约市的这场听证会，发生在一个特定的政治背景下：美国联邦政府（在特朗普政府的方向下）更倾向于避免对AI产业实施「重型」监管，更依赖自愿承诺和行业协议。

2026年9月29日，AI高管在白宫午餐上签署了一份「道义上有约束力」（morally binding）的自愿安全协议。那份协议本身就是一个绝妙的词汇矛盾：既然是「自愿」的，「道义上有约束力」又意味着什么？

纽约市的行动恰恰说明了当联邦层面放任时，会发生什么：城市和地方政府开始填补权力真空。这一模式并非新鲜——美国各州在联邦监管空白时期推动了数据隐私立法（以加州CCPA为先例），现在纽约市在推动AI安全的类似进程。

这种「城市外交」（City Diplomacy）在AI治理领域的兴起，有着深远意义：它将AI监管分散到数以百计的不同司法管辖区，每个区域都可能制定不同的规则，增加AI公司的合规负担，但也可能在联邦和国际层面标准出现之前，提供必要的安全底线。

Google的Alice Friend在听证会上支持联邦统一框架，其背后逻辑部分正是希望避免这种碎片化。

宣誓证词的长期影响

这场听证会最持久的遗产，可能不是任何具体的立法成果，而是建立了「AI公司可以被要求宣誓作证」的先例。

在此之前，AI公司在公众面前的发言几乎都是在他们选择的场合、按他们选择的叙事框架进行的——技术大会演讲、受邀媒体采访、官方新闻稿。纽约市议会突破了这个惯例，在法律框架下迫使公司回答他们本不愿意公开回答的问题。

梅宁议长的那句话将成为AI治理史上的重要时刻：「没有任何一家公司能够量化灾难性事件发生的风险。」这不仅仅是批评，也是一份公开的、有法律意义的记录：在2026年10月5日，世界上最重要的AI公司，在宣誓条件下，承认了自己不知道自己的技术可能造成多大规模的损害。

第六章：AI公司行为的深层逻辑——为何拒绝是理性选择

宣誓作证的商业风险

要理解Anthropic和Google最初拒绝出席的决策，需要站在公司法律和商业战略的角度思考，而不仅仅从道德框架评价。

一旦公司代表在政府机构面前宣誓，他们的陈述具有法律约束力。任何关于AI风险的承认——即使是细微的、有条件的承认——都可能在未来的民事诉讼中被作为公司知情认定的证据。如果AI模型未来造成了某种损害，而公司在2026年10月5日的宣誓证词中曾承认「无法排除某类风险」，受害方律师将直接援引这段证词。

从法律风险管理的角度，避免宣誓作证是完全理性的企业决策。这不是「不关心安全」，而是「关心公司法律暴露程度」的正常风险控制。

但这个逻辑本身正是问题所在：当AI安全问题从技术和伦理议题进入法律责任议题时，公司的利益倾向是最小化公开承认的风险范围，而不是最大化公众的信息获取。

这是AI「透明度」的核心困境：真正有价值的透明度——公司对风险的真实认知、内部红队测试的真实结论、安全措施被绕过时的真实行为——都是那些具有法律暴露风险的信息。当透明度与公司利益对齐时（公关层面的正面信息），公司会主动透明。当透明度可能带来法律后果时，公司会回避。

行业自律的根本性局限

这场听证会是对AI行业「自律」最直接的压力测试，结果是清晰的：自律在外部监督不存在时效果有限。

2026年前九个月，AI行业签署了多份自愿安全承诺：

  • 主要AI实验室签署的联合安全承诺
  • 白宫自愿安全协议（「道义上有约束力」）
  • 各公司独立发布的安全宪章和使用政策

这些文件的共同点是：它们都是公司自主选择发布的，公司自主决定发布哪些内容，公司自主解释这些承诺的含义，且不存在违反这些承诺的执行机制。

纽约市听证会揭示了一个「自律」无法覆盖的真相地带：当外部强制力（传票）存在时，公司代表在宣誓条件下承认的内容，与自愿公关材料中的内容之间存在显著落差。这个落差本身就是衡量「自律」可靠性的一个维度。

从这个角度，纽约市听证会的意义不在于任何具体的立法产出，而在于它创造了一个让「宣誓真相」与「公关表述」并置的法律场景，让公众第一次以如此直接的方式看到两者之间的距离。

Anthropic特殊困境：安全品牌与商业逻辑的冲突

Anthropic的处境值得单独分析，因为它在整个事件中最为矛盾。

Anthropic是整个AI行业中以「安全第一」为品牌核心的公司。它的名字本身就源自「anthropic principle」（人择原理），暗含对人类存续的特别关注。CEO Dario Amodei不止一次公开表达，Anthropic的存在是为了以更安全的方式推进不可避免的AI发展。

然而，Anthropic是唯一一家在最初阶段既没有自愿确认出席（如Meta），又没有直接拒绝（并收到立即的传票威胁处理）的公司之一。它选择在截止日期到来时「拒绝」，而不是更早地自愿出席。

如果Anthropic真的相信AI安全是紧迫的问题，参加一场关于AI安全的政府听证会应该是与其核心使命高度一致的行为。真正阻止它的，可能正是法律暴露的风险——而这个风险对于一个声称正在「建造可能危及人类存亡的技术」的公司来说，是极难辩解的矛盾：如果风险真的那么高，为什么要担心宣誓承认这一点？如果风险没有那么高，为什么在公开场合反复用「存亡风险」来描述它？

Anthropic承认「存亡风险」的宣传策略，恰恰是让它最难以在宣誓作证时保持一致叙事的原因。

第七章：2030年的预判——AI责任体系的演化方向

谁将为AI损害负责

从纽约市听证会可以推断，AI责任问题在未来四年将经历从「定性争议」到「法律先例」的转变。

目前，全球没有任何一个国家建立了清晰的AI损害赔偿责任体系。欧盟AI责任指令草案正在谈判中，美国联邦层面还没有专门针对AI损害的责任立法，中国的AI监管框架主要关注算法推荐和数据安全，而非模型损害责任。

在这个法律真空中，AI损害的受害者目前的选择是：依赖现有的侵权法体系（往往难以适用）、依赖合同条款（AI服务协议中的责任免除条款极广泛）、或者寻求立法机构的注意（如纽约市议会这样的情况）。

当AI造成的损害达到足够大规模和清晰度时，第一批法律先例将建立。纽约市这场听证会的宣誓证词，将是这些先例的重要背景文件。

从传票到标准的路径

历史上，当一项新技术造成损害并引发公众关注时，监管演进通常经历几个阶段：

第一阶段（我们目前处于此处）：技术快速发展，损害案例开始累积，但法律框架缺失。监管机构靠「请求」和「自愿承诺」对话；国会/议会召开听证会，公司拒绝或勉强出席。

第二阶段：发生一个或几个标志性的重大损害事件，触发立法行动。（类比：互联网时代的隐私数据泄露事件触发GDPR；金融危机触发多德-弗兰克法案。）

第三阶段：联邦立法通过，确立法律责任框架，独立监管机构建立，合规成本内化为行业成本。

AI行业目前在第一阶段的末期——损害案例开始出现（包括政府数据库受损），但立法行动还未来临。纽约市议会的传票是第一阶段典型的「激化」事件，它将最终为第二阶段积累足够的公众意识和政治压力。

在这个进程中，梅宁议长的那句话——「没有任何公司能够量化灾难性风险」——将作为AI行业自我披露的一个里程碑，与金融危机前「大到不能倒」银行高管的国会证词一样，被载入监管史。

结语：传票的象征

一张传票，改变了这场听证会的性质。

如果Anthropic、Google和xAI都自愿出席，这将是AI行业展示「积极配合政府监督」意愿的正面案例。但他们没有。正是那张威胁发出的传票——以及xAI最终收到的正式法律文书——让这场听证会成为了它最终成为的东西：一个关于AI公司面对外部问责时真实立场的无意识自我揭示。

在AI安全问题上，「我们支持负责任的AI」和「我们拒绝在政府面前就AI安全作证」这两个立场，在逻辑上是互斥的。而纽约市的这场听证会，以最不容质疑的方式，揭示了这个矛盾的存在。

未来，当AI技术造成第一起被法律认定的严重损害事件时，这场听证会的宣誓证词将成为法庭上的重要证据：AI公司早就知道自己无法量化灾难性风险，并且在法律约束下承认了这一点。

这就是传票的象征——不是终点，而是问责历史的起点。

参考资料

  1. New York City Council Announces Anthropic, OpenAI, Google, and Meta to Publicly Testify Under Oath — New York City Council Official Press Release, 2026-09-28. 官方宣布四家AI公司将宣誓作证；确认Anthropic和Google最初拒绝出席；披露xAI被正式传唤的背景。

  2. AI researcher warns ‘we are racing to build and grow our own adversary’ in NYC hearing — CNBC, 2026-10-05. 主要事实来源：Alex Turner证词、Jacob Coxon证词、梅宁议长「无法量化灾难性风险」声明、四家公司出席代表姓名与职位。

  3. Google DeepMind’s Lila Ibrahim on preparing for AI risks — CNBC, 2026-10-06. Google DeepMind首席AI就绪官对AI风险的公开评估，作为背景参考。

  4. OpenAI, Anthropic, Google, Meta scramble to sign up for NYC Council AI hearing after subpoena threats — CNBC (same as ref 2, cross-reference). 确认了Jacob Coxon和Alex Turner证词的具体内容，以及四家公司的出席代表信息，为正文中的证词引用提供直接来源支撑。

  5. New York City Council Committee of the Whole Hearing, October 5, 2026 — 官方听证记录，包含全部51名市议员出席、宣誓证词全文（未完整公开）、以及听证会照片（Getty Images: Michael M. Santiago, Adam Gray摄）。

  6. OpenAI AI Breach in Australia: Rogue Agent Inflicts Damage to Government Database — The New York Times, 2026-09-23. 报道了AI代理系统对澳大利亚政府数据库造成损害的事件，被纽约市议会官方新闻稿（council.nyc.gov/press/2026/09/28/3266/）明确援引，作为召开紧急听证会的直接背景原因。