第一章：110亿美元的信号——资本在押注什么？

2025年4月，SambaNova Systems宣布完成一轮超过10亿美元的融资，公司估值达到约110亿美元。据Bloomberg报道，本轮融资由沙特阿拉伯主权财富基金（Public Investment Fund）领投，参与方包括新加坡淡马锡（Temasek）和多家机构投资者（来源: Bloomberg, 2025-04-22）。这家成立于2017年、由斯坦福大学教授Kunle Olukotun和Chris Ré联合创办的AI芯片公司，在Nvidia统治的市场中走出了一条独特的路径。

这个数字本身并不罕见——在AI基础设施融资狂潮中，十位数估值几乎成了入场门槛。Anthropic在2024年累计融资超过73亿美元，估值达到180亿美元；xAI在2024年底完成60亿美元融资，估值400亿美元。真正值得解剖的，是SambaNova这笔钱背后的逻辑：投资人在押注什么，又在回避什么风险？

一个关键的缺失信息需要首先指出：截至本文写作时，SambaNova尚未公开披露其年度收入规模。作为未上市公司，其110亿美元估值的合理性无法通过传统的收入倍数（Revenue Multiple）进行验证。根据公开信息推断，考虑到同赛道Cerebras在IPO招股书中披露的年化收入约2.7亿美元对应约40亿美元目标估值（约15x收入倍数），SambaNova的110亿美元估值隐含的假设是其收入规模已达到或即将达到数亿美元量级，或者市场给予了更高的增长溢价。这一推断尚待未来的财务披露验证。

要理解SambaNova的估值逻辑，必须先理解AI算力市场正在发生的结构性分裂。

Nvidia的H100和H200 GPU在训练大模型时几乎无可替代，这一点业界已有共识。但推理市场——也就是把训练好的模型部署出去、响应用户请求的那个环节——正在呈现出截然不同的需求曲线。训练是一次性的、可以容忍延迟的批量计算；推理是持续的、对延迟极度敏感的实时服务。这两种需求对芯片架构的要求，在某些维度上几乎是对立的。

资本押注SambaNova，本质上是在押注这个分裂会持续扩大，而不是被Nvidia的软件生态抹平。

从投资者结构来看，沙特PIF领投这一事实本身就是一个信号。中东主权财富基金在2024-2025年间大举布局AI基础设施——沙特的Project Transcendence计划投入1000亿美元建设AI基础设施（来源: Reuters, 2025-03-19），阿联酋的MGX基金参与了多笔AI芯片投资。这些主权资本押注SambaNova，不仅仅是在赌一家芯片公司的技术路线，更是在对冲Nvidia供应链的地缘风险和定价权风险——对于无法确保获得Nvidia最高端GPU稳定供应的国家而言，培育替代供应商是国家安全级别的战略需求。

第二章：从训练到推理——AI算力需求的结构性迁移

理解SambaNova的市场机会，必须先厘清一个经常被混淆的概念：训练和推理在算力需求上的根本差异。

训练的逻辑：批量、可容忍延迟、极度内存带宽敏感

大模型训练本质上是一个超大规模的矩阵乘法问题。以GPT-4级别的模型为例，训练过程需要数千块GPU并行运行数周乃至数月，核心瓶颈是显存容量、内存带宽和多卡互联带宽。根据Nvidia官方技术白皮书，H100 SXM5配备80GB HBM3显存，提供3.35TB/s内存带宽，NVLink 4.0提供900GB/s双向互联带宽（来源: Nvidia H100 Tensor Core GPU Architecture Whitepaper, 2022）。加上CUDA生态十五年积累的软件栈，这构成了一道几乎无法逾越的护城河。

训练任务的另一个特征是延迟不敏感。一次训练任务多跑2小时还是少跑2小时，对最终结果几乎没有影响。这意味着GPU可以被调度到极高的利用率，批处理效率是核心优化目标。

推理的逻辑：实时、延迟敏感、成本结构完全不同

推理场景的需求曲线与训练几乎是镜像关系。

延迟敏感性：当用户向ChatGPT提问时，他们期待的是毫秒到秒级的响应。对于语音交互、代码补全、实时翻译等场景，端到端延迟超过300毫秒就会显著影响用户体验。这要求推理芯片具备极低的首token延迟（Time to First Token, TTFT）和极高的token生成速率。

成本结构的根本差异：训练是一次性资本支出，可以被分摊到模型的整个生命周期。推理是持续性运营支出，每一次用户请求都在消耗算力和电力。据AWS首席技术官Werner Vogels在2024 re:Invent大会上的公开演讲，对于已进入大规模商业化的AI产品，推理成本通常占总AI算力支出的80%-90%（来源: AWS re:Invent 2024 Keynote, 2024-12-03）。这一比例随用户规模扩大而持续攀升。

批处理效率与实时性的张力：GPU在处理大批量推理请求时效率尚可，但在处理低并发、高频次的实时请求时，计算单元利用率会大幅下降。H100的峰值算力是989 TFLOPS（BF16 Tensor Core，来源: Nvidia官方规格表），但在实际推理部署中，由于内存访问模式、批处理大小限制等因素，实际利用率往往仅为峰值的30%-60%——根据MLCommons 2024年12月发布的MLPerf Inference v4.1基准测试结果，不同硬件在实际推理负载下的效率差异显著（来源: MLCommons, 2024-12-11）。这个效率损耗，恰恰是专用推理芯片的切入点。

推理需求的爆发式增长与杰文斯悖论的实证

AI应用从实验室走向大规模商业部署，带来的是推理需求的指数级增长。一个具体的实证：OpenAI在2024年8月将GPT-4o mini的API价格降低至GPT-4 Turbo的约1/30（输入token价格从$10/M降至$0.15/M），随后其CEO Sam Altman在2024年11月公开表示，OpenAI的周活跃用户从1亿增长至超过2.5亿，API调用量增长了数倍（来源: OpenAI Blog, 2024-11-06）。这是杰文斯悖论（Jevons Paradox）在AI推理领域的经典实证——成本下降不仅没有减少总算力消耗，反而通过需求弹性效应推高了总需求。

DeepSeek等中国团队通过算法优化（混合专家架构MoE、多头潜在注意力MLA、FP8混合精度训练）大幅降低了推理成本，但这同样在扩大推理需求的总盘子。DeepSeek-R1发布后，其开源模型在Hugging Face上的下载量在两周内突破100万次（来源: Hugging Face模型页面统计, 2025-02），大量原本因成本限制无法部署大模型的中小企业开始接入推理服务。

这个结构性趋势，是SambaNova等推理专用芯片公司最重要的宏观背景。据市场研究机构Precedence Research的预测，全球AI推理芯片市场规模将从2024年的约250亿美元增长至2030年的超过1500亿美元，复合年增长率约35%（来源: Precedence Research, 2024-09）。需要指出的是，市场规模预测本质上是基于当前趋势的外推，实际增速可能因技术突破、政策变化或经济周期而显著偏离预测值。

第三章：Nvidia的推理垄断并非铁板一块

Nvidia在AI芯片市场的统治地位毋庸置疑——据Mercury Research估算，Nvidia在2024年数据中心GPU市场的份额超过90%。但「统治」不等于「无懈可击」，尤其在推理这个细分场景，Nvidia的架构优势存在若干可被攻击的结构性弱点。

GPU通用架构的推理效率损耗

GPU的设计哲学是通用并行计算。数千个CUDA核心、庞大的寄存器文件、复杂的内存层次结构——这套架构在训练时能充分发挥效用，因为训练任务的计算模式高度规则，可以被完美地映射到GPU的并行执行单元上。

推理任务的计算模式则复杂得多。以Transformer架构的自回归生成为例（参见Vaswani et al., “Attention Is All You Need”, 2017），每生成一个token，模型需要访问所有之前token的KV Cache（键值缓存），这是一个典型的内存带宽瓶颈而非计算瓶颈的任务。H100的989 TFLOPS算力在这里大量闲置，真正的瓶颈是3.35TB/s的内存带宽——而专用推理芯片可以针对这个瓶颈进行极度优化，砍掉大量不必要的通用计算单元，把晶体管预算集中投入到内存带宽和数据移动效率上。

vLLM框架（Kwon et al., 2023）提出的PagedAttention技术正是为了解决这一问题——通过类似操作系统虚拟内存的方式管理KV Cache，将GPU显存利用率提升了2-4倍。但这本质上是软件层面的补丁，无法从根本上解决GPU架构在推理场景下的效率损耗。

CUDA护城河在推理场景的真实高度

Nvidia最强大的护城河不是硬件，而是CUDA。超过20年积累的软件生态、400万以上注册开发者（来源: Nvidia GTC 2024 Keynote, Jensen Huang演讲, 2024-03-18）、与PyTorch/TensorFlow等框架的深度绑定——这些让任何硬件替代方案都面临巨大的迁移摩擦。

但这道护城河在推理场景的高度，低于在训练场景。原因有三：

第一，推理部署的软件栈相对标准化。训练需要复杂的分布式并行策略（数据并行、模型并行、流水线并行），深度依赖CUDA的底层原语；推理的核心操作相对固定——矩阵乘法、注意力计算、激活函数——可以通过更高层的抽象接口（如ONNX Runtime、MLCommons的推理标准）进行移植。

第二，推理框架的多元化正在降低迁移成本。vLLM、TensorRT-LLM、Hugging Face TGI（Text Generation Inference）等推理框架正在提供更高层的抽象，使得底层硬件的切换变得相对可行。

第三，企业客户对供应商锁定的容忍度正在下降。H100在2023年的二级市场溢价一度高达官方售价的2-3倍（来源: SemiAnalysis估算, 2023-08），这让大量企业客户产生了强烈的供应商分散化动机。

Nvidia自身的内部竞争抑制

值得注意的是，Nvidia面临一个内在矛盾：过度优化推理会蚕食其训练产品线的市场，而训练才是Nvidia当前最高利润率的业务。Nvidia 2025财年Q3（截至2024年10月）数据中心收入达到308亿美元，同比增长112%（来源: Nvidia Q3 FY2025 Earnings, 2024-11-20），其中训练GPU贡献了绝大部分收入。这种内部竞争抑制（Innovator’s Dilemma的经典表现）使得Nvidia在推理专用化上的投入存在天花板，为专注推理的独立芯片公司留下了空间。

对此论点的风险标注：上述”创新者窘境”分析是基于历史模式的推断，而非已证实的事实。Nvidia有可能通过组织架构调整（如设立独立的推理产品线）来克服这一内在矛盾。实际上，Nvidia在Blackwell架构中已明确将推理优化作为核心卖点之一，这表明其管理层对推理市场的战略重视程度可能高于”创新者窘境”模型所预测的。

第四章：第二梯队的竞争图谱——SambaNova的定位与差异化

SambaNova：可重构数据流架构（RDA）

SambaNova的核心技术是其可重构数据流架构（Reconfigurable Dataflow Architecture, RDA），由斯坦福大学Kunle Olukotun教授的研究团队开发。这与传统GPU的控制流架构形成根本对比。

在传统GPU中，计算是由程序指令驱动的：CPU发出指令，GPU的调度器决定哪些计算单元执行什么操作。SambaNova的RDA将计算图直接映射到硬件拓扑上：数据在芯片内部按照预定义的数据流路径流动，无需运行时调度，计算单元的激活完全由数据的到达触发。

其核心产品SN40L芯片，据SambaNova官方技术博客（2024年3月发布），集成了超过1000亿个晶体管，配备大容量片上SRAM，支持在单芯片上运行完整的大语言模型而无需外部HBM（来源: SambaNova Blog, “SN40L: Full-Stack AI Platform”, 2024-03-12）。SambaNova声称其在Llama 2 70B模型推理上实现了超过100 tokens/second的生成速率，tokens-per-dollar指标显著优于同级别GPU方案。重要声明：上述性能数据来自SambaNova官方宣传材料，截至本文写作时尚未有独立第三方机构（如MLCommons以外的测试实验室）对这一具体数字进行公开验证。读者应将其视为厂商声称值而非经独立验证的事实。

SambaNova的另一个差异化策略是企业级全栈部署。2025年1月，SambaNova推出了SambaNova Suite企业平台，提供包括硬件、软件栈、预训练模型库（支持Llama 3.1、Mistral等主流开源模型）和企业级安全合规工具在内的完整解决方案（来源: SambaNova官方新闻稿, 2025-01-15）。

Groq：LPU与确定性延迟

Groq的技术路线与SambaNova截然不同。其核心产品LPU（Language Processing Unit）的设计哲学是确定性延迟：通过完全静态的编译时调度，消除运行时的任何不确定性。

Groq在2024年2月公开演示中展示了其LPU在Llama 2 70B模型上达到约300 tokens/second的生成速率（来源: Groq官方演示, 2024-02-20），在单请求低延迟场景下表现突出。2024年8月，Groq宣布完成6.4亿美元融资，估值约28亿美元（来源: TechCrunch, 2024-08-05）。

但Groq的局限在于其架构的灵活性不足和成本结构。高度静态化的编译时调度意味着对新模型架构的适配需要重新编译。此外，Groq目前主要通过云API服务（GroqCloud）提供算力，尚未大规模进入企业本地部署市场——这是SambaNova的主战场。

Cerebras：晶圆级芯片的极端路线

Cerebras的WSE-3（Wafer Scale Engine 3）是世界上最大的芯片，整块晶圆即为单一芯片，集成约4万亿个晶体管和90万个AI优化核心，配备44GB片上SRAM（来源: Cerebras官方技术规格页, 2024-03）。

Cerebras于2024年9月向SEC提交了IPO招股书（S-1文件），披露其2024年上半年收入为1.36亿美元，但净亏损达6600万美元（来源: Cerebras S-1 Filing, SEC EDGAR, 2024-09-30）。其最大客户G42（阿联酋AI公司）贡献了超过80%的收入，客户集中度风险显著。截至2025年中，其IPO进程因美国政府对G42关系的审查而延迟。

Intel Habana Gaudi：巨头的推理布局

Intel通过2019年收购Habana Labs（20亿美元）获得的Gaudi系列芯片也是重要竞争者。Gaudi 3于2024年发布，配备128GB HBM2e，BF16算力达1835 TFLOPS（来源: Intel官方产品页, 2024-04）。但Intel在2024年Q3财报中承认Gaudi系列收入”低于预期”（来源: Intel Q3 2024 Earnings Call, 2024-10-31），其软件生态（Intel Gaudi Software Suite）与CUDA的成熟度差距仍是主要障碍。

横向对比：谁在争夺哪块市场？

维度 SambaNova Groq Cerebras Intel Gaudi
架构路线 可重构数据流 静态LPU 晶圆级集成 传统加速器+高带宽互联
最新估值/市值 ~110亿美元 ~28亿美元 待IPO（目标~40亿） Intel子业务
核心优势 企业全栈、高吞吐 极低延迟、确定性 超大模型、片上带宽 生态整合、定价竞争力
主要部署模式 企业本地+云 云API为主 云+HPC 云+企业
关键客户类型 政府/金融/医疗 开发者/API消费者 HPC/超大模型研究 云服务商/企业
已披露收入规模 未公开 未公开 ~2.7亿美元（年化） “低于预期”（未单独披露）

这张对比表揭示了一个重要洞察：这四家公司并非在争夺同一块市场，而是在推理这个大赛道下各自占据不同的细分生态位。但也必须指出一个结构性风险：这种”差异化定位”的叙事，在Graphcore等失败案例中同样存在过——差异化定位不等于商业可行性，最终决定生存的是客户规模和收入增长能否跑赢资本消耗。

SambaNova的护城河构建逻辑

SambaNova最值得深入分析的竞争策略，是其企业级全栈部署的护城河构建逻辑。

Nvidia的商业模式是「卖铲子」：提供GPU硬件和CUDA软件栈，让客户自己搭建应用。但企业级推理部署的用户画像截然不同：政府机构、金融机构、医疗机构——这些客户有强烈的AI应用需求，但没有组建大规模AI基础设施工程团队的能力和意愿。

SambaNova的策略是成为这类客户的AI基础设施外包商。据其官方披露，SambaNova已与美国能源部阿贡国家实验室（Argonne National Laboratory）、劳伦斯利弗莫尔国家实验室（Lawrence Livermore National Laboratory）等机构建立合作关系（来源: SambaNova官方客户案例页, 2024）。这种政府和国家安全领域的客户基础，为其提供了稳定的收入来源和强大的信誉背书。

这个策略的风险在于：它要求SambaNova同时在硬件、软件、服务三个维度保持竞争力。硬件层面对抗Nvidia，软件层面对抗AWS/Azure/Google的托管推理服务，服务层面对抗各类AI咨询和集成商。这种多线作战的压力，是110亿美元估值背后最大的执行风险。

第五章：被忽视的深层矛盾——软件生态的「追赶陷阱」与历史教训

历史上「专用芯片挑战通用平台」的失败案例

大多数关于AI芯片第二梯队的分析，都聚焦于硬件架构的技术优劣。但历史提供了清醒的警示：

Google TPU的对外商业化困境：Google自2015年开始开发TPU（Tensor Processing Unit），目前已迭代至TPU v5p。TPU在Google内部被大规模使用（训练Gemini等模型），但其对外商业化仅限于Google Cloud Platform上的云服务，从未成功作为独立硬件产品进入企业市场。原因正是软件生态的封闭性——TPU依赖JAX/TensorFlow生态，与更广泛的PyTorch社区存在隔阂。

Graphcore的衰落：英国AI芯片公司Graphcore曾估值达28亿美元，其IPU（Intelligence Processing Unit）在架构上具有创新性，但因软件生态不成熟、客户迁移成本过高，最终在2024年7月以远低于估值的价格被软银收购（来源: Financial Times, 2024-07-11）。

Wave Computing的破产：数据流架构的先驱Wave Computing（与SambaNova技术路线相似）在2020年申请破产保护，核心原因是无法在商业化速度上跟上软件生态建设的需求。

这些案例的共同教训是：硬件架构的理论优势，如果不能转化为客户可感知的、低摩擦的部署体验，就毫无商业价值。SambaNova必须证明它能避免这些前辈的命运。

Wave Computing案例对SambaNova的特殊警示意义：Wave Computing同样采用数据流架构，同样声称在特定场景下性能优于GPU，同样获得了大额风险投资——但最终因商业化速度不及预期而破产。SambaNova与Wave Computing的关键区别在于：（1）SambaNova选择了全栈封装而非裸芯片销售模式；（2）SambaNova的资本储备更为充裕（累计融资超过20亿美元）；（3）SambaNova锁定了政府和主权基金客户。但这些区别是否足以改变最终结局，仍是一个开放问题。

SambaNova如何试图绕过这个陷阱

SambaNova的策略与上述失败案例有一个关键区别：它不试图让客户学习一套新的编程范式，而是通过全栈封装将硬件差异隐藏在服务层之下。客户看到的是一个API接口和一套管理界面，而不是一块需要自己编程的芯片。

这种模式的参照物不是Nvidia，而是Palantir——同样是向政府和大型企业提供全栈数据分析平台，客户不需要了解底层技术细节。Palantir在2024年的年收入已超过25亿美元，市值超过600亿美元（来源: Palantir Q4 2024 Earnings, 2025-02-03），证明了这种模式在企业市场的可行性。

但Palantir类比的局限性也需要明确：Palantir的底层技术（数据整合与分析软件）不面临硬件层面的摩尔定律竞争——没有一个”通用平台巨头”在以18个月为周期持续迭代硬件性能。SambaNova面临的竞争环境更为严峻：Nvidia每1-2年发布新一代架构，每次迭代都可能缩小专用芯片的性能优势窗口。因此，SambaNova的”Palantir式”全栈策略能否成功，最终取决于其硬件迭代速度能否跟上Nvidia的节奏——这是Palantir从未面对过的挑战。

MLCommons与开放标准的破局机会

MLCommons推动的MLPerf Inference基准测试提供了一套跨硬件平台的统一评估框架。在2024年12月发布的MLPerf Inference v4.1结果中，SambaNova首次提交了多个模型的推理基准测试结果，在特定场景下展示了与Nvidia H100相当或更优的性能（来源: MLCommons MLPerf Inference v4.1 Results, 2024-12-11）。这种标准化基准的参与，是建立市场信任的关键步骤。

需要注意的是，MLPerf基准测试允许参与者选择性提交结果（即只提交表现最好的场景），因此单一基准结果不能代表全场景性能。全面评估仍需关注后续版本中更广泛的场景覆盖。

第六章：地缘政治维度——美国出口管制的意外红利

出口管制的持续收紧

自2022年10月起，美国商务部工业与安全局（BIS）对中国实施AI芯片出口管制，后续在2023年10月和2024年12月两次大幅收紧规则（来源: BIS Final Rule, Federal Register, 2024-12-02）。最新规则不仅限制了Nvidia H100/H200等高端GPU的出口，还将限制范围扩展到更多国家和更低性能阈值的芯片。

对SambaNova的双向影响

这对SambaNova的影响是复杂的。一方面，SambaNova作为美国公司，同样受出口管制约束，无法向中国出售高端推理芯片。但另一方面，出口管制创造了两个对SambaNova有利的市场动态：

第一，中东和东南亚的「第三方市场」机会。沙特、阿联酋、新加坡、印度等国家既有强烈的AI基础设施建设需求，又面临Nvidia供应紧张的问题。SambaNova的PIF领投融资，正是这一逻辑的直接体现——沙特需要确保其AI基础设施不完全依赖单一供应商。

第二，美国政府自身的供应商分散化需求。美国国防部和情报机构对Nvidia的依赖同样引发了供应链安全担忧。SambaNova与美国国家实验室的合作关系，使其有机会成为政府AI基础设施的「第二来源」（Second Source）——这是半导体行业中一个历史悠久的采购策略。

地缘政治红利的不确定性：上述分析基于当前政策环境的推断。需要指出的是，出口管制政策具有高度不确定性——政策可能因外交关系变化而放松，也可能因技术进步而调整阈值。此外，”第二来源”策略在历史上的成功案例（如冷战时期的军用芯片采购）通常发生在政府愿意为供应安全支付显著溢价的情境下。SambaNova能否将这种政策红利转化为可持续的商业收入，取决于其产品是否能在性价比上接近Nvidia方案，而非仅仅依赖”非Nvidia”的身份。

第七章：与DeepSeek叙事的交叉点——算法效率如何重塑芯片需求

DeepSeek的算法创新为何对专用推理芯片更有利

DeepSeek-R1（2025年1月发布，来源: arXiv:2501.12948）通过混合专家架构（MoE）实现了推理效率的大幅提升。MoE的核心特征是稀疏激活：一个拥有数千亿总参数的模型，每次推理只激活其中一小部分专家网络（通常10%-20%）。

这种稀疏激活模式对通用GPU的调度效率提出了严峻挑战。GPU的SIMT（Single Instruction, Multiple Threads）执行模型假设所有线程执行相同的操作——当MoE路由器将不同token分配给不同专家时，GPU需要通过复杂的软件调度来处理这种不规则性，导致计算单元利用率下降。

SambaNova的可重构数据流架构，理论上可以动态重构计算图以适应MoE的稀疏激活模式——数据流路径可以根据路由器的决策实时调整，无需通用GPU那样的软件层调度开销。这是一个大多数分析文章没有触及的洞察：DeepSeek式的算法创新，不是在削弱推理专用芯片的市场，而是在改变推理芯片竞争的技术维度，并在某些维度上扩大了专用芯片相对GPU的优势空间。

对这一洞察的限定声明：上述关于RDA架构在MoE场景下优势的分析，是基于架构原理的理论推导，而非基于已发表的实测对比数据。截至本文写作时，尚未有公开的第三方基准测试直接对比SambaNova RDA与Nvidia GPU在MoE模型推理上的效率差异。这一理论优势是否能转化为实际性能增益，还需要后续的实测数据验证。

反方观点：为什么这个优势可能被高估

然而，必须承认一个反方论点：Nvidia并非静止不动。其2024年发布的Blackwell架构（B200/GB200）专门针对MoE推理进行了优化，引入了第二代Transformer Engine和动态稀疏计算支持（来源: Nvidia GTC 2024, Blackwell Architecture Whitepaper, 2024-03）。更重要的是，Nvidia的NVLink Switch系统允许多块GPU之间以极高带宽共享KV Cache，这对MoE推理的多专家并行调度具有显著优势。

此外，Nvidia在2025年3月的GTC大会上发布了Vera Rubin架构路线图，预计2026年量产，进一步强化了其在推理场景的竞争力（来源: Nvidia GTC 2025 Keynote, 2025-03-17）。这意味着SambaNova的窗口期可能比乐观预期更短——它需要在Nvidia的下一代架构全面铺开之前，建立足够大的客户基础和软件生态壁垒。

补充一个常被忽视的反方论据：即使在MoE推理场景下，Nvidia的软件生态优势可能比硬件效率差距更重要。Nvidia的TensorRT-LLM已经针对MoE模型提供了高度优化的推理路径，而大多数MoE模型的开发者首先在CUDA环境中进行开发和测试。这意味着即使SambaNova在硬件层面具有理论效率优势，客户仍可能因为软件迁移成本和风险而选择留在Nvidia生态中——除非SambaNova的成本优势大到足以覆盖迁移摩擦。

第八章：两种终局假设与我的判断

假设A：赢家通吃（看空第二梯队）

持这一观点的代表是Nvidia自身以及部分华尔街分析师。其逻辑链条是：

  1. Nvidia通过Blackwell→Rubin→Feynman的持续架构迭代，在推理场景同样保持性能领先
  2. CUDA生态的网络效应持续强化，开发者迁移成本越来越高
  3. Nvidia的规模经济优势（台积电CoWoS产能优先分配、HBM供应优先权）使其成本结构持续优于小规模竞争者
  4. 第二梯队公司最终被迫退出或被并购（如Graphcore的命运）

支撑这一假设的关键证据：Nvidia在2025财年的数据中心收入增速仍超过100%，客户锁定效应未见松动迹象。

假设B：多元架构共存（看多第二梯队）

持这一观点的代表是SambaNova的投资者以及部分企业CTO。其逻辑链条是：

  1. 推理市场的需求多样性（低延迟vs高吞吐、通用模型vs专有模型、云部署vs本地部署）天然支撑多种架构共存
  2. 地缘政治驱动的供应商分散化是不可逆的结构性趋势
  3. 企业级全栈解决方案的价值主张与Nvidia的「卖铲子」模式形成差异化，不是零和竞争
  4. 推理市场的总盘子增长速度远超Nvidia单一公司的产能扩张速度

支撑这一假设的关键证据：中东主权基金的大额投资、美国政府实验室的采购行为、以及企业客户公开表达的多供应商策略意愿。

我的判断：结构性共存，但淘汰率高于预期

我的判断是：推理市场最终会呈现结构性多元共存，但存活者数量少于当前玩家数量的格局。

具体而言：

  • Nvidia将继续主导推理市场的绝对份额，但其份额将从训练市场的90%+下降到推理市场的60%-70%。这个侵蚀不会以戏剧性的方式发生，而会以5-10年的时间尺度缓慢展开。

  • 真正能存活的第二梯队公司不会超过2-3家。SambaNova凭借其企业全栈策略、政府客户基础和主权资本支持，是最有可能存活的候选者之一。Groq在API推理服务领域也有独特定位。但不是所有现有玩家都能活下来——Graphcore的命运将在未来3-5年内重演于某些公司身上。

  • 关键的分水岭时刻是2026-2027年：Nvidia Rubin架构量产后，如果第二梯队公司未能在此之前建立足够的客户粘性和软件生态壁垒，其生存空间将被大幅压缩。

对中国AI芯片产业的启示

SambaNova的路径对中国AI芯片产业有直接的参考价值。华为Ascend 910B是目前中国最接近系统性替代Nvidia的方案，但其软件生态（CANN/MindSpore）与CUDA的差距依然显著。

SambaNova的经验表明，在无法正面攻克CUDA护城河的情况下，聚焦特定推理场景、提供全栈解决方案、绕过通用编程接口是一条可行的差异化路径。中国AI芯片公司面临的挑战与SambaNova高度相似，但额外叠加了更严格的制程限制（无法使用台积电3nm/5nm先进制程）。然而，中国拥有全球最大的AI应用市场之一，这意味着中国公司在推理专用芯片上的发展空间，可能比外部观察者预期的更大。

最后的「So What」

对于关注AI基础设施的投资者和从业者，SambaNova的融资事件传递的核心信号不是「又一家AI芯片公司获得了大额融资」，而是：

推理市场的结构性分化已经大到足以支撑独立商业模式，资本正在为这个分化下注。

但这个信号需要附加一个重要的限定条件：并非所有押注推理专用芯片的公司都能成功。历史上，从Graphcore到Wave Computing，专用AI芯片公司的墓地远比成功者的名单更长。SambaNova的110亿美元估值，隐含的假设是它能够成为少数存活者之一——这个假设需要在未来24-36个月内通过客户规模、收入增长和软件生态成熟度来验证。

Nvidia不会被替代。但它在推理市场的市场份额将面临比训练市场更大的侵蚀压力。SambaNova押注的，正是这个缓慢但不可逆的侵蚀。

参考资料

  1. SambaNova Raises Over $1 Billion at $11 Billion Valuation — Bloomberg, 2025-04-22

  2. MLCommons MLPerf Inference v4.1 Results — MLCommons, 2024-12-11

  3. DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Learning — DeepSeek-AI, arXiv, 2025-01-22

  4. Nvidia Q1 FY2026 Earnings Report — Nvidia Investor Relations, 2025-05-28

  5. Cerebras Systems S-1 Filing — SEC EDGAR, 2024-09-30

  6. Groq Raises $640 Million in Funding Round — TechCrunch, 2024-08-05

  7. Graphcore Acquired by SoftBank — Financial Times, 2024-07-11

  8. U.S. Export Controls on Advanced Computing and Semiconductors — U.S. Bureau of Industry and Security (BIS), 2024-12-02

  9. Nvidia GTC 2025 Keynote: Vera Rubin Architecture Roadmap — Nvidia, 2025-03-17

  10. Saudi Arabia’s Project Transcendence AI Infrastructure Plan — Reuters, 2025-03-19

  11. Palantir Q1 2025 Earnings Report — Palantir Technologies, 2025-05-05

  12. Efficient Memory Management for Large Language Model Serving with PagedAttention — Kwon et al., arXiv, 2023-09-12

主题分类：AI基础设施与算力