2025年6月18日，Andrej Karpathy 在 X（前 Twitter）上发布了一条帖子（@karpathy），阐述他正在构思一个”LLM Wiki”——一个专门为大语言模型优化的知识库，而非为人类阅读器设计的 Wikipedia。这条帖子迅速引发广泛讨论，截至发布后一周已获得超过百万级别的浏览量。与此同时，Y Combinator 2025年冬季批次（W25）的入选公司名单显示，AI Agent 相关项目占据了显著比例——根据 YC 官方目录及多家科技媒体的统计，W25 批次中约有67家公司聚焦于 AI Agent 方向，其中包括 Memobase、Papr Memory 等直接瞄准”Agent 记忆与上下文管理”的初创公司（来源: Y Combinator W25 Directory; TechCrunch 对 W25 批次的报道, 2025-04）。

这不是巧合。当整个行业都在追逐更大的上下文窗口——Google Gemini 1.5 Pro 已经推到了200万 token——一个更根本的问题正在浮出水面：AI Agent 不是缺乏处理信息的能力，而是缺乏一套真正的记忆架构。

让我把话说得更直白一些：当前的 AI Agent 生态正在经历一场”记忆危机”。每一次对话重启，每一次上下文窗口溢出，每一次 Agent 在跨会话任务中”失忆”，都在提醒我们——我们造出了一个拥有超人推理能力但患有严重顺行性遗忘症的智能体。这个问题的解决方案，将定义下一代 AI 基础设施的核心架构，其市场规模远超当前任何人的估计。

1. 从 Karpathy 的 LLM Wiki 说起：知识不是为人类写的就够了

Andrej Karpathy——前 Tesla AI 总监、OpenAI 联合创始成员——在2025年提出了一个看似简单但极具颠覆性的概念：LLM Wiki。其核心论点是，当前互联网上的知识（包括 Wikipedia 的6000多万篇文章，覆盖300多种语言）是为人类的阅读习惯和认知模式设计的。它们包含叙事弧线、修辞手法、上下文暗示——这些对人类有效，但对 LLM 来说是噪声。

Karpathy 的设想是创建一个专门为 LLM 消费优化的知识库。这意味着：

  • 结构化优先：每个知识条目都以机器可解析的格式呈现，类似于 JSON-LD 或知识图谱三元组，而非自然语言段落。
  • 版本化与时间戳：每条知识都标注其有效时间范围和置信度，解决 LLM 训练数据的”时间冻结”问题。
  • 推理链友好：知识的组织方式不是百科全书式的主题分类，而是按照推理依赖关系排列——A 依赖 B，B 依赖 C，形成可遍历的推理图。

这个概念为什么重要？因为它直接挑战了当前 Retrieval-Augmented Generation（RAG）架构的根本假设。

当前的 RAG 流水线——由 Meta 的 Patrick Lewis 等人在2020年首次提出（来源: Lewis et al., “Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks”, NeurIPS 2020）——本质上是一个”搜索+拼接”系统：从外部知识库检索相关文档片段，然后塞进 LLM 的上下文窗口。这个方法有3个致命缺陷：

第1，检索质量的天花板。 当前最先进的向量检索系统（如 Pinecone、Weaviate、Chroma）依赖 embedding 相似度匹配，但语义相似不等于推理相关。一个关于”苹果公司2024年 Q4 财报”的查询，可能检索到”苹果公司2023年 Q4 财报”——语义几乎相同，但事实完全错误。

第2，上下文窗口的经济学问题。 即使 Gemini 1.5 Pro 提供了200万 token 的上下文窗口，填满它的成本也是显著的。根据 Google Cloud 的公开定价页面（截至2025年5月），Gemini 1.5 Pro 长上下文（超过128K token）的输入定价为每百万 token 3.50美元，200万 token 的单次输入成本约为7美元。但需要注意的是，实际企业场景中很少需要每次都填满200万 token 的窗口。更合理的假设是，一个企业 Agent 平均每次查询使用10万-50万 token 的上下文，即便如此，对于每天处理数千次查询的场景，年化上下文填充成本仍可达数十万到上百万美元级别。更关键的是，Liu et al. 在2024年发表的”Lost in the Middle: How Language Models Use Long Contexts”研究（来源: Liu et al., Transactions of the Association for Computational Linguistics, 2024）已经证实，即使上下文窗口足够大，LLM 对中间位置信息的注意力仍然显著下降——这一发现后续被多个研究团队复现和扩展。

第3，知识的”新鲜度”悖论。 RAG 检索的外部知识库本身也需要维护和更新。根据 Wikimedia Foundation 的公开统计页面（stats.wikimedia.org），英文 Wikipedia 每月的编辑次数约为数百万次级别，所有 Wikimedia 项目合计则更高。但大多数企业知识库的更新频率远低于此。结果是，RAG 系统检索到的”外部知识”可能比 LLM 训练数据更过时。

Karpathy 的 LLM Wiki 概念，本质上是在说：我们需要一个为 AI 原生设计的知识层（Knowledge Layer），而不是在人类知识库上打补丁。 这不是一个学术项目，而是一个潜在的基础设施级别的变革。

2. AI Agent 记忆的4层架构：从工作记忆到世界模型

要理解为什么”记忆”是 AI Agent 的核心瓶颈，我们需要先建立一个分析框架。借鉴认知科学中 Endel Tulving 的记忆分类理论，我将当前 AI Agent 的记忆需求分为4层：

第1层：工作记忆（Working Memory）——上下文窗口

这是当前 LLM 最擅长的部分。GPT-4o 提供128K token，Claude 3.5 Sonnet 提供200K token，Gemini 1.5 Pro 提供2M token。工作记忆的功能是在单次交互中保持连贯性。

当前状态：基本解决，但成本高昂。

Anthropic 在2025年5月发布的 Claude 4 Opus 和 Claude 4 Sonnet 进一步优化了长上下文处理能力，但核心问题没有改变——上下文窗口是”租用”的，每次调用都要重新填充，没有任何持久性。

第2层：情景记忆（Episodic Memory）——跨会话持久化

这是当前最大的缺口。当用户在周一告诉 AI Agent “我对乳糖不耐受”，然后在周五要求 Agent 推荐午餐，Agent 应该记住这个偏好。但当前的 LLM API 不提供原生的跨会话记忆。

OpenAI 在2024年4月为 ChatGPT 引入了”Memory”功能，允许模型在对话之间记住用户偏好。但这个功能本质上是一个简单的键值存储——Agent 将用户偏好提取为短文本片段，存储在用户配置文件中，然后在每次新对话开始时注入系统提示词。这种方法的问题是：

  • 容量极其有限：OpenAI 的 Memory 功能目前最多存储约数百条记忆片段，每条不超过几十个 token。
  • 无优先级机制：所有记忆片段被平等对待，没有衰减、强化或遗忘机制。
  • 无推理整合：记忆片段之间没有关联，Agent 无法从多条记忆中推导出新结论。

Google 在2025年推出的 Project Mariner 和 Apple 在 Apple Intelligence 中集成的 on-device memory 都在尝试解决这个问题，但都处于极早期阶段。

第3层：语义记忆（Semantic Memory）——结构化世界知识

这正是 Karpathy 的 LLM Wiki 所瞄准的层次。语义记忆不是”我上周和 Alice 吃了寿司”（情景记忆），而是”寿司是日本料理，通常包含生鱼片和醋饭”（世界知识）。

当前的解决方案是 RAG + 向量数据库，但如前所述，这个方案存在根本性缺陷。更先进的方案正在涌现：

  • Microsoft 的 GraphRAG（2024年7月发布）将检索对象从文档片段升级为知识图谱，通过图结构捕捉实体间关系。微软研究院的实验显示，在多跳推理任务上，GraphRAG 比传统 RAG 的准确率提升显著（来源: Microsoft Research Blog, “GraphRAG: Unlocking LLM discovery on narrative private data”, 2024-07-02）。
  • LlamaIndex 在2025年推出的 Property Graph Index 进一步将这个思路产品化。
  • Neo4j 的图数据库在近年来收入增长强劲，很大程度上受益于 AI Agent 知识图谱需求的爆发。

但即使是 GraphRAG，也只是在”如何更好地检索已有知识”上做文章，而没有解决”知识应该以什么形式存在”这个更根本的问题——这正是 LLM Wiki 的价值所在。

第4层：程序记忆（Procedural Memory）——技能与行为模式

这是最被忽视但可能最有商业价值的一层。当 AI Agent 学会了”用户每次要求生成报告时，都希望先看到执行摘要，然后是数据表格，最后是可视化图表”，这就是程序记忆——Agent 学会了一个行为模式。

当前没有任何主流 LLM 平台提供原生的程序记忆支持。最接近的是 Anthropic 在 Claude 中引入的”system prompt + few-shot examples”模式，但这本质上是将程序记忆硬编码到提示词中，无法自适应更新。

我的核心判断：谁能率先构建一个统一的4层记忆架构——将工作记忆、情景记忆、语义记忆和程序记忆整合为一个连贯的系统——谁就将定义下一代 AI Agent 平台。

3. 万亿美元的计算：为什么记忆是基础设施级别的机会

让我用数字说话——但也让我对估算方法保持诚实。

市场规模估算：

根据 Grand View Research 在2025年初发布的报告，全球 AI Agent 市场规模预计将从2024年的约51亿美元增长到2030年的约470亿美元，复合年增长率（CAGR）约为44.8%（来源: Grand View Research, “AI Agents Market Report”, 2025-01）。但这个数字只计算了 Agent 软件本身的收入，而没有包含围绕 Agent 运行所需的基础设施生态。

我将 Agent 记忆相关的市场机会拆分为3个维度，但需要提前说明：这3个维度之间存在部分重叠，不能简单相加。

  1. 记忆基础设施：向量数据库、图数据库、持久化存储层。Pinecone 在2023年4月的 B 轮融资中以7.5亿美元估值筹集了1亿美元（来源: TechCrunch, 2023-04-27）。Weaviate 在2024年融资5000万美元。整个向量数据库市场预计到2028年将达到35亿美元。如果我们将范围扩展到包括所有 Agent 记忆相关基础设施（图数据库、时序数据库、知识图谱平台、上下文管理中间件），保守估计到2030年这个市场在200-300亿美元区间。

  2. 知识层服务：如果 LLM Wiki 式的”AI 原生知识库”成为现实，它将创造一个全新的市场——类似于 Google 搜索索引对互联网的意义。Google 2024年的搜索广告收入约为1920亿美元（来源: Alphabet 2024年 Q4 财报, 2025-02）。AI Agent 的”知识层”不会直接替代搜索广告，但它将成为 Agent 经济的”水和电”。保守估计，到2030年，AI 知识层服务的市场规模将达到100-200亿美元。

  3. 计算成本节省：当前的 RAG 系统每次查询都需要重新检索和填充上下文窗口，这意味着大量重复计算。一个设计良好的记忆架构可以通过缓存、预计算和增量更新，显著降低 Agent 的推理成本。根据 a16z 在2024年发布的”The Economic Case for Generative AI Infrastructure”分析，推理成本占企业 AI 部署总成本的60-80%。即使记忆架构只能将推理成本降低30-50%，按照全球 LLM 推理市场快速增长的规模计算，这也代表了数十亿到上百亿美元/年的价值。

关于”万亿美元”的说明：上述3个维度存在交叉——例如，记忆基础设施的价值部分来自于它所实现的计算成本节省。因此，简单相加会导致重复计算。去重后，我估计到2030年，Agent 记忆相关生态的年化收入机会在300-450亿美元之间。如果按照高增长科技基础设施公司的典型估值倍数（15-25倍收入，参考 Snowflake 上市初期的估值水平），对应的市值空间在4500亿到1.1万亿美元之间。这就是”万亿美元级别机会”的来源——它不是一个精确预测，而是一个量级判断，前提是 Agent 经济在2030年前实现大规模商业化。

4. 当前的竞争格局：谁在抢跑，谁在装睡

4.1 大模型厂商：各怀心事

OpenAI 的策略最为激进。从 ChatGPT Memory 到 Custom GPTs，再到2025年初发布的 Operator（一个可以操控浏览器的 Agent），OpenAI 正在构建一个端到端的 Agent 平台。但其记忆方案仍然是”提示词注入”式的简单实现。据 The Information 在2025年2月的报道（来源: The Information, “OpenAI’s Next Big Push: Agents That Remember”, 2025-02），Sam Altman 在一次内部会议中将”持久记忆”列为2025年最重要的研究方向之一。

Anthropic 采取了更谨慎但可能更深刻的路线。Claude 的 system prompt 机制允许开发者定义复杂的行为框架，而 Anthropic 在2024年11月推出的 Model Context Protocol（MCP）——一个开放标准，允许 AI 模型连接外部数据源和工具——本质上是在构建 Agent 记忆的”连接层”（来源: Anthropic, “Introducing Model Context Protocol”, 2024-11-25）。MCP 已经获得了包括 Composio、Replit、Sourcegraph 在内的多家公司的支持。

这里值得特别展开讨论 Composio 的角色。Composio 是一家专注于 AI Agent 工具集成的初创公司，其核心产品允许 Agent 通过统一的 API 连接超过250个外部服务（GitHub、Slack、Salesforce、Google Workspace 等）。在2025年，Composio 宣布全面集成 Anthropic 的 MCP 协议，这意味着通过 Composio 连接的每一个外部服务都可以作为 Agent 的”外部记忆”来源。

为什么这很重要？ 因为 Composio + MCP 的组合正在创造一种新的记忆范式——分布式记忆（Distributed Memory）。Agent 不需要将所有知识都存储在一个中央知识库中，而是可以在需要时从 Salesforce 拉取客户数据、从 GitHub 拉取代码历史、从 Google Calendar 拉取日程安排。每个外部服务都成为 Agent 记忆系统的一个”分片”。

Google 的策略则是”以算力换记忆”。Gemini 1.5 Pro 的200万 token 上下文窗口，本质上是在说：”你不需要复杂的记忆架构，把所有东西都塞进上下文就行了。”这个策略在短期内有效——Google 确实拥有最充裕的算力资源——但长期来看是不可持续的，原因有3个：成本、延迟、以及前述的”Lost in the Middle”注意力衰减问题。

Meta 的 Llama 系列模型采取开源路线，将记忆架构的选择权交给社区。这导致了一个有趣的现象：围绕 Llama 的开源 Agent 框架（如 LangChain、CrewAI、AutoGen）各自发展出了不同的记忆方案，形成了一个事实上的”记忆架构实验场”。

4.2 基础设施层：向量数据库不够用了

向量数据库是当前 Agent 记忆基础设施的主力，但它们正在触及能力天花板。

Pinecone（融资总额超过1.38亿美元）提供了最成熟的托管向量搜索服务，但其核心能力仍然是”相似度检索”——它能找到最相似的文档片段，但无法理解文档之间的逻辑关系。

Chroma（开源向量数据库，2024年获得1800万美元 A 轮融资）试图通过更灵活的元数据过滤来弥补这一缺陷，但本质上没有突破向量检索的范式。

真正有趣的玩家是那些试图超越向量检索的公司：

  • Zep AI：专注于 Agent 记忆管理，提供情景记忆、事实提取和记忆合成功能。Zep 的核心创新是”Memory Layer”——一个位于 LLM 和应用之间的中间件，自动从对话中提取事实、关系和用户偏好，并将它们组织为结构化的记忆图。
  • Mem0（前 EmbedChain）：2024年从 Y Combinator 毕业，专注于为 AI Agent 提供”个性化记忆层”。Mem0 的方法是将用户交互历史转化为一个不断更新的”用户模型”，Agent 可以在每次交互中查询这个模型。
  • LangChain 的 LangGraph：虽然不是专门的记忆产品，但 LangGraph 的状态管理机制（stateful graph）为 Agent 提供了一种将记忆嵌入工作流的方式。LangChain 在2024年2月完成了2500万美元的 A 轮融资，估值达到2亿美元（来源: TechCrunch, 2024-02-15）。

4.3 被忽视的维度：记忆的安全与隐私

这是大多数分析师没有关注到的维度。当 AI Agent 拥有持久记忆时，它存储的不仅是用户偏好，还包括商业机密、个人健康信息、财务数据。这意味着：

  • 合规风险：GDPR 的”被遗忘权”如何应用于 AI Agent 的记忆？如果用户要求 Agent 删除所有关于自己的记忆，Agent 需要能够精确定位和删除相关记忆片段，而不影响其他用户的记忆或 Agent 的通用能力。
  • 攻击面：Agent 记忆成为新的攻击目标。”记忆投毒”（Memory Poisoning）——通过精心构造的输入污染 Agent 的长期记忆——可能成为比 prompt injection 更危险的攻击向量。2024年已有多篇安全研究论文探讨了这一威胁（如 Greshake et al. 关于间接 prompt injection 的研究）。
  • 记忆泄露：如果一个 Agent 同时服务多个用户，如何确保用户 A 的记忆不会泄露给用户 B？这不仅是技术问题，更是法律问题。

我的判断：记忆安全将成为 AI Agent 部署的最大瓶颈之一，而不是技术能力本身。 预计到2026年，我们将看到至少一家估值超过10亿美元的公司专门解决”AI Agent 记忆安全与合规”问题。

5. 对立视角：记忆真的是瓶颈吗？

视角1：上下文窗口足够解决问题（反方）

Google DeepMind 的部分研究人员（以及 Gemini 团队的产品策略）隐含地持有这个观点：随着上下文窗口的持续扩大和成本的持续下降，我们不需要复杂的记忆架构——只需要更大的”工作台”。

支持这个观点的证据：

  • Gemini 1.5 Pro 的200万 token 上下文窗口已经可以容纳整本书或数小时的视频。
  • 推理成本在过去18个月大幅下降。以 GPT-4 级别能力为基准，OpenAI 的 API 定价从2023年3月 GPT-4 发布时的每百万输入 token 30美元，降至2025年中 GPT-4o-mini 等模型的每百万 token 不到1美元（来源: OpenAI Pricing Page, 各版本历史对比；a16z, “The Cost of AI Inference is Plummeting”, 2024-08）。
  • Google 的 TPU v5p 和 NVIDIA 的 Blackwell 架构进一步降低了长上下文推理的边际成本。

视角2：记忆架构是不可或缺的（正方，也是我的立场）

我认为”上下文窗口万能论”犯了一个根本性错误：它混淆了”容量”和”架构”。

人类大脑的”上下文窗口”（工作记忆）只能同时处理7±2个信息块（George Miller, “The Magical Number Seven, Plus or Minus Two”, 1956），但人类通过层次化的记忆架构（短期记忆→长期记忆→程序记忆→语义网络）实现了远超工作记忆容量的认知能力。关键不在于你能同时看到多少信息，而在于你能否在正确的时间调用正确的信息。

更具体的反驳：

  1. 成本论证：即使推理成本降至极低水平，延迟问题仍然存在。处理200万 token 的上下文需要数秒到数十秒的延迟，而一个实时交互的 Agent 需要亚秒级响应。记忆架构通过预处理和索引，可以将检索延迟降至毫秒级。

  2. 注意力衰减是算法问题，不是工程问题：Transformer 架构的自注意力机制在处理超长序列时，对中间位置信息的关注度天然下降。这不是通过更大的窗口就能解决的——你需要的是一个外部记忆系统来”提醒”模型什么是重要的。

  3. 经济学论证：一个设计良好的记忆系统可以将大量”已知信息”从上下文窗口中移除，只在需要时注入。这意味着同样的推理预算可以用于更多的”思考”（reasoning tokens），而不是”回忆”（retrieval tokens）。OpenAI 的 o1 和 o3 模型的成功已经证明，推理 token 的价值远高于检索 token。

视角3：记忆问题的真正瓶颈不在技术，而在数据治理（第三方视角）

还有一种观点值得考虑：即使我们在技术上完美解决了记忆架构问题，企业在实际部署中面临的最大障碍可能是数据治理。谁拥有 Agent 的记忆？当员工离职时，Agent 关于该员工工作模式的记忆是否应该被删除？当企业更换 AI 供应商时，记忆数据的可移植性如何保证？这些问题目前没有行业标准，也没有法律先例。

我的明确立场：上下文窗口扩大是必要的但不充分的。AI Agent 需要一个独立于上下文窗口的、持久化的、层次化的记忆架构。这不是”锦上添花”，而是 Agent 从”聊天机器人”进化为”自主智能体”的前提条件。同时，技术架构必须与数据治理框架同步发展，否则技术能力将被合规瓶颈所限制。

6. LLM Wiki 的深层含义：从”检索增强”到”知识原生”

让我们回到 Karpathy 的 LLM Wiki 概念，挖掘其更深层的含义。

当前的知识管理范式可以概括为”人类写，AI 读”。Wikipedia、企业知识库、技术文档——都是人类创作、为人类消费设计的内容。RAG 系统试图让 AI 也能”读”这些内容，但效果受限于内容本身的结构。

LLM Wiki 代表的是一个范式转换：“AI 写，AI 读，人类审”。

具体来说：

  • 知识生产：LLM 从多个来源（学术论文、新闻、数据库、传感器数据）自动提取、整合和结构化知识。
  • 知识消费：其他 LLM 和 Agent 直接查询这个结构化知识库，无需通过自然语言”翻译”层。
  • 人类监督：人类的角色从”知识创作者”转变为”知识审计者”——验证 AI 生成的知识条目的准确性和一致性。

这个范式转换的商业含义是巨大的：

对搜索引擎的影响：如果 AI Agent 不再需要通过搜索引擎检索人类可读的网页，而是直接查询 LLM Wiki 式的结构化知识库，那么 Google 搜索的核心价值主张——”组织全世界的信息”——将面临根本性挑战。Google 当然意识到了这一点，这也是为什么 Gemini 团队在大力推进 AI Overview（搜索结果中的 AI 摘要）和 Gemini 的 Grounding 功能。

对企业知识管理的影响：当前的企业知识管理市场（Confluence、Notion、SharePoint）约为200亿美元/年。如果企业开始构建”AI 原生知识库”——专门为内部 Agent 优化的知识层——这些传统产品将面临被重新定义的风险。Notion 在2024年推出的 Notion AI 和 Confluence 的 Atlassian Intelligence 都是对这一趋势的早期响应。

对数据标注行业的影响：当前的 AI 训练数据标注市场约为30亿美元/年（Scale AI 是最大的玩家，2024年估值约138亿美元，来源: Forbes, 2024）。LLM Wiki 范式意味着数据标注的重心将从”训练数据标注”转向”知识验证和审计”——一个可能更大、更持久的市场。

7. 技术路线图：记忆架构的3个演进阶段

基于当前的技术趋势和产业动态，我预判 AI Agent 记忆架构将经历3个演进阶段：

阶段1（2025-2026）：记忆中间件的爆发

这是我们当前所处的阶段。Zep、Mem0、LangChain 等公司正在构建”记忆中间件”——位于 LLM API 和应用之间的软件层，负责记忆的提取、存储、检索和注入。

这个阶段的特征是：

  • 碎片化：每个框架和平台都有自己的记忆方案，互不兼容。
  • 以文本为中心：记忆主要以自然语言文本片段的形式存储。
  • 被动检索：Agent 只在需要时查询记忆，不会主动整合或更新。

关键事件预判：到2026年中，至少一家主要 LLM 提供商（最可能是 OpenAI 或 Anthropic）将在其 API 中提供原生的持久记忆功能，类似于 Firebase 之于移动应用开发——一个开箱即用的后端记忆服务。

阶段2（2026-2028）：统一记忆标准的形成

类似于 HTTP 之于 Web、SQL 之于数据库，AI Agent 记忆需要一个统一的标准。Anthropic 的 MCP 是目前最有可能演化为这个标准的候选者，但它目前主要关注”工具连接”而非”记忆管理”。

这个阶段的特征是：

  • 标准化：出现1-2个主导性的记忆协议/标准。
  • 多模态记忆：记忆不再局限于文本，还包括图像、音频、视频、代码和结构化数据。
  • 主动记忆管理：Agent 开始主动整合、压缩和遗忘记忆，类似于人类大脑在睡眠期间的记忆巩固过程。

关键事件预判：到2027年，我们将看到第1个”记忆即服务”（Memory-as-a-Service, MaaS）平台达到10亿美元 ARR，类似于 Snowflake 之于数据仓库。

阶段3（2028-2030）：知识原生架构的成熟

这是 LLM Wiki 概念的完全实现阶段。AI Agent 不再依赖从人类知识库中检索信息，而是拥有自己的、持续更新的、结构化的世界模型。

这个阶段的特征是：

  • 自主知识构建：Agent 从交互和观察中自主构建和更新知识图谱。
  • 共享知识层：多个 Agent 共享一个公共知识层（类似于 LLM Wiki），同时维护各自的私有记忆。
  • 因果推理：记忆系统不仅存储”是什么”，还存储”为什么”——因果关系和反事实推理能力。

8. So What：这对你意味着什么

如果你是投资者：AI Agent 记忆基础设施是2025-2027年最被低估的投资主题。向量数据库只是冰山一角。关注那些在”记忆中间件”、”知识图谱即服务”和”Agent 记忆安全”领域的早期公司。Zep AI、Mem0、Cognee 等公司值得密切跟踪。同时，关注 Anthropic 的 MCP 生态——围绕 MCP 构建的工具和服务公司（如 Composio）可能成为下一代 AI 基础设施的关键节点。

如果你是技术领导者：现在就开始规划你的 AI Agent 记忆架构。不要等到”记忆即服务”平台成熟——那时你的竞争对手已经积累了数年的用户记忆数据。记忆数据是 AI Agent 最强大的护城河：用户使用 Agent 越久，Agent 对用户的理解越深，切换成本越高。这就是为什么 OpenAI 如此急切地推出 Memory 功能——它不是一个产品特性，而是一个锁定策略。

如果你是AI 研究者：记忆架构是当前 AI 研究中最被忽视的方向之一。大多数顶级实验室的资源都集中在模型规模、训练方法和推理能力上，而记忆——这个认知科学中最核心的概念——却被当作”工程问题”而非”研究问题”。我认为这是一个巨大的机会。具体而言，以下研究方向值得关注：

  • 记忆压缩与遗忘：如何让 Agent 在有限的存储空间中保留最有价值的记忆？这与信息论和神经科学中的记忆巩固理论直接相关。
  • 记忆的可解释性：Agent 为什么做出某个决策？如果我们能追溯到其记忆中的具体知识片段，就能实现真正的可解释 AI。
  • 跨 Agent 记忆共享：当多个 Agent 协作时，它们如何共享记忆而不泄露各自用户的隐私？这是一个同时涉及密码学、分布式系统和认知科学的交叉问题。

如果你是普通用户：你与 AI Agent 的每一次交互都在创造记忆数据。这些数据将成为你在 AI 时代最有价值的数字资产之一。关注你使用的 AI 产品如何处理你的记忆数据——它们是否提供导出功能？是否允许你删除特定记忆？是否在隐私政策中明确说明了记忆数据的使用方式？在 AI Agent 记忆成为标准功能之前，建立你的数据意识。

结语

Andrej Karpathy 的 LLM Wiki 概念不仅仅是一个技术提案——它是一个信号，表明 AI 行业正在从”模型竞赛”转向”基础设施竞赛”。模型能力的提升正在放缓（GPT-4 到 GPT-4o 的能力提升远小于 GPT-3.5 到 GPT-4），而真正的差异化将来自于模型如何与世界交互、如何记住过去、如何积累知识。

记忆不是 AI Agent 的一个”功能”。记忆是 AI Agent 的”自我”。没有记忆的 Agent 只是一个高级函数——输入进去，输出出来，每次都从零开始。有记忆的 Agent 才是真正的智能体——它有历史、有偏好、有积累、有成长。

这就是为什么我说 AI Agent 的记忆问题是下一个万亿美元赛道。不是因为”记忆”这个词听起来很重要，而是因为没有记忆，就没有真正的 Agent 经济。而 Agent 经济——一个由数十亿自主智能体驱动的新经济形态——是 AI 技术最终的商业兑现形式。

竞赛已经开始。时钟在滴答作响。

参考资料

  1. Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks — Patrick Lewis et al., NeurIPS 2020
  2. GraphRAG: Unlocking LLM discovery on narrative private data — Microsoft Research, 2024-07-02
  3. Pinecone raises $100M Series B at $750M valuation — TechCrunch, 2023-04-27
  4. LangChain raises $25M Series A — TechCrunch, 2024-02-15
  5. Introducing Model Context Protocol — Anthropic, 2024-11-25
  6. Alphabet Q4 2024 Earnings Report — Alphabet Inc., 2025-02
  7. Lost in the Middle: How Language Models Use Long Contexts — Nelson F. Liu et al., Transactions of the Association for Computational Linguistics, 2024
  8. AI Agents Market Size & Share Report, 2030 — Grand View Research, 2025-01
  9. 来源: The Information, “OpenAI’s Next Big Push: Agents That Remember”, 2025-02（付费内容，无公开 URL）
  10. 来源: Y Combinator W25 Directory, 2025（https://www.ycombinator.com/companies）