Anthropic 工程师警告"认知投降":AI 编程可能正在侵蚀你的判断力
Addy Osmani 在 Anthropic 的 Claude Code 团队工作。据 Business Insider 报道,Anthropic 已减少人类手写代码的比例(has reduced human code writing),具体比例未披露,而 Osmani 正是帮助打造这款 AI 编程产品的工程师之一。他在 X 平台发布了一篇阅读时长约 14 分钟的长文,开篇写下了一句足以让所有重度 Agent 用户停下来想一想的话:
“Increasingly, nothing in my day-to-day forces critical thinking on me now that so much of my work runs through agents.”
这句话的冲击力在于说话者的身份——他的大量工作都通过 Agent 完成(”so much of my work runs through agents”),而且他本人就在参与打造 Claude Code。据 Business Insider 报道,Osmani 并不希望工程师停止使用 AI,而是希望他们学会更深入地思考。他写这篇文章的目的是指出一个他在自己身上观察到的问题:当工作全部跑在 Agent 上,批判性思考不会自动发生。
据 Business Insider 报道,在过去一年中,多位工程师表达过类似的焦虑——AI 正在把他们从”构建者”变成”操作员”。一位 OpenAI 前员工曾告诉 Business Insider,AI 编程已经变得”tedious and boring”(乏味且无聊)。Osmani 的长文把这种弥漫在行业中的模糊不安感,拆解成了一个有层次的分析框架。
三层光谱:从卸载到顺从再到投降
Osmani 对”认知投降”这个话题的关注并非始于 11 月。早在 2026 年 5 月,他就在个人博客发表了题为《Cognitive Surrender》的长文,详细引用了 Wharton 商学院的研究,分析了认知投降在软件工程中的具体表现。11 月 3 日的 X 长文则是在此基础上进一步探讨 Agent 时代如何保持批判性思考。以下内容综合了这两篇文章的核心论述。
Osmani 在 X 长文中将人与 AI 的思维关系描述为一个光谱(spectrum),从顶端到底端依次递进:
第1层:认知卸载(cognitive offloading)。 光谱的顶端。你把任务委托给 AI,但仍然拥有对结果的判断权。Osmani 写道:”I do this all day. You should, too.” 这是他认为健康的工作模式。他在 5 月的博客中进一步解释:认知卸载就像使用计算器、搜索引擎或 GPS 一样,你交出了”怎么做”(the how),但保留了”做得对不对”的判断。你仍然会判断结果是否合理,不合理时你会介入。
第2层:顺从(deferral)。 光谱的中段。AI 的输出悄然变成了你的输入,AI 给出的结果不再是一个”假说”(hypothesis),而直接成为你下一步行动的前提。Osmani 在 X 长文中将它定位为卸载与投降之间的过渡地带。这个过渡之所以危险,恰恰是因为每一步看起来都合情合理——你上一次认真读了 AI 的回答,所以这一次只是略读;再下一次你只扫了骨架结构;然后有人问你某一行代码是什么意思,你解释不出来,甚至让 Agent 帮你解释也说不清。
第3层:认知投降(cognitive surrender)。 光谱的底端。AI 的输出悄然变成了你的输出,你觉得没有什么需要检查的了。Osmani 在 5 月的博客中指出,这个术语来自沃顿商学院(Wharton School)的 Steven Shaw 和 Gideon Nave 发表的论文——《Thinking — Fast, Slow, and Artificial: How AI is Reshaping Human Reasoning and the Rise of Cognitive Surrender》。他在博客中提到,这个短语有更早的神学渊源,但 AI 语境下的定义是全新的。
Shaw 和 Nave 的研究提供了量化证据。据 Osmani 5 月博客对该论文的转述:在 3 项实验、共 1372 名参与者中,研究者发现仅仅是”有 AI 可用”这一条件,就足以让人们走向认知投降。在 AI 给出错误答案的试验中,73% 的情况下参与者接受了错误答案。更值得注意的是,当 AI 可用时,参与者的自信心反而上升了——即使有一半的答案是被故意设置为错误的。Osmani 在 5 月的博客中将这种现象称为”借来的信心”(borrowed confidence):人们把模型的高置信度当成了自己的判断力。需要指出的是,上述数字系转引自 Osmani 博客对原论文的引述;参考资料中虽列出了 SSRN 论文链接,但本文未能独立核实原文中的具体数字是否与 Osmani 的转述完全一致。
这个”借来的信心”效应,是 Osmani 将认知投降从一般认知科学话题拉入软件工程领域的关键连接点。
投降在工程实践中的具体表现
Osmani 在 5 月的博客中列举了他观察到的(”mostly to me”,他说主要是在自己身上观察到的)认知投降在工程工作中的具体表现:
审查 diff 时的投降。 Agent 生成了 600 行的 PR(Pull Request)。你扫了一遍,变量名看起来合理,测试是绿色的,你批准了。但在中间某处,有一个事务边界的微妙排序变化,或者某个边缘情况的默认值被翻转了——你没有审查代码,你只是”批准”了它。Osmani 在博客中写道:”The surrender was the absence of a decision.”(投降就是决策的缺席。)
调试不完全理解的错误。 堆栈跟踪看起来很吓人,你把它粘贴给 Agent,Agent 返回一个修复方案,修复有效,你继续前进。两周后一个相关症状再次出现,你意识到自己从未真正理解过原始 bug——你只是移除了它的可见表达。你脑中关于系统的心智模型,在一个你甚至无法指出的地方变成了错误的。
做设计决策时的投降。 你不确定两个服务之间应该用队列还是直接调用。你问 Agent,Agent 用一段听起来很有说服力的段落选择了其中一个。你照做了。但你没有推理过你的吞吐量、你的故障模式、你的重放语义。你在同一个动作中接受了模型对问题的框架和模型对问题的答案。
学习新技术时的投降。 Osmani 在 5 月的博客中提到,使用 AI 来”生成”代码与使用 AI 进行”概念性探究”(提问、探索权衡)会产生截然不同的学习效果。同一个工具,姿态不同,结果截然不同。
Osmani 总结这些场景的共同线索:模型提供了一个完整的答案,而我们接受了它,没有构建一个属于自己的平行视角。他在 5 月的博客中写道:”Sometimes that’s correct. Sometimes that’s surrender. The two feel identical from the inside.”(有时这是正确的做法,有时这就是投降。两者从内部感受来看完全一样。)
“认知债”:一种看不见的负债表
Osmani 在 X 长文中引入了”认知债”(cognitive debt)这个概念来描述认知投降的累积效应。这个隐喻直接对应软件工程中”技术债”的概念——你每次跳过深度思考,就像每次写了一段临时凑合的代码一样,短期内看不出问题,但债务在暗中累积。
他在 X 长文中描述了认知债被发现的典型时刻:”It’s usually discovered when you try to apply a mental model of the system and it doesn’t exist.”(通常在你试图运用一个关于系统的心智模型时才会被发现——而这个模型并不存在。)他进一步提到,Margaret-Anne Storey 写过这种现象在团队中表现为对共享系统理论(shared system theory)的理解逐渐被侵蚀;他还说自己写过它在代码上的对应物——comprehension debt(理解力债务,Jeremy Twei 创造的术语)。
认知债的隐蔽性在于:在它被发现之前,一切看起来都很好。Osmani 写道:”In the moment, it’s completely invisible. The codebase looks pristine and the tests pass. It doesn’t become obvious until you have to make a change to the system and realize that nobody understands it anymore.”(在当下,它完全不可见。代码库看起来整洁,测试全部通过。直到你需要对系统做出改变时,才会发现已经没有人理解它了。)
这段描述指向一个工程管理层面的严峻问题:传统的代码质量指标——测试覆盖率、PR 审查通过率、bug 修复速度——在 Agent 时代可能全部亮绿灯,但团队对系统的真正理解力却在持续下降。这种债务不会出现在任何仪表盘上,直到某一天需要做一个跨模块的架构变更,才会暴露出来。
为什么模型越好,问题反而越隐蔽
Osmani 在 X 长文中点出了一个反直觉的动态:随着模型能力提升,明显错误的比例在降低,大多数输出写得好、大体正确,但恰恰因此不再”要求你多看一眼”。他写道,agentic workflows 的体验是愉悦的——在忙碌的一天中,快速获得正确率很高的答案让人放松警惕。
这构成了一个悖论:工具越好用,使用者越难察觉自己正在从卸载滑向投降。当 Agent 的输出正确率持续走高,使用者对少数错误输出的审查意愿会随时间递减——因为此前多次正确的经验强化了”不需要检查”的直觉。而即使你同时运行多个 Agent,你仍然只有一双眼睛来审视所有输出。Osmani 在 X 长文中直接写道:”Even if you are running many agents at a time, you still only have one pair of eyes on the outputs.”
这个观察对工程团队的含义是:代码审查流程中引入 Agent 生成的代码后,审查者面对的不再是人类工程师风格各异、偶有粗糙的代码,而是格式统一、命名规范、测试齐全的输出。笔者认为,表面上的高质量反而可能削弱审查者的注意力分配——人类的注意力往往由”异常信号”驱动,当代码表面上看不出异常,触发深度审查的条件也随之减少。这一推断尚无直接的实证支撑,但与 Osmani 所描述的”agentic workflows 的愉悦感导致警惕性下降”的逻辑一致。
Agent 时代的务实应对:自问清单与验证习惯
Osmani 的长文并非只有诊断。他给出了一套具体的应对方法,核心思路是:把批判性思考从被动反应变成主动日程。
自问清单。 据 Business Insider 报道,Osmani 分享了一组他自己使用的自问问题,其中包括:”Did I formulate a hypothesis before asking?”(在提问之前,我是否先形成了自己的假说?)以及 “What am I no longer practicing?”(我不再练习的技能是什么?)这些问题的设计逻辑很清楚——它们强迫使用者在 Agent 给出答案之前,先建立一个独立的判断锚点。如果你在提问前没有自己的假说,那么 Agent 的任何回答都会显得合理,因为你没有对照物。
“验证是一种习惯”(verification as a habit)。 据 Business Insider 报道,Osmani 建议工程师将验证变成一种肌肉记忆式的习惯。他的具体建议是:让 AI Agent 自己说明它能验证什么、不能验证什么。这个方法利用了 Agent 本身的能力来划定 Agent 能力的边界——让工具告诉你它的盲区在哪里。
低风险任务可以完全委托。 Osmani 在 X 长文中明确划了一条线:”Where the stakes are low, feel free to delegate entirely.”(当风险低时,尽管完全委托。)据 Business Insider 报道,他的框架是基于任务重要性的分级判断,而非一刀切地要求对所有事情都深度思考。他在 X 长文中也给出了判断投降是否已经发生的标志:”When you can’t explain the answer to a question, even by way of your agent, you’ve ceded ownership.”(当你无法解释一个问题的答案,哪怕借助你的 Agent 也说不清时,你已经交出了所有权。)
区分”帮助”与”卸载”。 据 Business Insider 报道,当有人问 Osmani 如何区分 AI 的帮助和认知卸载时,他的回答是:”Both are OK, as long as you know which one you’re doing.”(两者都没问题,只要你知道自己正在做的是哪一种。)这句话把问题从”你该不该用 AI”转移到了”你对自己使用 AI 的方式是否有自觉”——元认知(metacognition)才是他真正关心的能力。
主动维护正在退化的技能。 Osmani 在 X 长文中写道:”Skills that you stop exercising are going to go away, and probably faster than you might guess. Keep doing the ones you’re not willing to let go.”(你停止练习的技能会消失,而且可能比你想象的更快。继续练习那些你不愿意放弃的技能。)据 Business Insider 报道,这篇报道用了一个类比来说明这个观点:有多少人在手机导航接管之后还能用纸质地图导航?有多少人还记得朋友的电话号码?编程技能也不例外。
Claude Code 团队的做法:按需重建理解
Osmani 在 X 长文中提到,Claude Code 团队曾公开表示,他们采取”按需重建理解”(rebuild understanding on demand)的做法——当需要理解某个部分时,他们让 Claude 解释那个切片,而不是试图在脑中保持完整的系统模型。
Osmani 对此的评价是务实的。他写道,维持一个大型现代代码库的完整心智模型是不可能的(impossible),而且这种”理解力债务”比大多数工程师预期的更容易恢复——你不需要维持完整的模型,只要你能在需要时局部重建它就行。关键的一句话是:”You just need to know what you don’t have.”(你只需要知道你不拥有什么。)
这个实践本身就是认知卸载和认知投降之间的一个精确案例。Claude Code 团队选择了卸载——他们知道自己不完全理解系统的哪些部分,并且知道在需要时如何恢复理解。如果他们不知道自己不理解什么,那就是投降。区别不在于你是否理解全部代码,而在于你是否知道自己的理解边界在哪里。
从个人习惯到组织级问题
Osmani 的框架目前主要停留在个人实践层面——自问清单、验证习惯、技能维护。但他在 X 长文中提到 Storey 关于团队共享系统理论侵蚀的研究,已经暗示了一个更大的问题:当认知投降成为整个团队的集体状态时,会发生什么?
据 Business Insider 报道,研究者们对 AI 是否正在让人类变得更笨这一问题持谨慎态度——他们看到了一些不好的迹象,但警告不要过早下结论。这种谨慎是合理的,而 Osmani 的长文提供了一个更精确的分析框架:问题在于判断力的选择性退出。人们并没有失去思考的能力,他们只是越来越频繁地选择不使用这种能力。
Osmani 的核心论断——”You have to build critical thinking into your day, because by default nothing will do it for you”——在个人层面是一条自律建议,但放到组织层面就变成了一个制度设计问题。如果批判性思考需要被”主动构建进每一天”,那么谁来确保团队中的每个人都在这样做?代码审查流程是否需要重新设计,以对抗 Agent 生成代码的”看起来整洁、测试全过”的表面完美?团队的知识管理实践是否需要新的机制来检测理解力债务的积累?
这些问题目前没有标准答案。据 Osmani 在 X 长文中的引述,Claude Code 团队”按需重建理解”做法,是笔者在目前参考资料中看到的唯一组织级实践尝试——它承认完整心智模型不可维持,转而要求团队成员明确知道自己的理解盲区,并在需要时主动填补。这个策略能否在更大规模的团队中奏效,仍有待观察。
从技术与商业交叉的角度看,这里存在一个结构性张力:AI 公司(包括 Anthropic 自身)的商业模式建立在让 Agent 承担越来越多工作的基础上,而 Osmani 的警告则指出,这个过程中存在一种隐性成本——团队理解力的侵蚀——不会出现在任何季度指标中,却可能在关键时刻成为风险。笔者判断,随着 Agent 能力持续提升、人类直接编写代码的比例持续下降,”保持思考”将从个人层面的自律倡导逐步演变为工程管理中需要正式应对的议题——尽管这一演变的速度和形式目前仍不确定。
Osmani 的长文最后留下的问题,其实也是整个行业需要回答的问题:当你的 Agent 越来越强,你如何确保自己仍然知道自己不知道什么?
参考资料
- Critical thinking when agents do the work — Addy Osmani, X, 2026-11-03
- Cognitive Surrender — Addy Osmani, 个人博客, 2026-05-05
- Anthropic Engineer Warns of ‘Cognitive Surrender’ — Business Insider, 2026-11-05
- Thinking — Fast, Slow, and Artificial: How AI is Reshaping Human Reasoning and the Rise of Cognitive Surrender — Steven Shaw & Gideon Nave, Wharton School / SSRN(Osmani 博客中引用的原始论文)
主题分类:劳动力变革