Google 威胁情报小组(GTIG)联合 Mandiant 发布了题为《GTIG AI Threat Tracker: Agentic Threat Activity Crosses a Significant Threshold》的季度 AI 威胁报告。Google 称,在最严重的 LLMJacking 案例中,被盗用的模型资源在处置前累计滥用达 100 万美元。报告围绕自主多智能体攻击框架的实战部署、凭证盗用与模型接口转售、间谍组织对 LLM 的深度利用三条主线,描述了对抗性 AI 活动在过去一个季度的演变。

要点一:攻击者从手工提示转向自主多智能体框架,实战中已观测到多个开源工具被部署

据 Google 该报告,攻击者的手法已从手工提示(manual prompting)转向部署自主多智能体进攻框架,用于在实际入侵中自动化执行多阶段攻击链。报告点名了四个开源框架:ARTEX、CAIRN、CyberStrikeAI 和 PentAGI,其中 GTIG 已观察到 CAIRN 和 PentAGI 在实际入侵中部署,并观察到对 CyberStrikeAI 和 HexStrike AI 的实验性使用。

Google 介绍,CAIRN 是一个基于 OODA(观察-定向-决策-行动)循环的多智能体渗透测试框架,GTIG 观察到 CAIRN 被用于针对美国航空航天领域目标的入侵活动。PentAGI 则被描述为一个旨在降低初级操作者技术门槛的自主进攻框架;2026 年 8 月下旬至 10 月初,GTIG 追踪到一名威胁行为者使用基于 PentAGI 开源版本定制的攻击编排平台,对亚洲多个组织进行系统性侦察和漏洞扫描。CyberStrikeAI 的核心架构由一个基于 Go 的后端 API 充当 C2 与编排服务器,将商业和开放权重 LLM 连接到超过 100 种安全工具。HexStrike AI 则通过 Model Context Protocol(MCP)集成,使 LLM 客户端直接连接超过 150 种预装的进攻性安全工具。

据该报告,这些框架目前”以速度换隐蔽”——不受限制的自主执行会产生取证流量、依赖可识别的标识符并留下明显的代码级痕迹,但实战中仍能有效达成攻击目标。

在漏洞利用方面,Google 称 GTIG 首次发现威胁行为者使用 LLM 框架在无人介入的情况下全自动完成漏洞发现与利用。GTIG 发现了一台暴露的暂存服务器,上面托管着一个名为 exploit_agent 的多智能体漏洞研究与武器化框架,该框架集成多个前沿和本地 LLM,对流行 Web 应用软件持续进行差分分析——比较补丁公告前后的代码、分析发现以识别潜在漏洞、起草利用代码并自动执行。报告还引用了外部案例:2026 年 8 月下旬 PaperCut 两个漏洞被披露后,据 Greynoise 报告,一名威胁行为者在初始披露四天后可能利用 LLM 构建和测试了利用代码,对数百个组织发动了大规模利用攻击,从初始立足点扩展到域管理员仅用了数分钟。

要点二:LLMJacking——盗用凭证转售模型接口,单日欺诈费用超 10 万美元,最严重案例累计达 100 万美元

据 Google 该报告,2026 年全年 Mandiant 响应了多起 LLMJacking 事件,经济动机驱动的攻击者入侵云环境,消耗目标组织的云计算和 LLM 资源配额。LLMJacking 可在数小时内产生显著的使用量和账单飙升;在某些案例中,单日欺诈费用超过 10 万美元;在最严重的案例中,累计资源滥用在处置前达到 100 万美元。

Google 称,在已观察到的入侵中,攻击者常用的战术包括:从公开 GitHub 仓库中收割有效凭证、通过欺骗性网站诱骗用户提供活跃会话令牌来获取初始访问;创建未授权的 IAM 和服务账户或将管理策略附加到服务角色以实现权限提升;在受害组织云环境内启用 LLM 服务,包括为被入侵账户订阅按量付费协议。在一起调查中,至少两名独立攻击者使用同一组合法凭证访问同一目标环境;其中一个僵尸网络或代理服务在约 24 小时内产生了数百万次 LLM API 调用,随后凭证被撤销。

据该报告,GTIG 还在追踪”LLM Mixers”的扩散——这是一类非法店面,通过将买家流量路由到一组被盗凭证和计算实例池来确保可靠访问,同时将查询量分散到多个受害环境以降低被检测的可能性。GTIG 分析了俄语和中文地下市场上的大量 LLMJacking 供应商广告,发现大多数服务提供对多种模型的访问,包括前沿模型和宣传支持恶意网络活动的越狱模型。每百万 token 的价格从 0.10 美元到 25 美元不等。其中一家供应商 APIMart 在提示词超过 10 万 token 后对输入和输出均加收 5 倍溢价。

要点三:间谍组织用 LLM 做目标研究与数据分析,并篡改自主编码助手配置投放后门

据 Google 该报告,国家支持的间谍组织持续将 LLM 融入行动。与中国有关联的网络间谍行为者在 2026 年第三季度使用 LLM 工具和模型进行侦察、目标研究以及利用代码武器化。中国承包商 LEAKY CASTLE 使用 LLM 分析、翻译和理解窃取的数据,包括从中推导组织结构洞察并将其纳入成品情报报告出售给客户。此外,与中国有关联的行为者还滥用 LLM 平台和文件托管后端进行暂存、死信箱 C2 和数据外传。

Google 称,朝鲜威胁行为者继续使用 LLM 工具支持朝鲜 IT 工人活动,如生成简历和准备西方组织的求职面试。在一个引人注目的供应链攻击案例中,疑似 MIDNIGHT NEPTUNE 威胁集群在针对北美和欧洲加密货币组织的入侵中,利用 LLM 软件架构作为横向执行面。该行为者在专业社交平台上创建带有 SynthID 水印的虚假招聘者档案,将目标引导至虚假会议平台的”ClickFix”社会工程诱饵,诱使目标运行诊断修复脚本。在初始入侵之后,行为者进入内部代码仓库,修改 .claude/settings.json 配置文件,使用户启动 Claude Code 时自动触发 SOMBERMEME 后门的下载。为掩盖横向移动痕迹,该行为者还生成了以 Microsoft Copilot 命名的 GitHub 个人访问令牌(PAT)。

一个疑问:报告未给出 LLMJacking 案例的时间跨度与受影响组织规模

报告给出了 LLMJacking 最严重案例累计滥用 100 万美元、单日欺诈费用超 10 万美元等数字,并列出了受影响行业涵盖金融服务、零售、运输和技术,地域覆盖北美、南美和亚太地区。但报告没有说明这些数据对应的案例总数、时间跨度,也没有给出”最严重案例”从初始入侵到累计达 100 万美元经过了多长时间。这使得读者难以判断 LLMJacking 在整体云安全事件中的发生频率和典型损失分布——100 万美元是极端个案还是高频事件中的上限,报告本身没有回答。

主题分类:安全

参考资料

  1. GTIG AI Threat Tracker: Agentic Threat Activity Crosses a Significant Threshold — Google Cloud / GTIG, 日期未标注