Databricks 称:”智能体可以调查控制,但不能成为控制。”(原文:The agent can investigate the control. It cannot become the control.)这是其 Forward Deployed Engineers 团队为受监管行业总结的核心原则。据 Databricks 官方博客,该系列文章介绍了 4 种架构模式,分别对应确定性控制、确定性裁判、人类决策边界和明确的操作边界,用来决定智能体在哪里推理、生成、推荐或行动。博客称,企业正在向基于固定规则和可重复流程的系统中添加智能体,而问题不在于二选一,而在于如何让它们协同工作。

下表按原文给出的维度,逐项对照 4 种模式:

维度 模式一:确定性控制 + 智能体推理 模式二:智能体执行 + 确定性裁判 模式三:智能体推理 + 人类权威 模式四:有边界自主的智能体执行
适用条件 结果必须严格可复现,或错误不可逆且修复成本高 多个答案可能都有效,但结果可被客观测试 答案需要判断,无法用固定规则测试证明正确 智能体需要行动,但只能在明确的操作边界内
谁做最终决定 固定规则控制决定结果是否通过 规则引擎裁判判定候选结果是否满足已批准的验收契约 可问责的人保留最终决定权 在操作边界内智能体可发起限时授权;超出边界则路由给数据所有者、数据专员或风险审查人员
原文举的例子 对账(reconciliation)、监管计算、策略执行、数据质量门控、系统完整性检查 遗留系统迁移或现代化、代码生成、转换、测试、修复 金融犯罪调查,以及法规要求对显著影响个人的决定保留人类决策的场景 治理智能模块管理受治理企业数据的访问
边界由什么守 显式的、版本化的契约,记录数据、规则、容差、配置和执行上下文 规则引擎裁判测试代码是否编译、模式是否一致、数据是否对账、控制总数是否匹配、治理要求是否满足、性能是否达标 人类审查位于决策边界而非每个步骤内部;每条建议须可追溯到证据、来源和工具;调查人员记录最终决定的理由 操作边界定义哪些数据产品和访问级别可直通处理、哪些身份/目的/地理/法律实体/驻留/职责分离规则须通过、最长时限和最低访问级别、哪些已批准的 Unity Catalog 操作可发起、哪些敏感或例外请求须人类批准、访问如何被监控/过期/撤销/记录

表中信息均来自 Databricks 官方博客《Four AI Architecture Patterns for Regulated Industries》。

固定规则与智能体的分工

Databricks 称,在模式一中,智能体的角色是在对账失败后收集证据、检查数据血缘和批处理状态、将当前中断与历史事件比较、测试一组有限的原因并给出建议,但固定规则控制仍然决定对账是否通过。在模式二中,博客给出的指导是:”当你可以用固定规则评估智能体的输出时,不要让智能体本身变得确定性。”裁判不仅是控制,也是让智能体改进结果的反馈回路——如果结果未通过,智能体接收证据、诊断问题、修正工作并再次通过验证。博客同时指出,通过裁判只证明候选结果满足了已批准的验收契约,并不证明该契约覆盖了所有生产行为,测试覆盖率、生产级边缘用例和定期审查仍然重要。

人类权威与有边界自主

Databricks 称,模式三适用于结果具有重大影响且无可复现的方法确立正确性的场景。博客指出,”人类审查应位于决策边界,而非每个步骤内部。”智能体的推理须可解释,每条建议应追溯到背后的证据、来源和工具,让调查人员可以质疑逻辑,让审计人员或监管机构可以重建智能体得出建议的过程。在法规赋予受影响者解释权的场景中,解释须针对具体决定,涵盖主要因素、智能体角色和人类角色。博客称”模型标记了它”这句话是不够的,调查人员须记录最终决定的理由,包括任何对智能体建议的否决。

Databricks 称,模式四的原则是”不要试图约束每一个决定,而是约束操作边界”。博客描述了一个治理智能模块的场景:用户描述所需数据、用途和时长,智能体解释请求、确定最低访问权限并收集身份、策略、所有权、分类、血缘和使用上下文。在操作边界内,固定规则策略服务验证每个必要条件,然后由 Unity Catalog 执行授权。博客还称,在该边界内跨验证周期实施多智能体裁判框架,可以用自动化的多视角安全检查补充人类监督。

模式不互斥,先选模式再选智能体

Databricks 称,这 4 种模式并非互斥,一个生产系统可能对一个决定使用固定规则控制,对一个例外使用人类权威,对一个已批准的修复使用有边界自主。博客称,重要的是把每条边界写明。在设计智能体方案之前,应先回答三个问题:智能体可以推理什么、智能体可以被允许做什么、什么必须留在智能体权限之外——这些答案决定方案需要固定规则控制、规则引擎裁判、人类决策边界还是明确的操作边界,模型的选择在这个架构决定之后。博客还称,随着系统在生产中成熟,这些边界可以调整:规则引擎裁判利用积累的使用数据完善评估规则,人类权威边界可以随着反馈建立对智能体推理的信心而移动。

主题分类:技术与产业

参考资料

  1. Four AI Architecture Patterns for Regulated Industries — Databricks, 2026-11-19