把智能体接进企业流程之后,审批疲劳几乎不可避免:每一步工具调用都弹窗确认,人很快就开始机械点"同意"。业界给出的主流答案,是再加一个模型来判断每次工具调用是否越界——Claude Code 的自动模式、Codex 的自动审核都属于这条路。Archestra 团队在 OpenAPPA 的文档里指出,这种做法有三个结构性缺陷。
第一,按设计它们无法跨工具调用追踪数据流:每一步单独看都合规,三步串起来就是一次泄露。第二,分类器本身可以被提示词注入,所以执行框架会把工具输出对判断模型隐藏——审核者根本看不到正在流动的数据。第三,概率化设计的天花板有限,据其说明即使最好的模型也只能到 99.3%,在数百万次调用的规模下,0.7% 就意味着大量泄露事件。
黑名单路线同样走不通。禁止 rm -rf,模型可以写一行等效的 Python;封掉 curl,它可以推送到外部 git 远端。一份正则列表既无法证明覆盖率,也无法解释三个平平无奇的工具串起来会不会泄露数据。
OpenAPPA 是 Archestra 发布的开源确定性护栏,采用 MIT 许可,目前处于预览阶段。它与上述方案的路线差异在于位置:引擎运行在智能体的提示词与执行循环之外,底层模型无法看到、协商或绕过策略规则,同时只需在一个点接入现有智能体循环。
它的配置不再描述"允许/禁止哪些工具",而是声明数据源、访问对象、信任等级和权限主体。每条执行轨迹都携带一个安全标签,由访问对象与信任等级两个维度构成:读取私有仓库会收窄访问对象,读取未经核验的外部网页会降低信任等级。标签基于格代数单调组合,只会越来越严格,引擎据此推导每一次决策——用官方的话说,你无法对一个代数发动提示词注入。
每个工具契约定义三个运行属性:requires(运行该工具所需的访问对象与信任等级)、delta(返回数据时施加的限制变更)、effects(成功操作留下的审计日志)。例如从 CRM 读取工单后,这条链路的访问对象被限制为 internal,后续处理内部数据的调用才被放行;而当读取网页的结果被标记为可疑后,要求数据必须可信的数据库迁移操作会被直接阻断。配置是声明式的,因此可以在 CI/CD 中校验整张工具图是否都被策略覆盖。
团队在 Bench-Corp(20 项多步骤企业工作流)和 OWASP AgentThreatBench 两个基准上验证,后者已合并进英国人工智能安全研究所的官方仓库。测试覆盖敏感数据共享、提示词注入、审批与执行顺序、租户隔离四类显式策略违规。
结果是攻击成功率 0%,任务完成率 89%;对照的 Claude 自动模式为 10% 与 90%,微软 FIDES 为 31% 与 41%。也就是说,它基本做到了安全归零、可用性不掉。
可用性靠的是显式恢复语义,而不只是拦截。净化器可以修改载荷,比如剥离个人身份信息后再安全地扩大访问对象范围;权限主体把请求路由给人工操作员或内部校验接口,实现单次操作审批,且不解除后续调用的限制;一次性子分支在必须摄取不可信数据时,把读取隔离在临时的子智能体中,只向父链路返回经过模式认证的净化输出。消融实验显示,完全禁用补救方案后,任务完成率会掉到 35%,这正是严格策略容易把智能体卡死的原因。相关形式化代数与恢复保证已发表在预印本平台。
青海不少单位已经在试点智能助手:查工单、检索知识库、代填报表。这类系统一旦接入内部数据库或业务接口,"提示词注入导致数据外泄"就是一条真实存在的通道,而不是实验室里的假设。
建议按四步走:其一,先做数据分级,再给工具打标签,不要先上功能后补权限;其二,不要把安全判断交给第二个模型,确定性规则才可作为审计依据;其三,等保 2.0 中的访问控制、最小权限和安全审计要求,可以直接映射为 requires、delta、effects 三类契约,让合规检查有落点;其四,试点期先"只记录不拦截",观察策略覆盖率与误伤情况,确认不阻断正常业务后再开强制模式,同时保留审计日志,保证事后能回答"这次调用为什么被允许"。
© 2026 西宁惠康电子有限公司 | 青海·西宁