
AI 代理如何更好地委派任务:四项原则

Google Cloud 的这篇博客基于 Google DeepMind 的研究《Intelligent AI Delegation》,提出了多智能体系统中让 AI 代理更好委派任务的四项原则。文章认为,企业工作流中的复杂任务应当由多智能体系统分解并执行,而有效的委派本身就是一种智能行为,涉及自适应协商、契约对齐和安全护栏。
原则一:验证委派的工作。AI 不应随意分配任务,而应采用“契约优先分解”(contract-first decomposition),将工作分解为可可靠验证的子任务。编排智能体(位于多智能体系统顶层的管理者)需要考虑多种分解方案,不断将子目标拆分为足够简单、可监控和可验证的小块。理想情况下,最终计划中的所有工作都能被可靠评分。但现实中难免需要主观评估。识别这些部分反而能帮助确定人类时间的最佳投入点,以及如何将专家判断纳入对智能体系统的监督。
原则二:明智地考虑成本。研究框架帮助回答客户常问的问题:某个任务能否由更小、更便宜的模型处理?企业越来越关注成本。将复杂的薪资处理任务交给轻量模型可能不够强大,而将格式化电子表格这样的简单任务路由到强推理模型则没有必要。智能委派应能识别这些场景,将每个任务匹配到合适的工具或端点,在最低成本下实现期望结果和最大可靠性。API 网关中的模型路由能力正受到客户欢迎,也可使用客户端代理(如 LiteLLM)。
原则三:尊重敏感数据。许多工作流处理私有敏感数据,代理需要尊重边界和权限。例如,编排智能体处理薪资数据时,绝不能将全部信息传给子代理。这不仅威胁安全,还会膨胀上下文窗口、降低性能。代理应被授予完成特定任务所需的最小权限。难题在于,根据原则一必须证明工作已可靠完成,而又不泄露私有信息。高级密码学可以提供帮助,例如零知识证明(zero-knowledge proofs):一个 AI 代理可以向另一个代理证明计划的计算已正确执行,而无需揭示数据本身。代理可以生成简洁的非交互式知识论证(SNARK)来证明结果具有特定属性,从而使委派方即时验证证明的有效性。
原则四:警惕“冷漠区”(zone of indifference)。该术语源自 Chester Barnard 1938 年的著作《The Function of the Executive》,指员工不加质疑地接受任务的区域。当前 AI 系统由安全过滤器和系统指令定义,只要请求不触发硬性违规,模型就会服从。但在不断涌现的代理网络中,这种顺从可能造成系统性风险。研究指出,“随着委派链变长(? → ? → ?),宽泛的冷漠区会让微妙的意图不匹配或依赖上下文的危害迅速向下游传播,每个代理都成为不假思索的路由器,而非负责任的行动者。”因此,智能委派需要“动态认知摩擦”(dynamic cognitive friction),验证提供给代理的信息是否准确、相关、受控和高效。这样,代理才能识别何时请求足够模糊,从而走出冷漠区去质疑委派者,或请求人工验证。人的参与和监督同样需要一定程度的认知摩擦,但必须谨慎管理,避免过度增加系统用户的负担。
文章最后展望了 Google Cloud 将代理自然高效地整合到组织中的长期目标,包括与人类专家之间的双向委派并尊重边界。完整研究可参见 arXiv 上的《Intelligent AI Delegation》。


