AI 基础设施报告:智能体治理与安全防线

AI Agent 正在成为企业系统中的‘内部人’——它们有权读取邮件、查询数据库、触发 API 调用。它们不仅获取信息,还会主动行动。这种自动化的主动性能带来效率和客户体验提升,也引入全新的安全问题。

《State of AI infrastructure report》中,79% 的技术高管将安全、治理或运维视为扩展推理基础设施的最大挑战。传统的安全工具仍有用,但威胁模型已根本改变:自主工作流重新定义了企业风险,全面锁死系统会让 Agent 失去存在意义,因此业界需要既不牺牲敏捷性、又不放松管控的折中方案。

新威胁包括工具投毒(tool poisoning)和间接提示注入(indirect prompt injection)——攻击者能通过 Agent 处理的数据本身劫持其逻辑。动态权限管理也很复杂,而传统安全机制本就不是为这些自动化威胁设计的。35% 的资深 IT 决策者反映,阻止部署的首要原因即是‘多系统访问的防护不足’。

防御的重点正在从‘防止攻破’转向‘验证数据来源’,同时需要守护网络层和模型层。企业逐渐转向集成式全栈云平台以获取更全面的洞察:69% 的受访高管认为全栈平台是关键要求,80% 表示数据合规是选择的主要决定因素。

借助 Secure AI Framework(SAIF)等框架,并采用类似 Gemini Enterprise Agent Platform 这样的中央治理面板,组织可以从三处下手控制风险:一是安全内置默认(secure-by-default design),直接嵌入开发流程来防御提示注入;二是 Agent 治理与监督,通过专用权限和身份管理消除盲点、限制工具调用;三是人工介入控制(human-in-the-loop),设定规则让 Agent 在关键行动前自动请求审批。

治理的真正价值在于成为创新催化剂——把防线设计和治理规范沉淀到一个统一基础,企业才能在自己的关键业务中自信部署 Agent。进入 Agent 时代的企业正在重组技术栈,把安全当作起点,用加固后的基础能力支撑合规和迭代速度的优先。

State of AI infrastructure report agent governance and security

查看原文