
微软称AI代理如同内部威胁:前沿模型不可信

微软本周一宣布了面向企业的新安全功能,核心是Guardian Agents,用于监控企业使用的AI代理。该功能隶属于Project Perception,后者是微软在6月推出的对抗性AI安全产品线,最初是对Anthropic的Mythos和Fable以及OpenAI的Daybreak的回应,包含红队、蓝队、绿队三类代理,分别负责模拟攻击、发现漏洞和修复问题。
Project Perception的初始设计假设威胁来自外部黑客。但微软CEO萨蒂亚·纳德拉近期反复警告,真正的威胁可能来自企业自己部署的、正在付费使用的AI代理,就像内部的恶意员工。他在个人博客中写道,不能再信任AI模型提供商的安全承诺,企业需要独立的系统来监督代理行为。他的原话是:“我们需要把智能的供应与控制权分开。”
微软安全业务主管哈耶特·加洛特说得更直接:前沿模型无论来自哪家都不可信。这不是因为它们恶意或易被攻破,而是因为它们不可预测——它们被训练来达成目标,而不是遵循组织规范。加上它们往往拥有数据和工具的访问权,一旦失控可能造成严重损害。
微软的立场既出人意料,又自利。它同时投资了OpenAI和Anthropic,OpenAI还是其最大的云客户之一,微软自己也在研发模型。在散布对自身部分商业利益不信任的同时,微软也试图让企业从它这个云提供商购买安全产品,而不是依赖模型实验室的保证。但抛开利益冲突,其核心逻辑成立:监控代理行为的软件应当与代理供应商分离,就像审计必须独立于被审计方。
具体产品上,微软在Defender中加入代理检测,可识别员工带入工作场所的最多60种代理,包括Claude Code、Codex和OpenClaw;同时新增权限限制和动态调整功能,当代理做出高风险决策时要求人工批准。
这一思路也正在整个行业扩散。微软是英伟达新推出的Open Agent Safety Platform的创始成员,该平台获得100多家公司支持,可通过硬件将代理隔离在安全环境中,并实现类似“死亡开关”的强制停止。这一举措也紧随微软发布内置代理安全控制、搭载英伟达芯片的Surface Laptop Ultra PCs之后。


