AI Agent 时代的安全:与 Jonathan Jaffe 的对话

AI 对防御者和攻击者的作用是对等的,但业界对 AI 安全的恐惧叙事低估了防御方的能力。由于攻击面庞大(数以万计的目标),且所有供应商都在同步提升安全能力,被攻击的概率实际上在降低。关于代码质量,作者认为 AI 生成的代码虽然漏洞更多,但被审查和修复的速度也更快——软件中的漏洞总数是有限的,当解决速度超过引入速度时,系统会变得更健壮。

Lemonade 的实践是让每位安全人员都成为工程师,自己构建 AI 平台,上面运行多个 Agent:一个读取威胁情报,另一个检查漏洞方法是否在生产代码中被实际调用。作者强调”每个 Agent 都需要身份”——单个端点上可能运行数百甚至上万个 Agent,现有的身份与访问管理系统无法应对这种规模,必须在行动点层面对每个 Agent 实施策略管控。

Security in the Age of AI Agents: Office Hours with Jonathan Jaffe

查看原文