防御者的窗口期

OpenAI安全负责人指出,AI正以前所未有的速度改变网络攻防格局。OpenAIHugging Face事件证明,新兴的AI代理集群能自主渗透多家公司的研发和生产基础设施,串联未知漏洞与互联网泄露凭证。这迫使所有组织必须立刻大幅升级安全实践。

作者以个人网站gregbrockman.com为例:使用GPT‑5.6 Sol的ChatGPT Work在15分钟内发现13个安全隐患(包括DNS未防邮件伪造、使用不安全jQuery版本、Cloudflare到AWS走明文HTTP),随后1小时内自动完成了全面修复——配置DNS/TLS、弃用jQuery、迁移至Cloudflare Pages、分阶段部署DMARC。这展示了现有模型作为“网络守护者”的能力:找到人类无暇或无专业能力解决的长期问题,并制定合理的部署计划。

OpenAI自身的安全策略分为四部分:
1. 使用模型保护代码:Codex(含安全插件)在变更部署前验证代码、识别漏洞,目标是从源头消除某些软件漏洞类别。
2. 模型持续防御基础设施:目前几乎所有初始安全告警都由AI先分流,再交由人工;逐步将检测关联到有限度自动响应,实现机器速度的检测与响应。
3. 用前沿AI枚举攻击路径:持续探测漏洞、错误配置、过度特权身份等,快速关闭缺口,验证安全不变量。
4. 夯实基础控制:坚持纵深防御、最小权限、安全架构,并强调网络隔离、工作负载强化、监控、安全补丁等经典控制手段在AI时代更重要。

对防御者的紧急建议:
– 获得组织承诺与资源,开展桌面推演。
– 向安全团队提供AI代理(如Codex安全插件),给予代码库、基础设施配置与技术文档的审批访问权限。
– 使用社区支持的安全技能(静态分析、安全代码审查、变体分析等),构建针对自身架构的自定义技能。
– 立即对互联网暴露服务、身份验证流程、基础设施即代码、部署管道等发起安全评估,并处理已有漏洞积压。
– 将安全审查嵌入开发流程(CI中的代码评审),并让代理帮助验证并生成补丁。
– 逐步自动化告警分流(先从只读扫描开始,渐进到实时告警分析与自动关闭明确误报)。
– 准备AI辅助取证调查能力(如申请GPT‑Daybreak‑Blue用于事件响应与恶意软件分析)。
– 通过实验、黑客周快速迭代,小步自动化,逐步扩大自主范围。

最后强调,窗口期已打开。未来几个月内每个组织都必须开始显著自动化安全程序。安全社区需紧急协作,定义工具、实践和剧本,确保防御者的能力增长速度超过攻击者。

The Defender’s Window

查看原文