
OpenAI发布网络安全新模型,但够用吗?

Max Justicz是Charge Robotics的首席技术官和联合创始人,也是个网络安全爱好者。他用OpenAI七月发布的模型GPT 5.6 Sol,在两小时内找到Ubuntu的一个严重漏洞——如果被利用,攻击者能控制运行Ubuntu的服务器。Justicz把问题报告给Debian项目(该软件的维护方),补丁已发布,目前没有已知利用。他此前就在同一代码库里发现过漏洞,这次是通过OpenAI的Daybreak Blue项目拿到模型访问权。他的操作很简单:把ChatGPT对准同一段代码,要求找出和几年前修复的那个bug同样严重或更糟的漏洞。结果是一个极其复杂、人类很难发现、但确实有效的漏洞。
Justicz认为这事只是冰山一角。他在社交媒体上写道:如果有更多时间和更少限制的模型,未来几个月里会出现“极其疯狂”的漏洞被发现和利用;现在拿着没人审计过的代码或二进制文件,用强大AI模型去扫,有巨大的超额收益。为了找几个漏洞,他个人花了大约5000美元购买订阅和tokens。
OpenAI也在跟进。公司宣布推出网络安全专用模型ChatGPT Cyber,提供给Daybreak Red最高层级用户——这个项目面向进攻性安全研究人员,用于漏洞挖掘和利用开发。OpenAI还表示,同一个模型被用于扫描Linux内核漏洞并准备补丁,发现948个潜在问题;在Firefox浏览器里找到81个“新颖”漏洞。这家前沿实验室称,目标是大幅扩展Daybreak,把先进安全研究带给各种规模的组织、独立研究员和开源维护者。此外,OpenAI还宣布了一项10亿美元计划,支持参加Daybreak、在电网或水系统等关键基础设施上工作的网络安全专业人士。
OpenAI坚持认为,在AI模型变得更擅长黑客攻击、更容易获取之前,保护数字基础设施的人有一个狭窄的窗口期。但防御者的感受可能相反:前沿实验室释放了一大堆超出自身资源的新任务。Daybreak项目也有批评。Justicz说OpenAI最近似乎在“削弱”Daybreak Blue,让它找漏洞时更不顺手。限制访问可能挡住潜在恶意行为者——Justicz本人上传驾照照片才加入。但安全圈担心的是,坏人可以自由使用去除了护栏的开权重模型,防御者却只能被绑着手。
参与人数和资源投入也很说明问题。OpenAI说目前只有“数千”名网络安全专业人士在Daybreak里,而潜在黑客群体要大得多。OpenAI技术研究员Eric Wallace说,公司正把大量前沿算力“完全无偿”地用于发现和修补开源代码库漏洞。但这次Linux漏洞搜索花掉120万美元,远低于该公司花在流体动力学一个著名难题的潜在解上约600万美元的token支出。作者由此质疑:如果修补全球依赖的数字基础设施的窗口真的很窄,前沿实验室可能需要更多紧迫感。


