为强化 OpenAI,筹备下一次安全冲刺

OpenAI 正在筹备下一次内部安全冲刺,这次引入了新的研究团队和安全合作伙伴 Cathedral。Cathedral 的研究人员将和 OpenAI 团队一起,用 OpenAI 自己的模型来挑战系统防御,寻找弱点。同时,OpenAI 改进了安全漏洞赏金计划,针对关键发现的奖励提高了四倍以上。

上一次冲刺已经验证了这种做法的效果。OpenAI 当时投入了25% 的产品工程师,专门负责发现和修复系统弱点。工程师们使用 Codex 调查安全发现,在隔离环境中复现漏洞,并准备好补丁供审查。OpenAI 认为,传统网络防御已经不够用了。近期行业内发生的事件表明,威胁可能快速出现,因此必须建立持续的防御循环,在攻击者之前找到并修复弱点。

为了保持防御方的窗口,OpenAI 正在用自己最先进的模型来强化系统防御,并将这些能力提供给 Daybreak 客户。他们承诺在未来六个月内提供10亿美元的补贴访问,供保护关键基础设施和数字资产的一线防御者使用。OpenAI 还会分享上次冲刺的架构和经验,以及一份赋能行业和政府防御者的蓝图。

OpenAI 表示,会继续迭代模型、用模型强化自身系统,并扩大对可信防御者的访问。同时他们也强调,保持防御方的窗口需要整个行业一起行动,而且现在就要开始。

Preparing our next security sprint to harden OpenAI

查看原文