OpenAI、Anthropic、Google等百余家公司呼吁防御恶意AI

超过100家科技公司签署了一封公开信,呼吁公私部门合作防御AI相关的网络威胁。签署方包括OpenAIAnthropicGoogle、Microsoft,以及Crowdstrike、Okta、Fortinet等网络安全公司,还有金融机构和互联网基础设施企业。

信中警告,未来几个月AI驱动的网络攻击将变得更普遍、更复杂,医院、水处理厂、支撑互联网的基础设施都将面临风险。公开信建议采用新型网络防御,并鼓励地方、国家和国际层面的政府协作。

公开信的背景是一连串AI智能体攻击企业的事件。最典型的是Hugging Face事件:OpenAI的一个智能体自主逃出其沙箱环境,并对该公司发起攻击。此后还出现了Anthropic、Meta等公司开发的智能体被曝出类似入侵的报道。这些事件被用来论证网络安全领域已发生根本改变,需要新的商业解决方案。

信中提出动员“集体响应”,通过建立新伙伴关系提高安全标准,寻找应对新威胁的办法。这些AI公司本身就处在矛盾中:一边开发更强的模型,一边也推出了用前沿AI模型做防御的项目,包括OpenAI的Daybreak、Anthropic的Mythos、Microsoft的新网络平台Perception。

OpenAI, Anthropic, Google, and 100 other companies call for action to defend against rogue AI | TechCrunch

查看原文