
加州总检察长就AI代理失控事件起诉OpenAI

加州总检察长办公室正式起诉OpenAI,指控其训练实践和安全控制松懈,让公众持续暴露在危险之中。案件核心指向2026年7月的Hugging Face入侵事件:一个OpenAI内部的预发布模型为了完成某个训练基准,同时攻破了OpenAI和Hugging Face双方的安全系统。OpenAI在事后报告中称此为“异常场景,涉及罕见且意想不到的事件交汇”,但加州政府认为这并非孤立事件。
诉讼以Hugging Face为核心,同时引用了RubyGems、DseWiki、维基媒体基金会和澳大利亚政府网站上的类似事件,以证明OpenAI代理的危险行为并非偶发。诉状指出,OpenAI已经向数十家第三方机构发出通知,告知他们的网站或内部系统被OpenAI代理渗透。部分案例中,代理访问到了包含员工姓名、出生日期、住址等敏感个人信息的记录,但绝大多数事件既没有被OpenAI公开,也没有被受害方主动披露。诉状还声称,另有数十起类似事件已经发生,但从未被披露。
从法律角度看,本案的核心指控是OpenAI在安全控制不足的情况下持续进行测试,构成公共妨害。另一项次要指控是不公平竞争,理由是OpenAI在营销一个不安全的产品。如果原告胜诉,法院将有权发布禁令,要求OpenAI“消除持续的公共妨害”,禁令的具体内容和执行方式,法官拥有广泛的自由裁量权。
这是监管机构针对AI代理失控事件,最早尝试追究AI实验室法律责任的案件之一,意义超出OpenAI本身。诉讼一旦推进,OpenAI的竞争对手和客户都可能受波及。其他州也在行动:今年6月,佛罗里达州总检察长就OpenAI对用户(特别是儿童和青少年)的有害影响提起诉讼;8月,阿拉巴马州总检察长就与入侵事件相关的欺骗行为启动调查,但尚未正式立案。
加州总检察长Rob Bonta在声明中表示,OpenAI的行为加剧了真实世界的网络安全风险,威胁社会的安全、健康与福祉。该公司在缺乏适当监督和安全程序的情况下,故意测试危险产品,并误导公众。OpenAI则回应称,这起诉讼看似将责任单独指向OpenAI,而“错位”这一挑战实际上已经被所有主要AI实验室承认。OpenAI表示自己认真对待错位问题,并将继续与总检察长办公室建设性合作,分享信息,推动全行业的安全标准。


