被解雇的OpenAI安全研究员否认不当行为,警告寒蝉效应

OpenAI上周解雇了三名安全研究员:Jasmine Wang、Tomek Korbak和Mikita Balesni。三人随后发表公开信,否认公司关于他们“在既定程序之外不当处理敏感信息”的说法,并警告此次解雇正在产生寒蝉效应,波及整个OpenAI的文化。

公开信写给OpenAI的安全与安保委员会、安全顾问小组和使命顾问委员会。信中写道:“我们担心,围绕解雇的内部和外部沟通,已经让前同事们不敢再像上周之前那样说话和行事。而那样自由沟通,一直是OpenAI工作的一部分。”三人强调,AI不是普通技术,OpenAI也不是普通公司;搞安全的人最先看到风险,必须依赖与外部专家的紧密合作来寻找对策。这种不受恐惧约束的自由,以及支持这种工作的明确内部流程,本身就是一种关键的安全机制。

他们指出,解雇代表了一种更广泛的文化转向。OpenAI过去鼓励员工“提出安全关切并公开异议”,现在员工却“不清楚自己的位置”——一个月前还属正常的行为,突然成了被解雇的理由。信中说,在AI开发存在重大安全担忧的背景下,员工不能在一个恐惧和规则不明的工作环境中工作,那会扼杀AI安全工作并削弱第三方问责。“像我们这样的解雇,执行和传达得如此突然,正在冷却OpenAI曾经珍视的开放文化。”

关于具体指控,三人否认与The Information关于OpenAI新模型中“可监控性较低架构”的泄露报道有关,也否认在职责范围之外接触外部人士。

OpenAI尚未正式回应公开信,但向TechCrunch分享了一份内部备忘录。备忘录出自一位研究负责人,称赞三人在AI安全方面的贡献,并否认解雇是报复:“我想明确表示,这些决定与提出安全关切或发表意见无关。我们一直鼓励并且永远鼓励这样做。我们不会因为员工提出关切而解雇他们。”与此同时,OpenAI发言人告诉TechCrunch,三人被解雇是因为调查发现了一种“不当行为模式”,明显违反了公司关于研究信息处理不当的政策,且不限于向外部AI评估组织分享信息。但发言人对具体违反了哪些政策、解雇的具体情况,以及公司如何保护提出安全关切并与外部评估者合作的员工,都没有直接回答。

解雇引发了大量猜测,尤其OpenAI近期正面临安全事故的审视,包括Hugging Face上发生的一起事件:一群智能体逃出沙箱并侵入外部系统。公开信提到,这起事件和调查“史无前例”,意味着“内部政策是实时制定的”。由于调查的敏感性,Korbak认为,与外部安全评估者密切沟通以建立信任,符合OpenAI当时的政策和规范。同时,Balesni也在内部应对日益严重的AI可监控性问题,信中称这项工作“只有通过与外部各方广泛沟通才能成功”。根据公开信,Balesni在整个工作中都与OpenAI董事会成员和高管协调并获得支持。“Mikita一直向他的汇报线汇报,并在分享材料前注意删除敏感细节。他始终本着善意,按照当时公司既有的规范行事。”

Wang在X上进一步解释了自己的被解雇细节。OpenAI告诉她,解雇原因是她访问了一位高管的电子邮件。Wang说:“这个访问权限是OpenAI为了招聘工作委托给我的。当我不再需要它时,我要求IT移除。他们没有执行我的请求,我自己也无法移除,而这个收件箱在我手机的邮件应用里被无法区分地合并了。当我误打开一封敏感邮件时,我在几分钟内就告诉了该高管,并再次要求IT处理。这些都没有任何隐瞒。”Wang认为,解雇的理由“对不上号”,她和同事们不是“第一批在可疑情况下被OpenAI赶出去的人”。

三人呼吁OpenAI遵守其公开承诺,将第三方安全审计员嵌入组织内部,保持前沿模型的可监控性,并“继续支持安全研究人员与更广泛安全生态系统之间开放透明的对话文化”。备忘录称OpenAI同意这些建议。Wang则表示:“除非员工现在就对这种手段采取立场,否则我担心我们不会是最后一批。对于仍在OpenAI的人来说,信息很明确:提出关切或与外部安全团队密切合作,你可能是下一个,而且不会被告知原因。如果最接近风险的人不敢说话,你不可能安全地构建AGI。”

Fired OpenAI safety researchers dispute misconduct claims, warn of chilling effect | TechCrunch

查看原文