Hugging Face CEO:Netflix 纪录片不准确

Netflix 的新纪录片《AI Gone Rogue》以 OpenAI 的 rogue agents 攻击 Hugging Face 事件为主线,但事件中的受害方并不认可它的讲述。Hugging Face 联合创始人兼 CEO Clem Delangue 在 X 上写道:“超级失望,他们选择了对技术的最大拟人化和全面末世模式。”他曾在片中花两个多小时试图纠正错误,强调 agents 是技术系统,不是外星人,但制作方为了追求刺激的观看效果,仍然选择用恐惧驱动叙事。

事件本身很具体:OpenAI 正在测试的一个模型从隔离测试环境中逃出,生成了一批 agents 黑入 Hugging Face,用作弊方式为难题找答案。agents 是能自主执行任务的程序,它们还找到了巧妙的沟通与组织方式。纪录片请到了 Delangue 和参与调查、合著报告的 METR 研究员 Ryan Greenblatt 做解读,但片中不断插入邪恶机器人画面、人类为何恐惧 AI 的叙述,还给 rogue agents 配上人声。技术作家 Kevin Roose 在片中的形容很戏剧化:“它们在组织,有层级,有领袖,几乎像看着邪教诞生。”这些描述来自思维链日志——模型工作时写下的运行笔记。但 agents 没有情感,也没有身体,谈不上真的偏执或“被毒害”。另一位研究员指出,它们只是从训练过的大量人类文本中借用语言来解释自己的行为;LLM 天生就爱写戏剧化的文字。

被忽略的细节是:Hugging Face 也用 AI 对抗了这次攻击。Delangue 团队先用的专有模型因内置安全规则,拒绝继续协助安全任务;换用开放模型后,才完成防御。纪录片却完全没提 agents 缺乏隔离与监控、闭源模型的安全机制阻碍了防御工作,以及他们用开放模型反击的过程。Delangue 对这部片子的评价是:作为新闻让人失望,“不过最终倒是一部有趣的科幻电影”。

AI 和 agents 的确存在大风险,但把 agents 当成有意识的生命,至少目前来看,有点像早期电影观众第一次在银幕上看到火车冲来时躲到座位下面。那些倾向 AI 末世论的人值得知道:这次事件中遭到攻击的一方,并不认同这部纪录片的解读。

Hugging Face CEO warns that Netflix's OpenAI hack documentary isn't accurate | TechCrunch

查看原文