Claude Fable 5重新部署

美国政府对Anthropic最新模型Claude Fable 5的出口管制解除了。整个事件的导火索,是亚马逊研究人员发现了一种绕过Fable 5安全护栏的方法,能让模型识别软件漏洞并生成利用代码。这触发了政府的直接干预,但事后复盘发现,那些所谓的“越狱”行为实际上极其普通——几乎所有主流模型(包括较弱的Haiku 4.5、GPT-5.5等)都能完成同样的任务。Fable 5并没有泄漏任何独有的高级网络攻击能力。

Anthropic的解法其实很聪明,他们一直采用的是一种“深度防御”策略,核心是安全分类器。这些分类器会刻意留下很大的安全裕度,宁可误伤大量良性的编码请求,也不放过任何一丝潜在危险。这次事件后他们升级了分类器,堵住了报告中提到的特定越狱技术,成功率超过99%。代价是更高的误报率,也就是说,正常开发过程中一些无害的请求也会被拒绝。

这次事件最有价值的启发,不是技术本身,而是行业急需一个统一的越狱严重性评估框架Anthropic联合亚马逊、微软、谷歌提出了一个四维评分标准:能力增益、能力增益广度、武器化难易度和可发现性。这比单纯的黑名单式拦截要靠谱得多。未来的AI治理不应该靠临时的一纸禁令,而是要靠一套透明的行业标准来决定什么时候该叫停,什么时候该放行。这可能是比模型本身更重要的基础设施。

Redeploying Claude Fable 5

查看原文