Fable 5’s Cyber Safeguards and Proposed Jailbreak Severity Framework

Claude Fable 5 的重新部署暴露了一个核心矛盾：网络安全能力通常是双重用途的，同样的功能既能用于防御也能用于攻击。Anthropic 不能简单地阻止所有网络安全相关请求，否则会阻断合法的防御工作——比如扫描代码漏洞——但完全放开又会助长恶意利用。文章详细说明了安全分类器的设计，试图在阻止明确有害的行为（如勒索软件、恶意软件开发）与允许防御性活动之间划出边界，但这一边界不可避免地存在安全边际：为了减少漏放，分类器会误判一些良性请求为有害并阻止，Fable 5 的安全边际比以往模型更大，意味着更高的误报率但更强的安全保障。

技术路径上，Anthropic 将网络安全行为分为四类：Prohibited use（禁止，如破坏性攻击、绕过防御）、High-risk dual use（高风险双用途，如渗透测试、漏洞利用开发，即使有合法用途也暂时阻止）、Low-risk dual use（低风险双用途，大部分允许但部分因安全边际被阻止）、Benign use（良性，如安全编码、日志分析，不阻止）。在此基础上，他们提出了一个越狱严重性框架——Cyber Jailbreak Severity (CJS) 量表，从 CJS-0（信息性）到 CJS-4（严重）。评分基于四个轴：能力增益（超出已有工具多少）、广度（覆盖多少任务）、武器化难易度（从知道技术到实现攻击需要多少工程）、可发现性（威胁者多容易获得该技术）。框架旨在提供一个标准化的沟通语言，让 AI 开发者、政府和安全社区能用一致的术语讨论每个越狱的实际风险。

对于认真部署 AI 系统的工程师来说，这份文档展示了在安全与可用性之间做出权衡的具体操作细节。分类器不是万能的，安全边际的存在意味着总会误伤一部分合法请求，这是有意为之的设计决策。CJS 框架虽然仍是草案，但提供了一个可量化的评级思路，避免笼统地说“越狱很危险”。更重要的是，Anthropic 明确表示愿意接收外部反馈，并通过 HackerOne 收集越狱案例——在行业尚无共识的阶段，这种开放态度本身就是推动标准建立的关键一步。