对抗对抗性蒸馏:OpenAI如何防御

对抗性蒸馏(adversarial distillation)指的是恶意行为者用前沿模型的输出,未经授权训练出能力相近但缺少安全护栏的模型。OpenAI在本文中拆解了这一威胁,披露了检测与阻断手段,并给出了可复用的防御清单。

核心关注点是受保护推理(protected reasoning),即模型在作答过程中生成的中间步骤,也就是思维链。这些痕迹包含最终答案不会显露的信息,是训练另一个模型的优质数据。OpenAI在GPT-6.2 Astra和GPT-6.2 Sol上加强了防提取能力。内部自适应红队评估中,攻击者恢复模型早前提示所生成受保护推理的平均成功率,从GPT-6 Astra原始防护下的54.0%降到GPT-6.2 Astra更新防护下的0.2%。在自适应黑盒评估中,GPT-6.2 Astra每种攻击类型的平均成功率都低于1%,且均显著低于GPT-6 Astra。

蒸馏本身是常见机器学习技术,一个模型从另一个模型产生的数据中学习。问题在于,第二模型学到了前沿能力,却没有继承教师模型的安全约束。这种风险在网络安全和生物等双用途领域尤其明显:能帮防御者找漏洞的模型,也能被用来辅助攻击。OpenAI对此做了内部研究:以用户可见内容(最终响应、推理摘要、工具交互)为基线,测试学生模型在额外拿到教师精确推理痕迹后,会多转移多少网络攻击能力。结果显示,监督微调后,基于精确推理痕迹训练的学生通常优于基于推理摘要的学生;经过轻量强化学习后,精确痕迹学生在最大推理预算下两个基准得分更高,摘要学生在较低预算下得分更高。这说明,即使底层任务本身符合使用政策,精确推理痕迹也会教给学生超出教师原始任务的技能,因此保护推理痕迹能限制网络能力的转移。

防御分两层。请求级:对抗训练让模型识别并拒绝提取尝试,同时不损害对合法解释请求的回应;输入分类器检测提取尝试,输出分类器在助手消息和工具调用参数中拦截受保护推理的泄漏,且对流式与非流式响应均生效;API层限制加密推理在对话、用户、工作区、组织及模型家族之间的复用,并防止旧模型读取新模型的受保护推理。在GPT-6.2 Astra和GPT-6.2 Sol上,模型推理与产生它的对话历史绑定;如果一条早期消息被重写,API会丢弃其后生成的推理。活动级:通过请求和账户信号发现协调提取活动,调查并封禁相关账户网络,同时将调查中发现的攻击转化为训练和测试样例。OpenAI还与其他模型提供商共享入侵指标。

今年已看到多个未经授权的对抗性蒸馏活动。每周的执法行动涉及数千至数万个账户,夏季以来显著增加。OpenAI同时跟踪蒸馏滥用的普遍性和检测到执法的时间,目标是压缩攻击者可获取的数据量与价值、提高蒸馏成本、缩短响应时间。

对抗性蒸馏还有国家安全影响。2月OpenAI向国会简报DeepSeek试图蒸馏美国前沿模型;9月报告破坏了一个提取受保护推理的活动,并将核心部分归因于与Moonshot AI(Kimi开发者)相关的个人。OpenAI支持更严格的出口管制和相关立法,以限制对手获取训练硬件或已训练模型能力。

OpenAI建议其他模型开发商和平台:保护整个交互中的私有推理,检查助手消息与工具调用参数泄漏;保留红队、生产监控或外部披露中发现的成功提取攻击日志,作为回归测试;在评估新防御时,先重放旧攻击,再用自适应红队寻找新路径;将请求级缓解与活动级调查执法结合;与部署合作伙伴协调保护要求,提高行业整体下限。

这些防御的目标是减少前沿能力在缺少足够保护的情况下被复制。OpenAI将继续通过Frontier Model Forum和政府信息共享渠道分享经验。

Combatting adversarial distillation

查看原文