OpenAI 推出客户隐私保护新服务,叫板 Anthropic

OpenAI 正在预览一项面向部分客户的新服务 Private Safety Processing,定位是隐私优先的滥用监控方案。它能自动监测潜在滥用行为,同时不保留客户数据。这一动作明显针对 Anthropic 最近的客户数据保留政策。

Anthropic 在 7 月宣布的政策要求,对于“covered models”——包括所有 Mythos 级模型以及未来类似能力的模型——保留用户数据(所有会话及其中对话)长达 30 天,用于安全审查和分析。该政策引发了不少处理敏感数据的企业客户的不满,他们不希望 AI 实验室留存或检查自己的数据。

OpenAI 此前已推行 Zero Data Retention(ZDR) 政策,通过 API 中的智能体按会话监控滥用行为:客户数据不被保留,但仍能扫描异常活动,且不需要人工介入。Anthropic 在绝大多数情况下也遵循 ZDR,唯一的例外正是“covered models”。

OpenAI 表示,Private Safety Processing 扩大了 ZDR 的适用范围,属于一种长时程安全监控:它会评估多个会话的输入和输出,而不仅限于单次会话。监控同样由智能体完成,一旦被触发,就会跨会话分析交互,寻找潜在滥用迹象。这能帮助识别把恶意请求分散到多次会话、以规避检测的行为——例如试图在多次对话中逐步构造恶意软件的攻击者。

若系统被触发,它会向 OpenAI 发送一个“范围狭窄的信号”,提示特定类型的活动。OpenAI 据此判断是否需要采取执法行动。如果确有必要,会联系客户获取更多上下文或协作处理;客户可以选择是否自愿分享数据。

相比之下,Anthropic 强调,人工审查确实可能发生,但只通过“受控访问路径”,由一小批经过批准的审查者执行,且每次审查都会记录在不可篡改的日志中。

两家公司的竞争正处于紧张状态。近期报告显示,OpenAI 的 Q2 增速低于 AnthropicAnthropic 的年化收入运行率据称已达 650 亿美元,其投资者称它可能以 2 万亿美元估值 IPO,OpenAI 也正在筹备自己的 IPO。新的隐私安全方案,是 OpenAI 在争夺企业客户信任方面的一次直接落子。

OpenAI seeks to one-up Anthropic with new customer privacy protections | TechCrunch

查看原文