AI 安全

OpenAI联手Linux基金会，补AI安全的底层信任层

AI安全的真正瓶颈不是技术不行，而是没人敢信谁的话。OpenAI联手Linux基金会成立Appia，目标是把国际标准翻译成一套开源技术规范，让产业链上下游能对同一套检查标准互认结果，补齐AI治理中缺失的信任层。

Google Cloud放了个大招：把机密计算和旗舰GPU深度绑定，让敏感数据从CPU到GPU全程加密运行。最硬核的是Prompt Encryption SDK开源，用户和模型之间建立了端到端加密通道。这意味着金融、医疗行业可以放心在云端跑AI推理和微调，不用再担心数据泄露了。

Gray Swan 两位联合创始人详解为什么 AI Agent 的安全和传统网络安全完全不同。他们展示了自己训练的 AI 系统已经能比人类更高效地破解 GPT-4 和 Claude，并提出“致命三要素”来判断你的 Agent 是否已经敞开了数据大门。

AI让漏洞发现变快，但修补成了新瓶颈。OpenAI的Daybreak项目用GPT-5.5-Cyber模型（CyberGym 85.6%）和Codex Security插件，直接从扫描到生成补丁，配合Patch the Planet开源合作，真正把AI防御能力落地。

OpenAI不想让AI安全变成给维护者添乱的新负担。Patch the Planet的解法很直接：AI负责快速发现，安全工程师负责人工验证定级，维护者只接收最终结论和可直接合并的补丁。早期测试中就发现了Linux内核、OpenBSD、Chrome等多个主流软件中的高危漏洞。

深度研究Agent在查询外部网络时会通过碎片化查询泄露私有信息，马赛克效应防不胜防。作者用情境奖励和隐私奖励训练，把泄漏从34%压到9.9%，任务性能几乎不变——隐私不是prompt能解决的，得靠训练。

每周2.3亿用户用ChatGPT问健康，GPT-5.5 Instant在关键评估上比肩前沿推理模型，事实性问题两个月降71%。

如何用技术手段解决主权合规，而不是靠物理围墙？Google Cloud在欧盟新规面前摆明了态度：用加密密钥、开源和本地化联盟来证明“数据可控”不等于“数据必须关在境内”。这种现实主义的工程视角，比单纯喊口号有用得多。

OpenAI 提出一种新方法，用真实用户历史对话替换模型回答来模拟新模型上线后的真实表现。测试下来中位数预测误差仅1.5倍，还能抓到传统评估漏掉的“计算器作弊”这类奖励黑客行为。难点在于工具环境模拟的保真度，但方向值得所有做AI安全的人关注。