AI 安全

行为隐私泄露：用随机策略堵住智能体谈判中的推断攻击

谈判智能体在保险、采购等场景中的隐私漏洞，不在加密协议里，而在让步速度和出价节奏中。作者设计了一个随机谈判策略，将对手推断用户底线的准确率降低近一半，同时保证90%以上的成交率。用动作模式混淆替代静态加密，是AI系统安全的新方向。

《纽约时报》拿到了关键证据，显示OpenAI不仅早就具备检索训练数据中版权内容的能力，还建了一套内部系统来监控模型输出的“复读”问题。这直接打脸了OpenAI在法庭上“技术做不到”的辩护，也让整个行业所谓的“合理使用”防线出现了裂痕。

美国政府如何批准 OpenAI 和 Anthropic 的前沿 AI 模型上市？TechCrunch 调查发现，整个流程黑箱操作、标准不明，依赖高管与白宫的个人关系。连业内专家都不知道审批标准，公众更无从判断安全性。

Google把AI广告标签强制放进用户控制面板，不再只看政治广告。用商家的诚信机制替代全量扫描，给用户一个判断入口，而不是替你判断。这个做法务实且清醒。

Meta的新AI工具Muse Image直接用你的公开Instagram照片生成图片，默认开启。这里告诉你如何关闭这个开关，以及为什么默认开启会引发隐私危机。

Anthropic 不再只谈技术，而是公开邀请所有人问出关于AI最尖锐的问题，并承诺追踪和公开回应。这背后是一个关键洞察：AI公司的长期竞争力，取决于它能否让公众觉得这技术是可控的、站在自己这边的。

OpenAI 把生物漏洞悬赏升级成持续计划，赏金翻倍到5万美元，专门抓能一次性绕过所有生物安全护栏的通用越狱。这不是找小漏洞，是在测试模型推理能力的底线。搞 AI 安全的，得从修补丁转向设计能自适应的防御框架了。

Anthropic请来前美联储主席伯南克加入独立信托，用宏观经济危机管理经验来制衡AI发展风险。这种治理创新把AI的风险管理从工程师代码审查提升到了美联储级别的宏观审慎监管，值得所有关注AI长期发展的公司参考。