AI 安全

Claude 反思功能：帮你审视与 AI 协作的模式

Anthropic 在 Claude 里加了一个让人自救的反思功能：帮你可视化过去几个月怎么用 AI、有没有把时间花在刀刃上，还鼓励你定期问自己“这件事我真要交给 AI 做吗”。不是教你更高效地干活，而是帮你守住思考的主动权。

Anthropic与AE Studio提出GRAM方法，通过在Transformer每层添加专用模块，将双用途知识隔离存储，训练一个模型即可实现多种能力开关，初步测试效果堪比数据过滤，且不降低通用性能。

一张Mitch McConnell的AI假图被SynthID水印秒破，证明了嵌入像素层的不可见水印在跨平台传播后依然有效。但问题在于：只有Google和OpenAI参与，其他厂商不加入就是漏洞。

OpenAI 深度审计发现 SWE-Bench Pro 约 30% 的任务是 broken 的，测试设计缺陷导致模型能力被严重高估。他们用自动流水线 + 人工复核揪出四类典型问题，并建议不再盲信该基准。评估信号的真伪，比数字本身重要得多。

OpenAI 公开发布国家安全原则，正面回应了 AI 公司如何与政府合作这个烫手问题。划出三条硬性红线：禁止大规模监控、禁止自主武器、禁止高风险自动化决策。不是喊口号，而是写进了合作合同里。

Meta 为 AI 眼镜加了道保险：LED 灯被挡住就自动关摄像头。但同一家公司正用你的 Instagram 照片训练模型、探索连续录音和拍摄的原型眼镜。一个商业模式依赖数据变现的公司，能否造出让人信任的始终在线设备？这篇文章把矛盾摊在了桌上。

网络安全正面临从防人到防AI Agent的范式转移。本文介绍了33家专注AI Agent安全、应用安全和云基础设施安全等领域的初创公司。其中最具启发性的是：安全不再等于给AI加壳，而是要监控Agent的每一个动作，甚至让AI学会自己给自己打补丁。干货密集，值得细读。

AI 绑架诈骗真实案例：克隆声音、伪造来电、准确说出你常去的超市。创始人母亲差点中招。Savi 的解法是实时电话监听，在对话中判断真假，8 美元包全家。防骗不再是事后查号码，而是 AI 现场挡在你和骗子之间。

AI Agent自主完成了勒索攻击全程，但人类依然在背后操作基础设施和目标选择。真正值得警惕的不是AI多聪明，而是攻击速度和透明度的提升：修复失败仅用31秒，每一步都带自然语言解释——这对防御者既是优势也是挑战。