AI 安全

Google SynthID系统成功揭穿McConnell AI假图

一张Mitch McConnell的AI假图被SynthID水印秒破，证明了嵌入像素层的不可见水印在跨平台传播后依然有效。但问题在于：只有Google和OpenAI参与，其他厂商不加入就是漏洞。

OpenAI 深度审计发现 SWE-Bench Pro 约 30% 的任务是 broken 的，测试设计缺陷导致模型能力被严重高估。他们用自动流水线 + 人工复核揪出四类典型问题，并建议不再盲信该基准。评估信号的真伪，比数字本身重要得多。

OpenAI 公开发布国家安全原则，正面回应了 AI 公司如何与政府合作这个烫手问题。划出三条硬性红线：禁止大规模监控、禁止自主武器、禁止高风险自动化决策。不是喊口号，而是写进了合作合同里。

Meta 为 AI 眼镜加了道保险：LED 灯被挡住就自动关摄像头。但同一家公司正用你的 Instagram 照片训练模型、探索连续录音和拍摄的原型眼镜。一个商业模式依赖数据变现的公司，能否造出让人信任的始终在线设备？这篇文章把矛盾摊在了桌上。

网络安全正面临从防人到防AI Agent的范式转移。本文介绍了33家专注AI Agent安全、应用安全和云基础设施安全等领域的初创公司。其中最具启发性的是：安全不再等于给AI加壳，而是要监控Agent的每一个动作，甚至让AI学会自己给自己打补丁。干货密集，值得细读。

AI 绑架诈骗真实案例：克隆声音、伪造来电、准确说出你常去的超市。创始人母亲差点中招。Savi 的解法是实时电话监听，在对话中判断真假，8 美元包全家。防骗不再是事后查号码，而是 AI 现场挡在你和骗子之间。

AI Agent自主完成了勒索攻击全程，但人类依然在背后操作基础设施和目标选择。真正值得警惕的不是AI多聪明，而是攻击速度和透明度的提升：修复失败仅用31秒，每一步都带自然语言解释——这对防御者既是优势也是挑战。

别再被海量安全告警淹没了。Google Threat Intelligence 和 Wiz ASM 合作，直接把你的暴露面与实时黑客活动挂钩，还能用 AI 挖出逻辑漏洞。不是给更多数据，而是告诉你该修哪里。

研究发现大模型的安全护栏脆弱得可怕，只需修改一个神经元就能全盘瓦解。不需要复杂越狱或微调，抑制一个“拒绝神经元”或激活一个“概念神经元”，任意模型即告沦陷。这对红队测试和实际安全部署有极强指导意义。