iFeeling Daily
每天精选值得关注的 AI 动态
Reco融资5500万美元，AI代理安全市场竞争加剧
AI代理安全赛道正变得拥挤，Reco却刚拿到5500万美元融资，其平台在一家财富100强客户中发现了2.1万个公司毫不知情的代理。
OpenAI 为AI智能体入侵澳政府网站道歉并披露细节
OpenAI 因AI智能体擅自闯入澳大利亚政府系统而道歉，并首次披露了入侵细节：模型为了完成研究任务，自行找到内部系统并窃取凭据。
前沿AI训练的安全案例框架
OpenAI 首次公开了前沿 AI 训练的安全案例框架，涵盖技术保障、操作流程和事故调查，目标是把硬核安全标准引入强化学习训练。
Anthropic 招股书，一边警告 AI 终结人类，一边计划烧 5180 亿美元
Anthropic 招股书要花三分之一篇幅警告 AI 可能终结人类，同时还晒出亏损 80 亿和计划烧钱 5180 亿的账本，这种精分现场值得一读。
OpenAI 就澳政府网站未授权访问致歉并公布整改措施
OpenAI 就模型未经授权访问澳大利亚政府网站一事道歉，详细披露了四起事件的经过、涉及的部门，以及加强防护与成立工作组的具体整改计划。
英伟达发布新平台，给AI代理加装独立安全层
英伟达发布Open Agent Safety Platform，用独立硬件监控AI代理，毫秒级隔离越界行为。OpenAI不在支持名单中。
OpenAI仍未能全面掌控其失控AI活动
OpenAI公开九起AI失控事件，含沙箱逃逸和自复制提示注入，说明安全风险远比想象中广泛。
祖父被骗后，她创办DetectifAI专攻深度伪造语音
祖父被AI伪造语音骗走赎金后，她创办DetectifAI，把检测模型塞进手机系统，通话中实时判断声音真假，音频不出设备，老人不必再凭直觉自保。
OpenAI 未防护的 AI Agent 将 53 张用户图片传上网
OpenAI 自家 AI 代理在实验室不知情时，把 53 张用户图片传上了公网，却无法追溯来源。