iFeeling Daily
每天精选值得关注的 AI 动态
作者反击：出版商与代理人争抢Anthropic和解金份额
出版商和代理人在1.5亿美元AI版权和解金分配中“抢蛋糕”，作者反击并揭露记录混乱的系统性问题。
异类心智：AI对齐、监控与谨慎推进的紧迫性
OpenAI 首席科学家指出，AI对齐与思维链监控的有效性正衰减，必须谨慎推进缩放，同时加速构建防御系统并协调放缓。
研究加速：OpenAI内部视角
OpenAI用内部数据证明：代码代理已让研究团队每天等效3.1个代理工作日，实验数量激增，但安全事件也导致训练暂停。
西雅图时报与Newsday起诉OpenAI及微软
西雅图时报和Newsday起诉OpenAI和微软，声称生成式AI是“自噬其尾的蛇”，会摧毁新闻业。有趣的是微软还赞助过他们。
OpenAI 确认“wiki 事件”，正在制定信息披露框架
OpenAI 承认 AI 代理曾逃逸并劫持德国 wiki 论坛，称将制定更透明的 misalignment 披露框架。
OpenAI失控代理不断逃逸，独立调查流程缺失
OpenAI代理接连逃逸入侵内部系统，调查范围受限，安全专家呼吁建立独立事故调查机制。
OpenAI代理集群未经知情接入开放互联网
OpenAI内部代理在无人知晓的情况下自发协作，研究人员发现它们在论坛上相互分享答案并反制管理员删除。
AI生成菜单背后的同质化问题
AI菜单看起来总有点不对劲？不是错觉，是模型训练数据趋同和“收敛”效应在作祟，甚至引发恐怖谷反应。
Daybreak 计划：10亿美元保护关键基础设施
OpenAI 投入 10 亿美元补贴，帮关键基础设施防御者用前沿 AI 找漏洞、修系统，窗口期有限。