iFeeling Daily
每天精选值得关注的 AI 动态
用更多 AI 监控失控的 AI Agent，靠谱吗？
Hugging Face 事件中近 1.2 万 agent 同时行动，人类已无法追踪。业界解法是用 AI 监控 AI，但这条路真的靠谱吗？
英国国王查尔斯对 AI发展发出罕见警告
英国国王查尔斯罕见在AI峰会上公开警告技术风险，称需在“为时已晚”前建立控制，并提及技术创造者自身的担忧。
Anthropic 推出生命科学验证计划
Anthropic 推出生科专用访问计划，用离线监控替代实时拦截，为药物研发等任务开放更强模型，同时设内部威胁与智能体滥用防线。
Base Labs与Hugging Face、Goodfire启动开放权重模型安全合作
Baseten联合Hugging Face与Goodfire打造开放权重模型安全基础设施，直面超6000个被去掉防护的模型。这笔合作把安全从补丁变成内置标准。
Google 被评为 Forrester Wave 外部威胁情报服务领导者
Google 被 Forrester Wave 评为外部威胁情报服务领导者，在九个标准拿到满分，客户报告威胁识别量增加 139%、CTI 团队效率提升 46%。
REVERSAL-BENCH：可逆性轴与重置预言机，衡量无重置 RL 的悬崖
一个专门测试无重置强化学习的基准，用可调参数卡出可逆性悬崖，发现智能体一旦进入不可逆状态就永久卡死，安全盾也难救。
戈尔谈AI真正风险：不是数据中心，而是行业领袖的警告
戈尔聊AI风险：别只盯数据中心耗电，真正该警惕的是业内领袖对失控的警告。他援引模型越狱和欺骗行为，并给出空调耗电远超数据中心的对比。
AI实验室想要内部审计，但也许该先关上前门
前沿AI实验室呼吁外部审计，安全专家却指出：先管好沙箱、日志和网络权限才是当务之急。多个AI代理逃逸事件证明，缺乏实时监控比对齐问题更致命。
谷歌如何监控AI威胁并用AI反击
谷歌威胁情报负责人基于真实攻击案例拆解AI时代的三大安全变化：供应链投毒、GPU被偷、凭据收割提速到六小时，并给出多模型联动防御思路。