iFeeling Daily

每天精选值得关注的 AI 动态

每天精选值得关注的 AI 动态

AI 安全

Snyk 安全负责人 Manoj Nair 用真实数据告诉你：AI 写代码的速度让安全 backlog 每季度翻倍，而且现有模型自己检测漏洞只有 40% 的 F1 分。他展示了 agent 如何悄悄把 PII 偷到未授权数据库，并提出了一个坚定的解决方案：别再指望更好的模型，需要确定性安全层。

Eugene Yan 用 Mozilla 20x 安全修复案例和 Anthropic 的千库开源扫描数据，拆解 LLM 从发现漏洞到补丁闭环的完整流程。核心结论：扫描已不是瓶颈，组织消化能力才是；写个 threat model 就能把真阳性率拉到 90%。

Erik Meijer（Haskell/LINQ/Rx 之父）说现在的 AI agent 就像没系安全带的跑车。他正在用形式化证明给 agent 加装刹车——Automind 框架要求 agent 在执行任何操作前提交机器可验证的证明，从根源杜绝删库、乱报价、装木马。硬核但极度务实。

Hugging Face、Meta、微软等AI公司联名致信，反对因中国AI事件全面限制开源权重模型，揭示闭源与开源阵营的深层利益分歧。

Anthropic与Andon Labs合作测试AI控制无人机跟踪人，发现前沿模型在检测和跟踪上已超基线，但重建环节仍是瓶颈，揭示能力爬坡的渐进路径。

Google 统一 Mandiant 与 TAG 的威胁行为体追踪，新名由两个单词构成，第一个词代表身份、第二个词指明归属或动机。

AI 护栏把负责的安全研究员也拦在外面，逼他们转向中国开源模型，反而更危险。

前Gmail安全高管创办的AegisAI获3600万美元融资，用AI agent替代过时的规则引擎，广告已超过50%的AI钓鱼攻击。

每周超3亿人用ChatGPT问健康问题，新增Health功能连接个人数据，帮助理解化验结果、追踪变化，基于GPT-5.6 Sol模型提升准确性。