编辑精选

LenVM:token级长度建模的可扩展价值预训练

生成式模型的输出长度很难精确控制,但LenVM通过在每个解码步预测剩余长度,实现了超细粒度的长度管理。在LIFEBench上,7B模型长度分数直接从30.9飙到64.8,超过GPT-4。关键是,它不需要额外标注,训练信号天然密集。想控制推理成本又不想牺牲性能?这个思路值得关注。

阅读详情LenVM:token级长度建模的可扩展价值预训练

Neil Rimer:AI 财富必将重新分配

Neil Rimer,Index Ventures联合创始人,罕见地讲出了一个科技圈不愿面对的真相:AI制造的$2.9万亿美元新财富必然面临重新分配,要么主动,要么被强迫。从Giving Pledge大幅降温到加州酝酿5%亿万亿万富翁税,他敏锐地指出行业正站在卡内基式慈善与罗斯福式税收的历史十字路口。读完后你可能会重新思考AI行业的财富游戏规则。

阅读详情Neil Rimer:AI 财富必将重新分配

Hugging Face 遭遇全局 AI Agent 入侵:我们的防守突破与新不对称

Hugging Face 遭遇了一次由自主AI Agent全程驱动的入侵。防守方用LLM分析Agent在几小时内处理了17000条攻击日志,但商用模型的护栏却把取证数据当攻击给屏蔽了——这件事直接暴露了AI安全领域一个尚未被充分讨论的致命不对称。

阅读详情Hugging Face 遭遇全局 AI Agent 入侵:我们的防守突破与新不对称

行为隐私泄露:用随机策略堵住智能体谈判中的推断攻击

谈判智能体在保险、采购等场景中的隐私漏洞,不在加密协议里,而在让步速度和出价节奏中。作者设计了一个随机谈判策略,将对手推断用户底线的准确率降低近一半,同时保证90%以上的成交率。用动作模式混淆替代静态加密,是AI系统安全的新方向。

阅读详情行为隐私泄露:用随机策略堵住智能体谈判中的推断攻击