Box 集成 Nvidia Nemotron 推出面向代理的内容检索系统

Box 在周四的开发者大会上宣布,将 Nvidia 的 Nemotron 嵌入系统集成到产品核心,推出名为 Box Content Retrieval 的新功能。该功能依赖 Nemotron 生成的嵌入元数据,让代理能更有效地回答查询。Box 表示,用户会获得更快、更准确、更便宜的查询体验。Nvidia 生成式 AI 软件 VP Kari Briski 告诉 TechCrunch,预期查询速度可快4倍,错误减少20%,token 使用减少90%。系统计划于明年初向所有 Box Enterprise Advance 客户开放。

Box CEO Aaron Levie 解释,这显著提升了搜索技术对代理的相关性。代理不必逐个读取文档,而是可以收到与用户查询或任务最相关的文档片段。该功能是 Nvidia 开源权重嵌入模型项目 Nemotron Embed 的实现。这类用 LLM 预处理数据以改进自动检索的模型,常被大型实验室忽视,但正是 Nvidia 开源模型项目近期的重点。7 月发布的 Nemotron 版本在衡量检索质量的 RTEB 基准上排名第一。

Box 表示,该系统在与主动代理配合时最有价值,比如律师可以更容易找到相关条款和先例。Nemotron 嵌入能映射概念而不只是匹配关键词,因此即使措辞或语言不同,搜索也能关联到相关法律主题。虽然 Nemotron 模型免费可用,但整套系统还依赖 Box 既有的元数据与权限控制,很难从零复制。Levie 说:“我们可能把五种不同技术打包进一个简单 API。”

Box taps Nvidia’s Nemotron for new agent-first content retrieval system | TechCrunch

查看原文