
基于学习支持函数分摊最大内积搜索

传统最大内积搜索(MIPS)在固定键库中重复查询时,每次都要重新计算,成本高昂。这篇文章直接瞄准了这个痛点:当查询分布已知时,能否提前学会预测答案,避免重复计算?答案是可以,而且方法很巧妙。
核心思路是将MIPS的值函数视为键集的支持函数,这是一个凸函数,其梯度恰好指向最优键。基于这个洞察,作者训练了两个互补的神经网络:SupportNet,一个输入凸网络,专门回归支持函数值,可以快速把查询路由到正确的库分区;KeyNet,直接输出最优键向量,作为查询的替代品喂给现成的索引系统。在BEIR基准测试中,这种方法在FLOPs、探针数和耗时上都显著提升了IVF匹配率。
这个工作的启发在于:很多看似必须实时计算的搜索问题,其实可以用学习到的先验知识来“作弊”。它把计算负担从“每次查询时”转移到了“一次训练时”,特别适合向量数据库和推荐系统这类场景。未来,这种思路可能让大规模检索变得更轻量、更高效,甚至改变我们对搜索索引的设计方式。


