Faster Retrieval for Better, More Efficient RAG

最大内积搜索（MIPS）是推荐系统、搜索和检索增强生成（RAG）的核心。给定查询向量，MIPS系统在数百万个候选键向量中搜索最匹配的向量。与该最佳匹配键对应的原始数据点用于处理查询：在RAG中，通常将最适合回答问题的文档前缀附加到查询。随着键数量增长至数百万，向量维度达到数千，运行穷尽搜索的计算成本显著增加。