模型重新排序
重新排序器是第二阶段模型，它对搜索结果的候选列表重新评分以使其与查询的相关性，从而在快速检索器拉出候选者后锐化排序。
概述
它是现代搜索与检索增强生成（RAG）的关键组成部分。
深入探讨
搜索和 RAG 系统通常分两个阶段工作。首先，快速检索器（通常是向量/嵌入搜索或关键字 BM25）从数百万个文档中提取大约 50-100 个候选文档 - 针对召回率和速度进行了优化。但第一遍对查询和文档分别进行评分，因此可能会错过细微差别。重新排名器是精确步骤：它将查询和每个候选者放在一起并输出细粒度的相关性分数，然后对列表重新排序，以便最佳结果上升到顶部。主要架构是交叉编码器：它将查询和文档联合输入到转换器中，让每个查询标记处理每个文档标记。这种深度交互使得重新排序比嵌入相似性更加准确，但代价是每个候选者运行一次。
技术洞察
对比是双编码器与交叉编码器。双编码器将查询和文档独立地嵌入到向量中，因此相似性是一种廉价的点积——快速且可预计算，但很浅。交叉编码器将查询和文档连接到一个输入中，并运行完整的变压器传递，产生具有丰富标记级关注的单个相关性得分。它无法预先计算，因此保留用于对小候选列表进行重新排名。 Cohere Rerank 和 BGE-reranker 等模型就证明了这一点。
战略影响
成本与预算
多年来，架构决策决定着性能和运营成本。
更清晰的判决
技术教育帮助团队选择正确的堆栈，而不仅仅是最新的堆栈。
质量控制
更好的工程选择可以减少生产中的可靠性事故。
重新排序模型的未来
重新排序器正在成为 RAG 管道中的标准，因为更好排序的上下文可以直接提高 LLM 答案质量并减少幻觉。期待更轻、更快的交叉编码器、多语言和多模式重新排序（文本加图像或表格）以及更长的上下文窗口，以便可以对整个文档进行评分。基于 LLM 的“列表式”重新排序器可以同时判断整个候选集，并且一些系统将交叉编码器的判断提炼回更便宜的检索器中，以获得接近第一阶段的准确性。
现实世界的实施
RAG 聊天机器人通过嵌入搜索检索 50 个块，然后重新排名以仅将前 5 个最相关的块提供到 LLM 的上下文中
电子商务搜索对产品结果重新排序，以便最匹配购物者完整查询短语的项目首先出现
Cohere Rerank 或 BGE-reranker 提高了对数千个政策 PDF 进行企业文档搜索的精度
客户支持知识库对检索到的帮助文章进行重新排序，以便代理在顶部显示最相关的单个答案
风险与防护栏
优化一项基准测试可以隐藏更广泛的系统弱点。
基础设施和维护成本常常被低估。
随着系统变得更加复杂，安全性和可观察性差距可能会扩大。
实施路线图
在实施之前定义延迟、质量和成本目标。
在实际负载和数据条件下进行基准测试。
仪器监控错误、漂移和用户影响。
在扩展之前准备回滚和事件响应路径。
不断探索
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Reranking Models quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
常见问题
什么是重新排名模型？
重新排序器是第二阶段模型，它对搜索结果的候选列表重新评分以使其与查询的相关性，从而在快速检索器拉出候选者后锐化排序。它是现代搜索和检索增强生成 (RAG) 的关键要素。
在典型的两阶段检索管道中，重新排序器的工作是什么？
快速检索器获取候选者；然后，重新排序器会对该候选列表重新评分，以将最相关的结果推到顶部。
大多数重排序器使用什么架构？
重新排序器通常使用交叉编码器，联合输入查询和文档，以便注意力可以对它们的交互进行建模。
为什么不能使用跨编码器重排序器直接搜索数百万个文档？
与可预计算的嵌入不同，交叉编码器必须每对运行完整的变压器通道，因此它被保留给一个小的候选列表。
双编码器相对于交叉编码器的主要优点是什么？
双编码器提前独立嵌入文档，从而能够在庞大的集合中进行快速相似性搜索。
重新排序器如何帮助减少 RAG 系统中的幻觉？
更有序、更相关的背景为法学硕士提供了准确的基础，从而减少了捏造的答案。