首页/AI/AI 应用速查/重排模型(Rerank)
本包目录(159 条)

重排模型(Rerank)

对初筛候选(如向量召回 top50)做精细相关性打分再取 top-k,是提升 RAG 质量性价比最高的一步;常用 bge-reranker、Cohere Rerank、Qwen-Ranker 等交叉编码器。

AI 应用速查AI更新于 2026-10-12
输入查询 + 候选文档对
输出相关性分数(用于重排序)
位置召回之后、生成之前
代表bge-reranker-v2-m3、Cohere Rerank、Qwen3-Reranker

本地交叉编码器用法

本地交叉编码器用法
from sentence_transformers import CrossEncoder
model = CrossEncoder("BAAI/bge-reranker-v2-m3")
pairs = [("如何申请报销?", "报销流程:登录 OA 提交单据"), ("如何申请报销?", "年假规则:入职满一年")]
print(model.predict(pairs))
标准流程:向量/BM25 粗排取 50-100 条,再精排取 3-10 条进上下文;小尺寸 rerank 模型 CPU 也能跑。

易错点

  • 把 rerank 分数当绝对相关度阈值硬编码(分数分布随模型和语料漂移)
  • 对上千条候选全量精排,延迟不可接受

数据来源与参考

  • BAAI bge-reranker 模型卡(Hugging Face);Cohere Rerank 文档

相关工具

​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌