首页/AI/AI 应用速查/重排成本:按 query-doc 对计费
本包目录(159 条)

重排成本:按 query-doc 对计费

重排模型(Cohere Rerank、bge-reranker 等)按查询与候选文档对计量(或按 token):候选从 50 扩到 200,成本大致线性上升。先用向量粗排收窄候选,再重排精挑。

AI 应用速查AI更新于 2026-10-12
计量按 query-doc 对或按处理 token
候选数常见 top 50-100 进入重排
降本粗排先收窄 + 热门查询结果缓存
收益顶部排序质量显著提升,是 RAG 高性价比投入

重排调用(Cohere 风格)

重排调用(Cohere 风格)
curl https://api.cohere.com/v2/rerank -H "Authorization: Bearer $KEY" -H "Content-Type: application/json" -d '{
  "model": "rerank-v3.5",
  "query": "缓存命中如何计费",
  "documents": ["文档A…", "文档B…", "文档C…"],
  "top_n": 3
}'
重排放在“检索之后、生成之前”:它不影响召回,只把真正相关的顶上来——候选池质量差时重排也救不了。

易错点

  • 把全库结果直接丢给重排,候选成本失控
  • 粗排质量差,重排候选里根本没有正确文档

数据来源与参考

  • Cohere Rerank 文档;bge-reranker 项目文档

相关工具

​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌