首页/AI/RAG 与向量库速查/top-k 选取与重排配套
Embedding 与检索50 条

top-k 选取与重排配套

top-k 要分成两级看:检索阶段候选池(常取 20~100)供重排挑选,重排或截断后的上下文条数(常取 3~10)再进提示词;候选池过小会让重排没得选。

RAG 与向量库速查AI更新于 2026-10-12

两级 top-k 配置示例

两级 top-k 配置示例
RETRIEVE_K = 50        # 向量/混合检索候选池
RERANK_N  = 8          # 重排后进入上下文的片段数

candidates = vector_store.search(q_vec, top_k=RETRIEVE_K)
top_docs = rerank(q, candidates, top_n=RERANK_N)
context = build_context(top_docs)
升级到重排管线时,候选池要单独调;候选池与最终条数同步放大,常是上下文超长与成本上升的来源。

易错点

  • 检索 top-k 取 3 再接重排,重排只能对三选一排序,收益有限
  • 只加候选池不看上下文预算,生成端因超长被截断或成本上升

数据来源与参考

  • Cohere 官方文档(Rerank top_n)
  • LangChain 官方文档(检索器 top_k 与重排)
​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌