首页/AI/RAG 与向量库速查/切分粒度与召回效果
本包目录(229 条)
架构与流程30 条解析与切分33 条
Embedding 与检索50 条
向量数据库49 条重排与生成32 条评估与优化35 条

切分粒度与召回效果

召回质量与切分粒度强相关:块过大时相关句被无关内容稀释、相似度下降;块过小时语义不完整、命中若干碎块也难以拼出答案;实践中用 256~512 token 起步并实测调整。

RAG 与向量库速查AI更新于 2026-10-12

粒度影响

粒度典型收益典型问题
小块(≤128 token)定位精确、区分度高上下文割裂,答案不完整
中块(256~512)语义与定位较平衡边界含义可能丢失
大块(≥1024)上下文完整相似度被稀释,检索回到大段文本

用评测对比粒度

用评测对比粒度
for size in (256, 512, 1024):
    chunks = split(docs, chunk_size=size, overlap=64)
    index.rebuild(embed(chunks))
    print(size, eval_retrieval(queries, gold, index))   # 同期对比 recall@k
配合父块-子块或句窗策略,可以同时拿到小块的高定位与大块的上下文完整性。

易错点

  • 不同粒度对比时未固定其他变量(模型、top-k),结论无法归因
  • 答案横跨多块时只检索单块,生成端无法拼出完整信息

数据来源与参考

  • LangChain 官方文档(文本切分策略)
  • Anthropic, Contextual Retrieval(切分与召回)
​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌