首页/AI/RAG 与向量库速查/四种切分策略对比与选型

四种切分策略对比与选型

固定长度、递归、结构(标题)与语义切分各有取舍:按语料结构与效果目标选择,工程上常从结构 + 递归组合起步,再评估语义切分。

RAG 与向量库速查AI更新于 2026-10-13

四种切分策略怎么选

固定长度、递归、结构(标题)与语义切分各有取舍:固定长度最省事但边界生硬,递归在小成本下兼顾语义断点,结构切分依赖文档骨架,语义切分成本最高且需要向量化。工程上常从结构加递归的组合起步,把基线做好后再评估语义切分是否值得。

策略对比

策略原理成本适用场景
固定长度按字符滑窗低无结构长文本、对照基线
递归按分隔符层级下探低多数中文语料的默认选择
结构(标题/章节)按文档骨架切低到中Markdown、文档站、规范类
语义按语义相似度跳变切高(需向量化)长文、主题跳跃多

基本信息

起步组合结构切分加递归切分
判定依据切片语义是否完整、召回是否命中
关键约束切片长度要与向量模型的输入上限对齐
推进方式先建基线,再按短板单点升级

选型顺序

  • 先看文档结构:层次清晰就优先按标题切,结构混乱再退回递归
  • 再看语言与标点:中文长句需要把中文标点加入分隔符列表
  • 再看长度上限:按向量模型的输入上限反推切片长度
  • 最后看成本:语义切分需要额外向量化,收益要用评测证明
  • 所有策略都保留人工抽查环节,统计口径不能替代人眼判断

组合方式

组合做法适用
结构 + 递归先按章节再按长度文档站与手册
固定 + 重叠滑窗加重叠窗口无结构长文
语义 + 递归先按语义断点再按长度主题跳跃多的长文
父子结构小块检索配大块上下文需要精确检索又怕丢语境

验收标准

  • 切片长度分布集中,没有明显失控的长尾
  • 随机抽查无半截句子与孤立标题
  • 关键问题能在前三命中里找到对应片段
  • 答案完整性没有因切分变碎而下降
  • 参数与模型版本一并留档,便于复现
选型顺序建议:结构与递归组合先把基线做好,测出短板后再评估语义切分是否值得投入额外的向量化成本。

易错点

  • 不做对照实验就上语义切分,成本增加但效果未必提升
  • 只看切片数量整齐,不看切片语义是否完整
  • 所有文档共用一套策略,表格与代码块被切得支离破碎
  • 切换策略后没有重建索引,新旧切片混在同一库里无法比较

数据来源与参考

  • Greg Kamradt, 5 Levels of Text Splitting
  • LangChain 官方文档(各类 Splitter)
​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌