环节
| 环节 | 量级参考 | 优化手段 |
|---|---|---|
| 查询改写 | 数百 ms | 与小模型合并调用、简单问题跳过 |
| Embedding | 几十至百 ms 级 | 本地模型、批量化、缓存 |
| 向量检索 | 几至几十 ms | HNSW 参数、过滤下推、量化 |
| 重排 | 百 ms 级 | 小模型、控制候选数 |
| 生成 | 秒级 | 流式输出、模型档位、输出上限 |
优化前先埋点：多数“慢”集中在生成与重排，盲目调索引参数收益有限。
本包目录（229 条）
架构与流程30 条
- RAG 检索增强生成总览
- RAG 在线检索链路
- RAG 离线索引链路
- 向量检索与关键词检索的取舍
- LangChain 快速搭建 RAG 链
- RAG 开发框架与平台选型
- LlamaIndex 快速搭建索引与查询引擎
- 查询改写提升检索命中
- RAG 元数据字段设计
- RAG 与微调的选型对比
- 上下文组装与 Token 预算
- RAG 场景的提示注入防护
- RAG 链路逐段调试方法
- Naive / Advanced / Modular RAG 三种范式
- Multi-Query 多路召回合并
- 多租户与权限过滤
- HyDE 假设文档嵌入检索
- 增量索引与文档更新
- 查询分解与多跳检索
- RAG 可观测性与日志追踪
- Agentic RAG 与自适应检索
- 长上下文与 RAG 的配合
- 查询路由分流不同处理链
- 语义缓存降低重复问答开销
- 在线链路延迟预算拆分
- 多轮对话的检索指代消解
- RAG 成本构成与估算方法
- GraphRAG 图谱增强检索
- 低代码 RAG 平台的落地要点
- 文档版本管理与索引重建
在线链路延迟预算拆分
把端到端响应时间拆到改写、向量化、检索、重排、生成各环节，先定 p95 目标再分预算；生成与重排通常占大头，缓存与并行是主要优化点。
易错点
- 只看平均值不看 p95/p99，长尾体验无人负责
- 忽略流式输出带来的体感提升，把精力全放在索引微调上
数据来源与参考
- Gao et al., RAG for LLMs: A Survey（效率章节）