架构与流程30 条

RAG 检索增强生成总览

RAG 在生成回答前先检索外部知识再交给大模型作答，把知识从模型参数搬到可随时更新的索引里；全流程由离线索引与在线检索两条链路组成，是知识库问答的基础架构。

英文名	Retrieval-Augmented Generation
提出	Lewis et al., NeurIPS 2020
核心价值	知识可更新、回答可溯源
注意	不保证消除幻觉，需配套评估与引用

两条链路

链路	典型环节
离线索引	文档解析 → 清洗 → 切分 → Embedding → 写入向量库（带元数据）
在线检索	问题改写 → 向量化 → 检索召回 → 重排 → 上下文组装 → LLM 生成 → 引用标注

用户问题 → 检索（向量 + 关键词）→ 候选片段 → 重排 → 拼进提示词 → LLM → 带引用的回答

RAG 的效果上限由索引质量决定：解析错、切分乱、向量模型不匹配时，生成模型再强也无法弥补。

Lewis et al., Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks, NeurIPS 2020
Gao et al., Retrieval-Augmented Generation for Large Language Models: A Survey, arXiv:2312.10997

‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌