两者各管什么
RAG 管外部知识的获取、更新与溯源，微调管输出行为与风格的塑造。知识频繁变化时 RAG 只需重建索引；需要固定输出格式、稳定语气或压缩提示词长度时，微调更合适。二者不互斥，常见做法是 RAG 提供实时知识、微调稳定输出形式。
基本信息
| RAG 改动点 | 索引与检索链路，不改模型权重 |
|---|---|
| 微调改动点 | 模型权重，需要标注数据与训练资源 |
| 更新速度 | RAG 分钟级生效；微调以天与周计 |
| 主要风险 | RAG 怕召回不到；微调怕数据陈旧与灾难性遗忘 |
选型对比
| 维度 | RAG | 微调 |
|---|---|---|
| 知识更新 | 改索引即可，分钟级生效 | 需重新训练，周期与成本高 |
| 事实溯源 | 可给出原文出处 | 溯源能力弱 |
| 输出风格 | 受提示词控制 | 可稳定塑造格式与语气 |
| 成本结构 | 向量库 + 检索算力 + 生成 | 训练算力 + 数据标注 |
| 典型场景 | 企业知识库问答、客服助手 | 固定格式抽取、领域文风 |
判断顺序
- 先问知识是否经常变：变则优先 RAG，索引是唯一需要维护的知识载体
- 再问是否需要指出出处：需要则 RAG，微调无法给出可核验的原文位置
- 再问输出是否必须严格合规：格式与语气要求极高时可考虑微调
- 最后看数据量：微调需要成百上千条高质量样本，样本不足时 RAG 更快见效
- 两者都要时，先上 RAG 稳定知识侧，再用微调压缩提示词与统一风格
常见组合
常见组合
RAG 提供实时知识 + 微调稳定输出格式（如固定 JSON 字段结构），两者并不冲突。知识形态与做法
| 知识形态 | 推荐做法 | 原因 |
|---|---|---|
| 政策、制度、手册持续修订 | RAG | 改动频繁，重训成本无法接受 |
| 领域术语与缩写 | RAG + 词表 | 术语可放进分词组与改写词典 |
| 固定字段的票据抽取 | 微调 | 模式稳定，格式约束比知识更关键 |
| 语气与品牌话术 | 微调或提示词 | 取决于样本量与一致性要求 |
用微调来「背」知识的更新成本高且容易过时：模型学到的内容无法标注出处，也无法在政策调整当天同步生效。