首页/AI/RAG 与向量库速查/生成模型选择与 RAG 适配

生成模型选择与 RAG 适配

生成模型要按场景选:长上下文窗口容纳多片段、指令遵循保证引用格式、中文表达质量、推理能力与成本延迟;用固定评测集对比候选模型,别只看榜单。

RAG 与向量库速查AI更新于 2026-10-12

选型观察点

维度验证方式
长文稳定性多片段(8+)场景下的忠实度与遗漏
指令遵循引用格式与“不知道”行为的落实率
中文质量术语、数字、单位表述准确性抽样
成本/延迟默认参数下的 P95 与单次费用

A/B 对比脚本骨架

A/B 对比脚本骨架
for model in ["model-a", "model-b"]:
    scores = run_eval(eval_set, model=model, prompt=PROMPT_VERSION)
    print(model, {"faithful": scores.faithful, "cite_ok": scores.cite_ok,
                  "p95_ms": scores.p95, "cost": scores.cost})
模型升级要像代码一样管理:绑定评测集跑回归,保留回退开关。

易错点

  • 只按公开榜单选型,自身数据上的引用遵循率不达标
  • 换模型不改提示词,格式约束在新模型上失效

数据来源与参考

  • 各模型官方文档(上下文长度与参数)
  • Es et al., RAGAS(生成质量评测方法)
​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌