首页/AI/AI 应用速查/RAG 端到端评测(RAGAS 思路)

RAG 端到端评测(RAGAS 思路)

除检索指标外,还要评生成质量:忠实度(答案是否都来自上下文)、答案相关性、上下文精确率/召回率。RAGAS 等框架用 LLM 当裁判,把主观质量变成可回归的数字。

AI 应用速查AI更新于 2026-10-12
faithfulness答案中的每个论断能否从检索上下文推出(抗幻觉核心指标)
answer relevancy答案是否切题
context precision检索内容中相关比例
context recall应有的信息是否都检索到
前提需要 LLM 裁判与标注集,评测本身也花 token

RAGAS 评估(Python 示意)

RAGAS 评估(Python 示意)
from datasets import Dataset
from ragas import evaluate
from ragas.metrics import faithfulness, answer_relevancy

ds = Dataset.from_dict({
    "question": ["如何计算缓存折扣?"],
    "answer": ["缓存命中的输入 token 按更低折扣价计费……"],
    "contexts": [["缓存命中按更低单价计费,写入按标准价……"]],
    "ground_truth": ["命中缓存的输入按折扣价计费。"],
})
result = evaluate(ds, metrics=[faithfulness, answer_relevancy])
print(result)
LLM 裁判本身有波动:固定裁判模型与版本、跑两次看一致性,重要结论人工复核。

易错点

  • 只测检索不测生成,答案幻觉照样上线
  • 裁判模型与生成模型同源同版本,评不出自家毛病

数据来源与参考

  • RAGAS 论文与官方文档(ragas.io)

相关工具

​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌