首页/AI/RAG 与向量库速查/引用可核查性与抽查机制
本包目录(229 条)

引用可核查性与抽查机制

上线后按周抽查:随机抽取回答,逐条核对引用片段是否真实支撑对应句子,统计不支撑比例;抽查结果回流到提示词与校验规则的迭代。

RAG 与向量库速查AI更新于 2026-10-12

抽查记录表结构

抽查记录表结构
query | answer_sentence | cited_chunk | 支撑与否 | 原因分类
分类:片段无关 / 部分支撑 / 数字错误 / 引用编号错位 / 过度推断

抽样脚本

抽样脚本
sample = random.sample(logs, 50)
for rec in sample:
    score = judge_support(rec.answer, rec.chunks)   # LLM 初筛
    if score < 0.8:
        queue_for_human(rec)                        # 人工复核队列
不支撑比例是生成侧质量的直接信号;持续偏高说明提示词约束或重排环节有问题。

易错点

  • 抽查只做一次不做周期性,质量回退无感知
  • 仅用生成模型自评,系统性偏差被放大

数据来源与参考

  • RAGAS 官方文档(faithfulness 评测)
  • TruLens 官方文档(反馈函数与抽查)
​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌