首页/AI/RAG 与向量库速查/置信度信号与降级策略
本包目录(229 条)

置信度信号与降级策略

把置信度设计成多信号合成:检索最高分、重排分布、片段间一致性、校验结果;低置信时降低语气确定性、提示“仅供参考”,极低时转人工或要求补充信息。

RAG 与向量库速查AI更新于 2026-10-12

置信度合成示例

置信度合成示例
conf = 0.4 * norm(best_rerank) + 0.3 * coverage(chunks, answer) + 0.3 * validation_ok
if conf < 0.4:
    return {"answer": answer, "notice": "置信度较低,请核对原始文档", "escalate": True}
置信度阈值与业务风险挂钩:高风险场景阈值更高、降级更早。

易错点

  • 置信度用单一分数却号称综合评估,误判率高
  • 降级路径未联通人工队列,用户无处求助

数据来源与参考

  • RAGAS 官方文档(多指标组合)
  • Anthropic 官方文档(不确定性表达建议)
​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌