首页/AI/RAG 与向量库速查/忠实度约束与少幻觉写法
本包目录(229 条)

忠实度约束与少幻觉写法

降低幻觉的工程组合:提示词要求“先摘录后归纳”、明确允许回答不知道、回答后做引用校验;对高风险领域再加一道「答案与片段一致性的自动检查」。

RAG 与向量库速查AI更新于 2026-10-12

先摘录后归纳的指令示例

先摘录后归纳的指令示例
步骤:
1. 从【上下文】中摘录与问题相关的原句(保留编号);
2. 基于摘录组织答案;
3. 摘录无法支撑的问题部分,不写入答案。

一致性检查(LLM 复核)

一致性检查(LLM 复核)
给定【答案】与【片段集合】,逐句判断答案中的事实性陈述是否有片段支撑,输出不支撑的句子清单。
忠实度类指标(如 RAGAS faithfulness)就是这条检查的自动化版本,可先离线跑评测评级。

易错点

  • 只靠提示词不加校验,模型在诱导性问题下仍会编造
  • 校验模型与生成模型同源,系统性偏差难被发现

数据来源与参考

  • RAGAS 官方文档(faithfulness 指标)
  • Ji et al., Survey of Hallucination in Natural Language Generation (ACM CSUR 2023)
​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌