忠实度约束是什么
降低幻觉靠的不是一句「不要编造」，而是一组工程手段：提示词要求先摘录原文再归纳、明确允许回答不知道、回答后做引用校验，高风险领域再加一道自动一致性检查。核心思路是把答案的每一句都锚定到检索片段上，让没有依据的句子无处藏身。
基本信息
| 目标 | 答案的事实性陈述都能被检索片段支撑 |
|---|---|
| 手段 | 摘录式提示词、拒答出口、引用编号、一致性校验 |
| 度量 | 忠实度类指标（如 RAGAS faithfulness） |
| 注意 | 忠实度衡量有据可依，不等于事实正确 |
先摘录后归纳的指令示例
先摘录后归纳的指令示例
步骤：
1. 从【上下文】中摘录与问题相关的原句（保留编号）；
2. 基于摘录组织答案；
3. 摘录无法支撑的问题部分，不写入答案。一致性检查（复核）
一致性检查（复核）
给定【答案】与【片段集合】，逐句判断答案中的事实性陈述是否有片段支撑，输出不支撑的句子清单。组合手段
- 先摘录后归纳：强迫模型引用原句，减少凭印象组织语言的空间
- 给出拒答出口：明确写出信息不足时的固定话术，模型才有台阶可下
- 逐句标注引用：答案里每个事实点对应片段编号，方便人工抽查
- 回答后自动复核：用另一次调用检查每句是否有片段支撑
- 数字与条款二次核对：金额、期限、版本号单独提取比对，不做笼统处理
幻觉类型与对策
| 类型 | 典型表现 | 对策 |
|---|---|---|
| 无中生有 | 上下文没提到却给出具体数字 | 摘录式提示词 + 拒答出口 |
| 张冠李戴 | 把两份文档的内容混在一起 | 逐句标注引用编号便于回溯 |
| 过度概括 | 把特例说成通用规则 | 要求引用原句，限制改写幅度 |
| 时效错乱 | 引用已废止的版本 | 检索时按生效日期过滤并保留版本字段 |
忠实度类指标（如 RAGAS 的 faithfulness）就是这条检查的自动化版本，可先离线跑评测分级，再决定是否需要在线上实时执行。