首页/AI/提示词工程速查/不确定样本的弃权机制
本包目录(290 条)
提示词基础40 条模式与框架50 条
任务型写法50 条
评估与迭代50 条提示注入与防护50 条工程化实践50 条

不确定样本的弃权机制

给分类器一个“弃权”出口:证据不足时输出 unknown 或低置信度,交给人工或二次判定,而不是强行打标。

提示词工程速查AI更新于 2026-10-12

弃权规则模板

弃权规则模板
遇到以下情况输出 unknown,并给出原因分类(缺信息 / 多义 / 超出类别表):
- 文本过短且无上下文
- 同时强匹配两个互斥类别
输出:{"label": "unknown", "cause": "多义"}
价值把不可靠预测拦在自动化之外,保护下游流程
指标统计弃权率与弃权样本的后续准确率,防止模型滥用弃权偷懒
处置弃权样本进入人工队列,同时补充判定规则

易错点

  • 不给出弃权原因分类时,人工队列无法按原因聚合改进
  • 弃权率没有阈值监控时,模型可能把难样本全部弃权,覆盖率悄悄下降

数据来源与参考

  • The Prompt Report(Schulhoff et al., 2024)与选择性预测(abstention)相关思路
​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌