首页/AI/提示词工程速查/人工标注一致性(Kappa)
本包目录(290 条)
提示词基础40 条模式与框架50 条任务型写法50 条
评估与迭代50 条
提示注入与防护50 条工程化实践50 条

人工标注一致性(Kappa)

双人标注要算一致性:简单一致率之外用 Cohen's Kappa 校正随机一致;一致性低先修标注手册而不是催进度。

提示词工程速查AI更新于 2026-10-12

计算示例

计算示例
# pip install scikit-learn
from sklearn.metrics import cohen_kappa_score
a = [1, 0, 1, 1, 0, 1]
b = [1, 0, 1, 0, 0, 1]
print(cohen_kappa_score(a, b))  # >=0.6 通常可接受
口径Kappa 扣除随机一致,比裸一致率更能反映真实一致性
解读低于约 0.6 时先复查手册与边界案例,再扩大标注
记录一致性指标随标注批次存档,作为数据质量凭证

易错点

  • 类别极不均衡时 Kappa 会偏低(Kappa 悖论);同时报告混淆细节
  • 只抽查容易样本时一致性虚高;抽查要覆盖边界样本

数据来源与参考

  • Cohen's kappa 系数(Cohen, 1960)与标注质量实践
​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌