首页/AI/提示词工程速查/标注规范文档写法
评估与迭代50 条

标注规范文档写法

标注手册写三件事:每个判定的规则、边界案例、遇到歧义怎么办;有争议样本定期回流成手册条目。

提示词工程速查AI更新于 2026-10-13

标注规范文档是什么

标注规范(标注手册)是评测数据的地基:它规定每个判定怎么下、边界样本怎么处理、遇到歧义怎么办。写手册的目标不是把规则写得漂亮,而是让两个不同的人在看同一份样本时得出同一个结论。判断手册是否合格的检验方式很直接:让两名标注员独立标一批含边界样本的数据,算一致性——分歧集中的地方,就是手册没写清的地方。

基本信息

适用平台人工标注、数据标定与评测集构建流程,工具无关
必需内容任务与标签定义、判定优先级、边界案例、歧义处理、变更记录
合格标准每条规则能被两人独立执行且结果一致
维护方式有争议的样本裁定后回填手册,形成正反馈

典型使用场景

  • 新建评测集:先写手册再开标,避免标注到一半才发现判据不一致
  • 外包团队交接:手册是唯一可交付的判定依据,必须自带边界案例
  • 规则升级:业务口径变化时,手册的变更记录能说明为什么改
  • 争议仲裁:出现判断分歧时,用手册条目而非口头解释来裁定
  • 质量复盘:把一致性低的原因落到具体条目上,做定向修订

手册目录模板

手册目录模板
# 1) 任务与标签定义:每类一句话判据,避免长篇描述
# 2) 判定优先级:规则冲突时谁优先(如安全类优先于业务类)
# 3) 边界案例:各 2-3 例真实样本,含错误示例与说明
# 4) 歧义处理:不确定时标 uncertain 并注明困惑点,禁止强行归类
# 5) 不做的事:明确哪些内容不属于本任务,防止标注范围外扩
# 6) 变更记录:规则修改的日期、原因与影响的历史数据范围

手册常见缺失项

缺失项后果补法
边界案例分歧集中在边界样本上且无法裁定每类补 2-3 个真实样本
判定优先级多规则命中时结果取决于个人偏好写明冲突时的顺序
不做的事标注员自行扩展判定范围列出范围外内容与处置方式
变更记录新标注员按旧版执行,数据前后不一致每次修订留日期与原因
先标一小批(比如 50 条)做试点,算双人一致性,再据此改手册,最后放开规模。直接开大规模标注后再发现判据有问题,返工成本最高。
手册要区分「规则」与「示例」:规则是判据,示例只是解释。示例写太多会让标注员按表面相似度套用,遇到新形态样本时反而判错。

易错点

  • 手册只写规则不写边界案例,执行分歧会集中出现在边界样本上
  • 规则口头更新不回填文档,新标注员按旧版执行,同一批数据口径前后不一致
  • 判据写成「感觉不合格就标不合格」,无法被两人一致执行
  • 争议样本的裁定结论只留在聊天记录里,下次遇到同类样本重新争论一遍

数据来源与参考

  • 标注指南(annotation guideline)编写实践:CheckList 与主流评测集的标注规范
​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌