定级一致性校准是什么
同一份报告里,同类问题在不同章节被评成不同等级,客户第一反应就是质疑标准。定级一致性校准就是用固定机制让多人对同一批条目独立定级、对齐分歧、形成书面口径,并让这套口径跨条目、跨项目延续,例外情况单独记录原因与批准人。
基本信息
| 执行时机 | 报告初稿完成前、复测结论出具前各做一次 |
|---|---|
| 参与人 | 全体测试成员 + 报告负责人 |
| 方法 | 抽样双评,统计分歧,讨论后写裁定规则 |
| 产出 | 口径备忘,含判定示例与例外清单 |
| 复用 | 跨项目沿用以保持结论可比 |
典型使用场景
- 报告评审前统一口径,减少评审会上的重复争论
- 多成员协作项目,防止各人凭经验定级造成漂移
- 跨期项目复测,保证本期与上期等级可直接对比
- 客户对某条定级提出异议时,出示校准过程作为依据
- 新人加入项目,用口径备忘快速对齐判定尺度
校准流程示例
校准流程示例
1. 抽取 10 条历史条目,两名成员独立定级 # 盲评,先不讨论
2. 统计分歧项,常见集中在“中/高”边界 # 记录分歧数量
3. 逐条讨论并写下裁定规则,例如:
“越权读取个人信息 -> 不低于高”
“仅影响自身账号 -> 不高于中”
4. 规则写入报告模板注释,供后续项目复用 # 可累积
5. 例外条目单列:写明偏离规则的原因与批准人常见分歧与裁定参考
| 分歧场景 | 一种意见 | 裁定要点 |
|---|---|---|
| 越权读取个人信息 | 评中 | 按数据敏感度与量级上调至高 |
| 仅能读取公开数据 | 评高 | 按实际影响范围下调 |
| 需高权限前提才可利用 | 评高 | 写明前提条件,按可达性调整 |
| 影响可用性但可快速恢复 | 评高 | 按恢复时长与业务影响窗口判定 |
校准记录本身就是质量证据:客户质疑定级标准时,可以出示盲评结果、分歧列表与裁定规则,说明结论如何得出。
不要为了让报告看起来更有分量而系统性上调等级:等级通胀会稀释修复资源,也会让客户对整份报告的判断失去信任。