度量的古德哈特定律是什么
古德哈特定律:当指标成为目标,它就不再是好的度量。测试领域的典型连锁:考核用例数催生小颗粒拆分、考核缺陷数诱发少报与互推、考核覆盖率出现只写不断言。对策不是放弃度量,而是让度量服务于改进、组合使用并接受抽查校验。
基本信息
| 定律 | 当指标成为目标,它就不再是好的度量 |
|---|---|
| 用例数失真 | 拆分凑数、颗粒变小、维护成本上升 |
| 缺陷数失真 | 少报、拆小、跨团队互推 |
| 覆盖率失真 | 断言空转、只刷执行行数 |
| 对策 | 面向改进、组合指标、抽查校验、保留人工判断 |
连锁反应示意
连锁反应示意
# 用例数考核 -> 拆分凑数
# 缺陷数考核 -> 少报、拆小、互推
# 覆盖率考核 -> 断言空转失真信号与对策
| 失真信号 | 对策 |
|---|---|
| 用例数暴涨且颗粒变小 | 抽查用例粒度与内容质量 |
| 缺陷数骤降但逃逸上升 | 对照发布后缺陷数据复盘 |
| 覆盖率上升但变异检出低 | 评审断言与变异测试结果 |
| 修复时长异常变短 | 跟踪重开率与修复质量 |
典型使用场景
- 指标设计:用「指标对」交叉验证(如缺陷配逃逸率)。
- 团队管理:度量用于过程诊断,不直接绑定个人奖惩。
- 报告解读:解释数字背后的行为变化,避免唯数字论。
- 抽查机制:定期人工抽样核对数据质量。
- 指标轮换:同一指标长期考核后定期审视是否失真。
- 改进闭环:从失真信号回溯流程问题再调整指标。
古德哈特定律并非反对度量,而是提醒:指标要配套抽查与交叉验证。
组合指标互相制衡最实用:覆盖率配变异测试、缺陷数配逃逸率、用例数配执行时长。
指标绑定个人奖惩后,短期数字好看、长期数据失真,决策基础被破坏。