切片标签解决整体均值的盲区
整体指标不变时,某个细分场景可能已经明显退化:长文本上的召回掉了,但短文本样本多,均值看不出来。做法是给每条测试样本打切片标签(长度、语言、场景、难度),评分时按标签聚合报告。标签体系要少而稳定(3-5 个维度),每个切片保证最小样本量,否则切片结论的随机性比真实差异还大。
基本信息
| 为什么要切片 | 整体不变时某个切片可能已明显退化 |
|---|---|
| 标签体系 | 维度少而稳定(3-5 个),打标成本可控 |
| 报告方式 | 总表加切片表,切片样本少时标注样本量 |
| 打标要求 | 每条样本至少 2 个标签 |
典型使用场景
- 上线前验收:按场景切片确认没有某一类明显退化
- badcase 分析:统计问题集中在哪个切片,指导改提示方向
- 多语言产品:按语言切片比较效果差异
- 长尾场景监控:为低频但高价值的场景单独设门槛
- 采样分配:按切片配额构造评测集,避免长文本样本过少
切片维度示例
切片维度示例
方言/口语 | 短文本(<20字) | 长文本(>800字)
含表格 | 含代码 | 多语言混排
高频问法 | 长尾问法 | 历史 badcase
每条样本至少 2 个标签,评分时按标签聚合。
# 每个切片设最小样本量(如不少于 30 条),不足则标注“样本不足”
# 切片维度控制在 3-5 个,维度爆炸会让每片样本都太少
# 切片报告与总表同时给出,避免只报一个均值切片报告样式
| 切片 | 样本量 | 指标与判断 |
|---|---|---|
| 短文本 | 120 | 与总表接近,无异常 |
| 长文本 | 34 | 样本量偏低,指标下降需复测 |
| 含表格 | 28 | 样本不足,暂不下结论 |
| 历史 badcase | 45 | 全量通过,回归有效 |
切片太细时每组样本不足十位数,结论随机性大;每切片保证最小样本量,不够就合并或补样本。
只报整体指标会在切片退化时得出「没变化」的错误结论,长尾场景的失效往往就是这样被漏掉的。