首页/AI/提示词工程速查/金标集的保鲜与轮换
评估与迭代50 条

金标集的保鲜与轮换

数据分布会变,金标集要定期轮换:从新流量抽样本补充,旧样本降级为历史回归集,防评测与线上脱节。

提示词工程速查AI更新于 2026-10-12

保鲜节奏示例

保鲜节奏示例
每季度:从近 90 天真实流量分层抽 50-80 条,双标入库
同步:较老样本移入 history 集(继续防回归,不用于主指标)
版本:golden-v4 → v5;主指标切换时新旧都跑一轮做桥接
变更记录:样本增删明细存档
动因业务与用户表达在变;固定评测集会逐渐失去区分度
桥接新旧集并行跑一次,避免指标断崖造成误判
节奏轮换小步进行,避免一次性重建

易错点

  • 一次换掉大半样本会导致指标不可比;新旧并行过渡
  • 长期不轮换时评测与线上分布脱节,指标虚高

数据来源与参考

  • 评测集时效性管理实践(数据轮换与版本化);HELM 评测集维护做法
​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌