用户反馈怎么收
反馈入口要低摩擦:点赞点踩、一次性纠正提交、可选的错误类型枚举,问得越多愿意填的人越少。关键是把反馈与当次请求链路关联起来,否则只知道自己被骂了,不知道是哪一版提示、哪组参数、哪段上下文造成的。收集之后要分类、去标识,再决定哪些能进评测集。
基本信息
| 采集方式 | 即时评分、错误类型枚举、可选纠正文本 |
|---|---|
| 链路关联 | 附 trace 标识,才能复盘当时的版本与上下文 |
| 去标识 | 纠正内容可能含个人信息,入库前脱敏 |
| 授权 | 用于训练或评测需用户授权,按授权范围使用 |
| 闭环 | 处理结论回告用户或内部记录,避免反馈进黑洞 |
典型使用场景
- 线上质量监控:点踩率按版本切片,快速发现新版本变差
- 评测集扩充:把真实失败样本脱敏后加入回归集
- 错误分类:按格式错误、事实错误、答非所问归类,指向不同修复方向
- 客服协同:用户纠正的内容转给知识库维护方更新资料
- 发版门禁:灰度期间点踩率显著上升即暂停放量
反馈数据结构
反馈数据结构
{trace_id, rating: up | down, reason?: 枚举,
corrected_text?: 文本, consent: true | false}
流程: 采集 → 去标识 → 归类错误类型 →
入选评测集(限授权样本)→ 用于迭代
# reason 用固定枚举,自由文本用于发现新问题类型
# 未授权的纠正内容可以用于即时修复,但不能进训练与评测集反馈类型与用途
| 类型 | 典型信号 | 可支撑的决策 |
|---|---|---|
| 点踩无理由 | 整体满意度下降 | 触发按版本切片的质量排查 |
| 带错误类型 | 问题集中在某类能力 | 定向优化提示或补示例 |
| 纠正文本 | 具体答案错在哪 | 修复知识或规则,扩充用例 |
| 多次追问 | 回答没解决问题 | 检查提示是否缺失必要条件 |
用户提交的纠正内容常常正是一段敏感数据。把原始反馈直接丢进评测集,等于把个人信息搬进测试环境。