新知识库冷启动方法
新知识库冷启动的稳妥做法是先小后大:选 50 到 100 篇高频主题的高质量文档入库建基线,用真实问题(客服工单、搜索词)做首轮评测;确认召回与答案质量达标后,再按主题分批扩量,每批扩量都回归一次。这样既能在早期快速暴露问题,也避免一上来全量灌入之后、出问题既定位不到来源也无法快速回滚的窘境。
基本信息
| 首批规模 | 50 到 100 篇高频主题文档 |
|---|---|
| 评测集 | 30 到 50 个真实问题 |
| 基线指标 | recall@10、忠实度、延迟 |
| 扩量方式 | 按主题分批导入,每批回归一次 |
| 选用标准 | 人工确认可读性与内容准确性 |
| 回滚粒度 | 按批次下线,成本低、影响面小 |
典型使用场景
- 新业务上线客服机器人,先用高频场景验证可行性
- 知识库大改造后分阶段重建,避免一次性全量灌入
- 需要给团队一个可见的阶段性成果与达标线
- 数据来源质量参差不齐,先挑最好的一批
- 试验新切分或新模型时,用最小集合快速验证
冷启动步骤
冷启动步骤
1. 选高频主题文档 50~100 篇,人工确认可读性与准确性
2. 建索引与最小评测集(30~50 个真实问题)
3. 跑基线:recall@10、忠实度、延迟,把数字记下来
4. 达标后再按主题分批扩量,每批导入后回归一次
5. 纳入更新与下线流程:指定责任人,定义过期处理阶段读法
| 阶段 | 动作 | 达标标准 |
|---|---|---|
| 选材 | 挑高频主题的高质量文档 | 人工确认可读、可独立成段 |
| 建库 | 建索引与最小评测集 | recall@10 与忠实度达到约定线 |
| 基线 | 跑指标并记录 | 有可对比的数字,而不是主观感觉 |
| 扩量 | 按主题分批导入 | 每批回归,指标不掉点 |
| 运营 | 纳入更新与下线流程 | 无过期内容,责任明确 |
首批文档的质量决定用户信任:宁缺毋滥,先把高频场景答对,再去追覆盖面。
评测集要用真实问法:团队自己造的提问往往过于规范,会掩盖口语化、错别字与多意图混合这些真实难点。