工程化实践50 条

LLM 功能的值班手册

为线上 LLM 功能准备运行手册：常见故障（超时、限流、质量下滑、注入告警）对应检查步骤、应急开关与升级路径。

手册条目示例

【质量骤降】
1 看板: 按版本查看成功率与格式错误率
2 定位: 最近发布？提示版本变化？模型切换？
3 应急: 开关回滚到上一稳定版本
4 通知: 值班群与负责人，记录时间线
【429 激增】
1 查配额与重试率 2 非关键任务降速 3 联系上游

手册每季度演练一次；每次真实故障后更新条目与演练记录。

‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌