首页/AI/提示词工程速查/LLM 功能的值班手册

LLM 功能的值班手册

为线上 LLM 功能准备运行手册:常见故障(超时、限流、质量下滑、注入告警)对应检查步骤、应急开关与升级路径。

提示词工程速查AI更新于 2026-10-13

值班手册要写什么

为线上大模型功能准备运行手册:把常见故障(超时激增、限流、质量骤降、注入告警、成本异常)各自的检查步骤、应急开关、升级路径与通知对象写清楚。手册要能被执行者直接照做,因此在故障前就要演练一遍,并在每次真实故障后把新发现补回去。

基本信息

覆盖故障超时、限流、质量下滑、注入告警、成本异常
每条结构现象、首查项、应急动作、升级路径、通知对象
应急开关回滚上一稳定版本、切备用模型、关闭增强功能
可执行性每步写清在哪个系统点哪里或跑什么命令
维护季度演练一次,真实故障后更新条目

典型使用场景

  • 质量骤降:按版本切分成功率与格式错误率,先判断是否与最近发布相关
  • 429 激增:核对配额与重试率,先给非关键任务降速
  • 超时集中出现:区分是上游变慢还是自身排队过长
  • 注入告警:确认命中范围,必要时先收紧工具权限再排查
  • 成本异常:按功能下钻找到异常消耗源,先止血再定位原因

手册条目示例

手册条目示例
【质量骤降】
1 看板: 按提示版本查看成功率与格式错误率
2 定位: 最近是否发布?模型是否被切换?规则集是否更新?
3 应急: 开关回滚到上一稳定版本,观察 10 分钟
4 通知: 值班群与负责人,记录时间线

【429 激增】
1 查配额余量与重试率 2 非关键任务降速 3 联系上游并评估高峰限流策略

故障类型与首查项

故障第一个该看的指标常见原因
超时激增首 token 延迟分布上游排队、上下文过长
限流配额余量与重试率批量任务集中、重试放大
质量下滑按版本切分的错误率提示变更、模型切换
注入告警命中样本与来源渠道外部内容未隔离
成本异常单位任务成本环比重试率高、输入膨胀
手册里要有一键回滚的具体手段(开关名或操作入口)。如果应急动作需要临时写脚本,那它就不是应急动作。

易错点

  • 手册长期不演练,真出故障时发现步骤已经和现状对不上
  • 没有一键回滚开关,应急全靠现场临时操作,处置时间成倍拉长
  • 手册只写方向不写操作入口,值班人员在高峰期还得翻文档找路径
  • 故障复盘后不更新手册,同类问题下次还要重新摸索

数据来源与参考

  • Google SRE 手册运行手册(runbook)与值班实践
​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌