首页/AI/大模型部署与运维速查/告警规则:围绕四类指标
运维监控与排障50 条

告警规则:围绕四类指标

告警围绕延迟分位、错误率、KV 水位与硬件信号设阈值;阈值按自身基线设(如基线 P95 的上浮比例),每条告警挂处置动作。

规则骨架(指标名以实际输出为准)

规则骨架(指标名以实际输出为准)
groups:
  - name: llm
    rules:
      - alert: LLMErrorRateHigh
        expr: <错误率表达式> > 0.05
        for: 5m
      - alert: LLMQueueDepthHigh
        expr: <等待请求数> > <基线阈值>
        for: 10m
告警值给处置入口(Runbook 链接):值班收到的是动作,不是焦虑。

易错点

  • 照抄示例阈值:业务基线不同,误报多了告警会被习惯性忽略

数据来源与参考

  • Prometheus 官方文档:告警规则(prometheus.io/docs)
  • Google SRE 手册:告警(sre.google/sre-book)
​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌