首页/AI/大模型部署与运维速查/错误分类:让错误率有意义
运维监控与排障50 条

错误分类:让错误率有意义

先把错误分层:客户端错误(400 参数/401 鉴权/429 限流)不计入服务故障,服务端错误(5xx)与超时单独统计;口径固定后,错误率才能作为告警与 SLO 依据。

400请求本身无效:超长上下文、参数非法
401/403鉴权与权限:被网关拒绝
429限流或过载:保护性错误
5xx服务侧失败:计入故障统计
499/504超时链路:单独归类看趋势

OpenAI 兼容错误体(示意)

OpenAI 兼容错误体(示意)
{
  "error": {
    "message": "...",
    "type": "invalid_request_error",
    "code": null
  }
}
统计分母口径要固定(如「有效请求」不含 429):口径一改,历史对比就失效,写进 Runbook。

易错点

  • 把用户参数错误算进服务可用性:错误率虚高、误报警,长期会钝化值班响应

数据来源与参考

  • OpenAI 官方文档:Error codes(platform.openai.com/docs)
  • RFC 9110:HTTP 语义(状态码定义)
​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌