首页/AI/大模型部署与运维速查/维护模式:503 与友好提示
本包目录(267 条)
部署形态与选型43 条推理环境与 GPU50 条推理参数与优化50 条显存与并发估算40 条服务化与网关34 条
运维监控与排障50 条

维护模式:503 与友好提示

引擎升级或后端不可用时,让网关返回 503 + Retry-After 或静态维护页,比让客户端读到超时或连接错误更可控;维护模式本身也要有开关与记录。

网关维护开关(nginx 示意)

网关维护开关(nginx 示意)
location / {
    return 503;
    # 或指向静态维护页:
    # root /var/www/maintenance; try_files /index.html =503;
}
add_header Retry-After 600 always;
  • 语义:503 Service Unavailable + Retry-After,客户端可给用户明确提示
  • 维护标志由发布脚本控制:进入/退出都有记录
  • 维护页写清恢复时间预期与状态页链接(如有)
维护模式与故障 503 在监控上要能区分:打标签(planned maintenance),避免污染故障统计。

易错点

  • 维护直接停进程不留提示:客户端把可预期窗口感知成故障,投诉与排查都变多

数据来源与参考

  • RFC 9110:503 与 Retry-After 语义
  • nginx 官方文档:return 与 add_header 指令(nginx.org)
​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌