首页/系统与基础设施/自动化运维速查/告警与自动处置的闭环
巡检与自助运维60 条

告警与自动处置的闭环

自动处置闭环包含触发、执行、验证、回写四个环节,缺任一环都会退化:不验证等于假设成功,不回写会造成状态不一致与重复通知。验证应复用同一套健康检查,并设置冷却时间与尝试上限,防止处置动作与告警互相触发形成振荡。

​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌​​‌​‌‌‌‌​‌‌​​​​‌​‌‌‌​‌​‌​‌‌‌​‌​​​‌‌​‌‌‌‌​‌‌​‌‌​‌​‌‌​​​​‌​‌‌‌​‌​​​‌‌​‌​​‌​‌‌​‌‌‌‌​‌‌​‌‌‌​​​‌​‌‌‌‌​‌‌​​​​‌​‌‌​‌‌​​​‌‌​​‌​‌​‌‌‌​​‌​​‌‌‌​‌​​​​‌​‌‌​‌​‌‌​​​​‌​‌‌‌​‌​‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌​‌​‌‌‌​​‌​​‌‌​​‌​‌​‌‌​‌‌​‌​‌‌​​‌​‌​‌‌​​‌​​​‌‌​‌​​‌​‌‌​​​​‌​‌‌‌​‌​​​‌‌​‌​​‌​‌‌​‌‌‌‌​‌‌​‌‌‌​​​‌​‌‌​‌​‌‌​‌‌​​​‌‌​‌‌‌‌​‌‌​‌‌‌‌​‌‌‌​​​​​​‌​‌‌‌​​‌‌​‌​​​​‌‌‌​‌​​​‌‌​‌‌​‌​‌‌​‌‌​​

闭环缺一环就退化

闭环指从告警触发到处置执行、再到结果验证与状态回写的完整链路。缺任何一环都会退化:没有验证等于假设处置成功,没有回写则告警与工单长期与实际状态不一致,没有终止条件则系统会在同一问题上反复执行,形成振荡。

基本信息

闭环环节触发、执行、验证、回写
验证方式复用健康检查重新判定一次
终止条件成功、失败、达到尝试上限
回写内容动作类型、耗时、结果、执行者
防振荡冷却时间与连续恢复判定

典型使用场景

  • 进程异常:告警触发重启,重启后重新执行健康检查确认恢复
  • 实例不可用:自动摘除并通知,结果回写避免重复通知
  • 处置失败:连续失败达上限后升级人工,并附上失败现场
  • 反复振荡:同一告警短时间内多次触发时拉长冷却时间,避免动作叠加
  • 复盘改进:统计自动处置成功率,把无效动作从剧本中移除

闭环环节与缺位后果

环节作用缺位后果
触发由告警或巡检结果发起依赖人工发现,响应延迟
执行按剧本调用处置动作动作不一致,结果无法复现
验证重新检查确认已恢复假设成功,故障仍然存在
回写更新告警与工单状态状态滞后,重复告警与重复动作

闭环骨架与留痕

闭环骨架与留痕
# 触发 -> 执行 -> 验证 -> 回写,四步都要留痕
if ! /opt/check/health.sh; then                 # 触发条件
  systemctl restart app.service >> action.log   # 执行处置动作
  sleep 5                                       # 给服务留出启动时间
  if /opt/check/health.sh; then                 # 验证处置是否生效
    echo resolved >> action.log                 # 回写成功状态
  else
    echo still-broken-escalate >> action.log    # 升级人工并附现场
  fi
fi
验证环节应复用同一套健康检查,而不是另写一个判断。两套逻辑并存时容易出现处置侧判定成功、检查侧仍报失败的分歧,闭环状态随之失去可信度。
自动处置必须有冷却时间。告警抖动与处置动作叠加会形成振荡:动作触发新告警、新告警再触发动作,最终把局部问题扩散成持续不可用。

易错点

  • 只执行不验证:处置失败的告警被当作已解决,故障持续存在无人处理
  • 结果不回写:告警与工单状态长期滞后,重复通知与重复动作同时出现
  • 没有冷却时间:处置与告警互相触发,形成振荡并扩大影响面
  • 剧本不在版本管理内:被临时修改后处置结果无法复现与审计

数据来源与参考

  • Google SRE 系列:自动化与减少琐碎工作
  • Kubernetes 官方文档:控制器与期望状态收敛
  • ITIL 4 服务管理实践:事件管理

整理校对:其其网ICT文档中心 · 本页地址:docs.qiqicto.com/automation/alert-auto-remediation-loop.html

​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌​​‌​‌‌‌‌​‌‌​​​​‌​‌‌‌​‌​‌​‌‌‌​‌​​​‌‌​‌‌‌‌​‌‌​‌‌​‌​‌‌​​​​‌​‌‌‌​‌​​​‌‌​‌​​‌​‌‌​‌‌‌‌​‌‌​‌‌‌​​​‌​‌‌‌‌​‌‌​​​​‌​‌‌​‌‌​​​‌‌​​‌​‌​‌‌‌​​‌​​‌‌‌​‌​​​​‌​‌‌​‌​‌‌​​​​‌​‌‌‌​‌​‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌​‌​‌‌‌​​‌​​‌‌​​‌​‌​‌‌​‌‌​‌​‌‌​​‌​‌​‌‌​​‌​​​‌‌​‌​​‌​‌‌​​​​‌​‌‌‌​‌​​​‌‌​‌​​‌​‌‌​‌‌‌‌​‌‌​‌‌‌​​​‌​‌‌​‌​‌‌​‌‌​​​‌‌​‌‌‌‌​‌‌​‌‌‌‌​‌‌‌​​​​​​‌​‌‌‌​​‌‌​‌​​​​‌‌‌​‌​​​‌‌​‌‌​‌​‌‌​‌‌​​