首页/AI/大模型部署与运维速查/掉卡检测:nvidia-smi 与内核日志双确认
运维监控与排障50 条

掉卡检测:nvidia-smi 与内核日志双确认

掉卡时设备从 nvidia-smi 消失或句柄报错,服务侧出现 CUDA 相关错误;检测靠「设备计数 + 内核 Xid 日志 + 引擎错误日志」三条线,任何一条异常都要人工确认。

现场确认

现场确认
nvidia-smi -L                          # 设备数量是否少了
nvidia-smi | head -20                  # 是否报 Unable to determine device handle
dmesg -T | grep -i -E 'xid|fell off|nvrm' | tail

监控侧检测(示意)

监控侧检测(示意)
DCGM_FI_DEV_XID_ERRORS 出现增量 → 告警
巡检任务:nvidia-smi -L 设备数与基线比对,不一致立即告警
Xid 79 类掉卡通常无法靠 nvidia-smi --gpu-reset 恢复;按节点排障流程处理并联系厂商支持。

易错点

  • 只重试不摘卡:请求被反复调度到坏卡,故障面持续扩大

数据来源与参考

  • NVIDIA 官方文档:Xid Errors 与 GPU Reset(docs.nvidia.com)
  • NVIDIA DCGM 文档(github.com/NVIDIA/DCGM)
​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌