首页/AI/大模型部署与运维速查/ECC 显存错误查看与处置
推理环境与 GPU50 条

ECC 显存错误查看与处置

数据中心卡带 ECC 保护显存:用 -q -d ECC 查看单比特(已纠正)与双比特(未纠正)错误计数;未纠正错误持续的卡不可继续承载生产任务。

ECC 错误查看与处置

数据中心卡带 ECC 保护显存:可以查看单比特(已纠正)与双比特(未纠正)错误计数,并按易失性与累计两种口径分别统计,前者重启清零、后者反映长期健康度。未纠正错误持续出现时,该卡不应继续承载生产任务,需要按硬件流程处理。

基本信息

查询方式查询命令加上 ECC 数据类别,输出单比特与双比特计数
错误类型单比特(已纠正)与双比特(未纠正)
统计口径易失性(重启清零)与累计值(长期健康度)
处置节奏偶发单比特观察;双比特非零停新任务;持续复现报修
适用范围数据中心卡支持,消费卡多数没有这些字段

典型使用场景

  • 推理结果异常时排除硬件:除排查代码与配置,也要看显存错误计数
  • 周期性巡检:把 ECC 计数纳入硬件健康检查项
  • 新卡验收:确认初始计数为零或仅有极少量历史记录
  • 故障卡隔离:双比特错误持续出现时把卡从生产池摘出
  • 报修材料:把计数与卡号一起提供给硬件支持流程

查看 ECC 状态

查看 ECC 状态
# 查看 ECC 相关字段
nvidia-smi -q -d ECC | head -40

# 关键:易失性与累计值下的「未纠正」计数
# 多卡机器上要按卡号分别核对,避免误判到错误的卡

计数与处置

计数项含义处置
单比特(已纠正)硬件自动纠正,不改变数据偶发观察,明显增长则留意
双比特(未纠正)数据可能已出错停止新任务,重启后复查
易失性计数重启即清零反映当前会话状态
累计计数长期累计反映硬件健康趋势
显存错误可能导致静默计算错误:推理结果异常时,除排查代码、配置与精度,也要把 ECC 计数一起看,否则容易漏掉硬件因素。
处置节奏建议:单比特偶发继续观察;双比特非零先停新任务并重启设备复查;持续复现则按硬件流程报修更换,而不是反复重启硬撑。

易错点

  • 只看易失性计数不看累计值:前者重启清零,后者才反映长期健康度
  • 双比特错误非零仍继续承载生产:可能出现静默错误,输出结果不可信
  • 在消费卡上期待看到 ECC 计数:多数不支持,字段缺失属正常
  • 只看总计数不看是哪块卡:多卡机器要按卡号定位,否则可能换错硬件

数据来源与参考

  • NVIDIA 数据中心 GPU 文档:ECC(docs.nvidia.com)
​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌