首页/AI/大模型部署与运维速查/GPU 上架自检:快速验证脚本
推理环境与 GPU50 条

GPU 上架自检:快速验证脚本

新机器或换卡后的快速自检:先确认识别与驱动版本,再跑一次真实矩阵乘验证计算路径,最后做多卡通信基线;三步覆盖硬件、驱动与框架栈的常见问题。

上架自检的三步

新机器或换卡后,不用等业务部署才知道卡好不好。三步能覆盖硬件、驱动与框架栈的常见问题:先确认设备识别与驱动版本,再用真实矩阵运算验证计算路径,多卡机器再补一次通信基线。每一步都有明确的通过判据,比只看一眼设备列表扎实得多。

单卡与计算自检

单卡与计算自检
# 1) 设备识别与驱动版本
nvidia-smi -L
nvidia-smi --query-gpu=name,driver_version,memory.total --format=csv
# 2) 真实矩阵运算:验证计算单元与显存可用
python - <<'PY'
import torch
a = torch.randn(4096, 4096, device='cuda')
b = a @ a
print('matmul ok', float(b.sum()), torch.cuda.get_device_name(0))
PY
# 3) 多卡机器接着跑通信基线(见 nccl-tests 相关条目)

检查项与判据

检查项通过判据异常表现
设备识别设备数量与卡型符合采购单少卡或名称不符
驱动版本与框架要求一致版本过低导致容器或框架报错
显存容量与规格一致容量偏低说明看错卡或子型号不符
矩阵运算计算成功且结果可打印报内核不可用或运算异常
多卡通信带宽在合理区间带宽远低于链路规格

典型使用场景

  • 新机验收:在交付前跑一遍,问题当场暴露
  • 换卡后复核:确认备件规格与性能与原卡一致
  • 驱动或工具链升级后:重新跑自检,确认没有回退
  • 扩容前预检:批量脚本逐台执行,结果汇总成清单
  • 故障恢复确认:处理后重新验证计算与通信链路
多卡机器在一轮矩阵运算后补一次通信基线:计算正常但通信异常时,单卡测试是完全看不出来的。
自检脚本要能一键批量执行并把结果落到文件:多台机器逐台手工跑,结论容易丢失,也难与其他批次对比。
自检通过不代表长稳可靠:新卡投产前建议跑一段满载测试,观察温度与降频情况,否则问题会在业务高峰才暴露。

易错点

  • 只跑状态查询就验收:计算单元与显存问题需要真实算例才能暴露
  • 跳过通信测试:多卡并行时通信异常会表现为性能远低于预期
  • 用随机数据不看结果:只看「没报错」不够,结果校验不通过同样说明有问题
  • 不做批量记录:多台机器验收结果只存在于终端里,事后无法追溯
  • 忽略满载测试:短时自检通过但持续运行时降频严重,容量评估偏乐观

数据来源与参考

  • PyTorch 官方文档:CUDA 语义(pytorch.org/docs)
  • NVIDIA 数据中心 GPU 部署指南(docs.nvidia.com/datacenter)
​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌