首页/AI/大模型部署与运维速查/GPU 上架自检:快速验证脚本
推理环境与 GPU50 条

GPU 上架自检:快速验证脚本

新机器或换卡后的快速自检:先确认识别与驱动版本,再跑一次真实矩阵乘验证计算路径,最后做多卡通信基线;三步覆盖硬件、驱动与框架栈的常见问题。

单卡与计算自检

单卡与计算自检
nvidia-smi -L
python - <<'PY'
import torch
a = torch.randn(4096, 4096, device='cuda')
b = a @ a
print('matmul ok, sum =', float(b.sum()))
print(torch.cuda.get_device_name(0))
PY
多卡机器接着跑 nccl-tests 的 all_reduce_perf 做通信基线(见 nccl-test 条目)。
自检通过不代表长稳:新卡投产前建议跑拷机观察温度与降频(见 gpu-burn 条目)。

易错点

  • 只跑 nvidia-smi 就验收:计算单元或显存问题需要真实算例才能暴露

数据来源与参考

  • PyTorch 官方文档:CUDA 语义(pytorch.org/docs)
  • NVIDIA 数据中心 GPU 部署指南(docs.nvidia.com/datacenter)
​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌