首页/AI/大模型部署与运维速查/多卡/多机通信挂起排查
运维监控与排障50 条

多卡/多机通信挂起排查

张量并行推理挂起常卡在初始化或某次集合通信:先开 NCCL 调试日志看卡在哪一步,再核对拓扑与网络,并配置通信超时让失败快速显形而不是无限等待。

调试与证据

调试与证据
NCCL_DEBUG=INFO <启动命令> 2>&1 | tee /tmp/nccl.log   # 排查窗口内使用
nvidia-smi topo -m                                     # 核对卡间互联
grep -i -E 'timeout|error|unhandled' /tmp/nccl.log | tail
  • 卡在 init:查设备数不一致、可见性变量(CUDA_VISIBLE_DEVICES)配置错误
  • 卡在集合通信:查网络/IB 链路、拓扑不匹配、单个 rank 掉队
  • 加超时:框架侧通信超时配置让挂起变成可观测的失败
NCCL_DEBUG=INFO 日志量大、有性能开销:仅用于排查窗口,结束后关掉。

易错点

  • 无限等待当常态:没有超时机制的挂起会长期占卡,等价于持续停机

数据来源与参考

  • NVIDIA NCCL 官方文档:Troubleshooting(docs.nvidia.com/deeplearning/nccl)
  • PyTorch 官方文档:torch.distributed(通信初始化)
​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌