查看 NVLink 状态
查看 NVLink 状态
nvidia-smi topo -m # 表内 NV# 表示 NVLink 条数
nvidia-smi nvlink --status # 逐链路带宽与状态| A100 NVLink | 约 600 GB/s 双向(按配置) |
|---|---|
| H100 NVLink | 约 900 GB/s 双向(按配置) |
| 判断 | topo -m 中出现 SYS 表示跨 NUMA,通信代价较高 |
张量并行度超出 NVLink 域会退化为跨 PCIe/NUMA 通信,吞吐常明显下滑,规划时优先域内切分。