| 分档 | 推理档(T4/A10 级)/ 训练档(A100/V100 级),以各厂商在售为准 |
|---|---|
| 三厂命名 | gn 系列(如 gn6i/gn6v/gn7)/ GN 系列 / G 系列 |
| 关键项 | GPU 显存、卡间互联(NVLink)、网络带宽(多机训练) |
| 配额 | GPU 资源默认配额小,集群采购先提额与评估机房 |
实例内查看 GPU 状态
实例内查看 GPU 状态
nvidia-smi
nvidia-smi --query-gpu=name,memory.total,memory.used --format=csv推理卡拿去做训练、或训练集群忽略节点间网络带宽,都会让 GPU 利用率长期趴在地上。