GPU 服务器先看什么
GPU 服务器选型先看供电与散热,再看互联:单卡功耗决定整机电源与辅助供电线缆的配置,风道或液冷方案决定能否长期满载,卡间互联拓扑决定多卡场景的实际效率。这三项都要在预算论证阶段核对,后期很难靠加配件补上。
基本信息
| 供电 | 单卡功耗、整机电源余量、辅助供电线缆方案 |
|---|---|
| 散热 | 风冷或液冷方案、机箱风道与机柜承重 |
| 互联拓扑 | NVLink 或 PCIe 拓扑决定多卡通信效率 |
| 兼容性 | 以整机厂商的兼容清单为准 |
| 环境前提 | 机柜配电与制冷能力是否满足满载运行 |
典型使用场景
- 训练集群规划:按卡间通信需求选择互联形态
- 推理节点选型:按并发量与显存需求选择卡型
- 机房承接评估:机柜电力与制冷能否支撑满载
- 交付验收:确认卡型、数量与拓扑符合合同
- 扩容评估:现有整机是否还有插卡与供电空间
- 效率复盘:性能不达标时核对拓扑与是否降频
核对卡型与拓扑
核对卡型与拓扑
# 卡型、驱动版本、功耗上限与当前状态
nvidia-smi
# 卡间互联拓扑,判断通信是否走高速互联
nvidia-smi topo -m
# 单独看功耗上限与当前功耗,判断是否被限制
nvidia-smi -q -d POWER | grep -iE 'power limit|draw' | head -20选型核对项
| 维度 | 核对内容 | 常见风险 |
|---|---|---|
| 供电 | 卡功耗与整机电源余量 | 满载触发降频或电源告警 |
| 供电线缆 | 辅助供电接口类型与数量 | 无法接线或接触不良 |
| 散热 | 风道设计与机箱风量 | 撞温度墙后持续降频 |
| 拓扑 | 卡间互联形态与带宽 | 多卡效率与预期差距大 |
| 承重 | 整机重量与导轨配置 | 上架与机柜安全问题 |
多卡训练场景先看拓扑图:卡间带宽不足会让投入的算力打折,而这一项通常只能在采购阶段调整,装机后改不了。
液冷方案要先确认机房条件:供液、水质与漏水检测都属于交付前置条件,不能等设备到货再补。