首页/系统/服务器硬件与 RAID 速查/GPU 服务器选型要点
选型与验收72 条

GPU 服务器选型要点

GPU 服务器选型先看供电与散热:单卡功耗、整机电源余量、卡间互联拓扑与风道都决定能否稳定满载运行。

GPU 服务器先看什么

GPU 服务器选型先看供电与散热,再看互联:单卡功耗决定整机电源与辅助供电线缆的配置,风道或液冷方案决定能否长期满载,卡间互联拓扑决定多卡场景的实际效率。这三项都要在预算论证阶段核对,后期很难靠加配件补上。

基本信息

供电单卡功耗、整机电源余量、辅助供电线缆方案
散热风冷或液冷方案、机箱风道与机柜承重
互联拓扑NVLink 或 PCIe 拓扑决定多卡通信效率
兼容性以整机厂商的兼容清单为准
环境前提机柜配电与制冷能力是否满足满载运行

典型使用场景

  • 训练集群规划:按卡间通信需求选择互联形态
  • 推理节点选型:按并发量与显存需求选择卡型
  • 机房承接评估:机柜电力与制冷能否支撑满载
  • 交付验收:确认卡型、数量与拓扑符合合同
  • 扩容评估:现有整机是否还有插卡与供电空间
  • 效率复盘:性能不达标时核对拓扑与是否降频

核对卡型与拓扑

核对卡型与拓扑
# 卡型、驱动版本、功耗上限与当前状态
nvidia-smi
# 卡间互联拓扑,判断通信是否走高速互联
nvidia-smi topo -m
# 单独看功耗上限与当前功耗,判断是否被限制
nvidia-smi -q -d POWER | grep -iE 'power limit|draw' | head -20

选型核对项

维度核对内容常见风险
供电卡功耗与整机电源余量满载触发降频或电源告警
供电线缆辅助供电接口类型与数量无法接线或接触不良
散热风道设计与机箱风量撞温度墙后持续降频
拓扑卡间互联形态与带宽多卡效率与预期差距大
承重整机重量与导轨配置上架与机柜安全问题
多卡训练场景先看拓扑图:卡间带宽不足会让投入的算力打折,而这一项通常只能在采购阶段调整,装机后改不了。
液冷方案要先确认机房条件:供液、水质与漏水检测都属于交付前置条件,不能等设备到货再补。

易错点

  • 只看卡数不看供电余量:满载降频,实际算力低于采购预期
  • 忽略互联拓扑:多卡通信成瓶颈,训练效率明显打折
  • 机房配电与制冷未同步规划:设备到货才发现带不动
  • 用桌面级卡凑服务器配置:长期满载的稳定性与保修都有风险

数据来源与参考

  • GPU 与整机厂商兼容资料(通用)
​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌