首页/AI/大模型部署与运维速查/功耗、温度与降频排查
本包目录(267 条)
部署形态与选型43 条
推理环境与 GPU50 条
推理参数与优化50 条显存与并发估算40 条服务化与网关34 条运维监控与排障50 条

功耗、温度与降频排查

GPU 触及功耗墙或温度阈值时会自动降频,表现为吞吐下滑;用 nvidia-smi -q -d 查询温度、功耗、时钟以及降频原因(Clocks Throttle Reasons)逐项对照。

查询与调整

查询与调整
nvidia-smi -q -d TEMPERATURE,POWER,CLOCK
nvidia-smi -q -d PERFORMANCE | grep -A 12 'Clocks Throttle Reasons'
sudo nvidia-smi -pl <瓦数上限>     # 调整功耗上限(需卡型与驱动支持)
sw_power_cap触及功耗上限导致的降频
hw_thermal_slowdown温度触发硬件保护降频
sw_thermal_slowdown软件温度策略触发
先处理风道与进风温度再谈参数调整:散热不足时动功耗墙只是把问题往后拖。

易错点

  • 只看 GPU-Util 不看降频原因:利用率 100% 但时钟被压低时吞吐会明显偏低

数据来源与参考

  • NVIDIA nvidia-smi 文档:查询选项(docs.nvidia.com/deploy/nvidia-smi)
​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌