首页/AI/大模型部署与运维速查/定位谁在占用 GPU 显存
本包目录(267 条)
部署形态与选型43 条
推理环境与 GPU50 条
推理参数与优化50 条显存与并发估算40 条服务化与网关34 条运维监控与排障50 条

定位谁在占用 GPU 显存

服务 OOM 或显存对不上账时,先列出占用显存的进程:PDB 进程表看不懂就用 --query-compute-apps 输出 CSV,再回查进程归属。

列出占用进程

列出占用进程
nvidia-smi --query-compute-apps=pid,process_name,used_memory --format=csv
# 回查进程归属与启动命令
ps -o user,pid,etime,cmd -p <PID>

用设备文件反查(Linux)

用设备文件反查(Linux)
fuser -v /dev/nvidia* 2>/dev/null
容器里跑的进程在宿主机上同样可见,PID 对应容器内进程经 PID 命名空间映射后的结果。

易错点

  • 进程已退出但显存仍被占:多为僵尸句柄或驱动未回收,确认无任务后重启相关进程或必要时重置设备

数据来源与参考

  • NVIDIA nvidia-smi 文档(docs.nvidia.com/deploy/nvidia-smi)
  • Linux man 手册:fuser
​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌