滚动记录（示意）
滚动记录（示意）
watch -n 60 nvidia-smi --query-gpu=memory.used,utilization.gpu --format=csv
# 同时导出压测侧逐分钟 P95 与吞吐做趋势对照出现缓慢上升先区分：池占位、碎片还是真泄漏；重启后复跑是最直接的判定手段。
长稳观察：显存漂移与延迟漂移
在目标并发下持续跑数小时：观察显存水位、P95 延迟与吞吐是否漂移；碎片与缓存行为随时间显现，短时压测覆盖不到。
易错点
- 只跑十分钟就上线：显存漂移与碎片问题在长稳阶段才暴露
数据来源与参考
- NVIDIA DCGM 文档（docs.nvidia.com/datacenter/dcgm）
- vLLM 官方文档：Production Metrics（docs.vllm.ai）