开启与固化
开启与固化
sudo nvidia-smi -pm 1 # 开启（重启后失效）
sudo systemctl enable --now nvidia-persistenced # 用服务固化
nvidia-smi --query-gpu=persistence_mode --format=csv数据中心驱动配合 nvidia-persistenced 常驻；单卡且任务长跑的机器收益有限，任务频繁启停时体感更明显。
持久化模式：减少 GPU 初始化开销
默认情况下 GPU 无任务时驱动会卸载其状态，首个任务承担初始化延迟；开启持久化模式让驱动保持加载，适合推理服务常驻、任务频繁拉起的场景。
易错点
- 未开持久化的机器首个请求偏慢：初始化开销容易被误判成服务性能问题
数据来源与参考
- NVIDIA 驱动持久化模式文档（docs.nvidia.com/deploy/driver-persistence）