取证
取证
nvidia-smi --query-gpu=index,memory.used,memory.total --format=csv
nvidia-smi --query-compute-apps=pid,process_name,used_memory --format=csv
grep -i -m5 'out of memory' server.log- 止损：调低 --max-num-seqs / --gpu-memory-utilization，或收短 max-model-len 后重启
- 核对：同卡是否有训练、Notebook 等进程残留占显存
- 根治：量化降权、张量并行扩卡、限制输入与输出长度
重启回收的是碎片与缓存；若 OOM 周期性复发，按根因处理而不是重启了事。