读懂 PyTorch OOM 报错文本

torch.cuda.OutOfMemoryError 消息带完整显存账单：申请大小、卡容量、空闲、已分配与已保留；分清 allocated（活跃张量）与 reserved（分配器持有），判断是容量问题还是碎片问题。

大模型部署与运维速查AI更新于 2026-10-12

报错文本结构（示意）

CUDA out of memory. Tried to allocate 2.34 GiB.
GPU 0 has a total capacity of 79.65 GiB of which 1.98 GiB is free.
77.50 GiB is allocated ... 77.56 GiB is reserved ...
64.00 MiB is reserved by PyTorch but unallocated

allocated	当前活跃张量占用
reserved	分配器向驱动保留的总量，含缓存块
free	驱动层面仍可分配的量
reserved but unallocated	缓存块；数值大且申请失败=碎片信号

碎片缓解（先在预发验证）

export PYTORCH_CUDA_ALLOC_CONF=expandable_segments:True

expandable_segments 的兼容性随 CUDA 与框架版本而异：确认本环境支持后再用于生产。

易错点

把 reserved 当成真实占用去加卡：其中大块是分配器缓存，重启或改参数即可回收

数据来源与参考

PyTorch 官方文档：torch.cuda memory management（docs.pytorch.org）

继续搜索

常用关键词：3389 traceroute iptables 子网掩码 docker

‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌