模型占多少磁盘
权重文件的大小基本等于参数数量乘以每个参数占用的字节数：十亿参数在十六位精度下约两吉字节，八位约一吉字节，四比特约零点五吉字节，再算上分词器、配置与元数据。除了权重本身，还要为下载与格式转换预留临时空间，多套精度版本并存时按份数叠加。模型盘最好单独规划，避免和系统盘、日志盘抢空间。
基本信息
| 估算公式 | 参数数量 × 每参数字节数，再叠加分词器、配置与元数据开销 |
|---|---|
| 常见字节数 | 十六位约 2 字节、八位约 1 字节、四比特约 0.5 字节 |
| 临时空间 | 下载缓存与转换中间产物，按最终体积的零点五到一倍预留 |
| 目录规划 | 权重、下载缓存、日志分盘放置 |
| 权限要求 | 模型目录属主与推理进程运行用户一致，避免读取失败 |
典型使用场景
- 上架前容量规划：按计划部署的模型清单算出所需磁盘总量并留出余量
- 下载前预留空间：确认目标盘剩余空间足够容纳权重与临时文件
- 格式转换：融合权重、转成量化格式时会产生中间文件，需要额外空间
- 多版本共存：全精度、量化与本地格式并存时，容量需求是各版本之和
- 磁盘告警处置：定位是模型膨胀、日志堆积还是下载缓存未清理
容量估算与核对
容量估算与核对
df -h /models # 先看模型盘剩余空间
du -sh /models/* | sort -h # 逐模型查看实际占用
du -sh ~/.cache/huggingface # 下载缓存常在家目录，别挤占系统盘
find /models -name '*.safetensors' -exec du -ch {} + | tail -1 # 权重实际体积
# 估算示例：7B 十六位约 14 GB；四比特量化版本约 4 到 5 GB（含元数据）容量构成
| 组成部分 | 量级 | 注意点 |
|---|---|---|
| 权重文件 | 参数数乘以每参数字节数 | 占比最大，决定整体规划 |
| 分词器与配置 | 通常在兆字节级 | 容易被忽略但缺失会导致加载失败 |
| 下载缓存 | 与权重相当 | 默认在家目录，需显式指定到大盘 |
| 转换临时文件 | 与目标格式体积相当 | 转换完成后应清理，否则长期占用 |
| 日志与运行数据 | 随运行时间增长 | 与模型分开盘，避免互相挤占 |
下载缓存默认位于用户家目录，系统盘容量往往较小：在拉取大模型前先把缓存目录指到大容量模型盘，否则下载到一半就会失败。
下载中断残留的临时文件不会自动回收：定期检查缓存目录里的未完成分片，否则多次失败会累积吃掉可观空间。