首页/AI/大模型部署与运维速查/Hugging Face 模型下载(huggingface-cli)
本包目录(267 条)
部署形态与选型43 条
推理环境与 GPU50 条推理参数与优化50 条显存与并发估算40 条服务化与网关34 条运维监控与排障50 条

Hugging Face 模型下载(huggingface-cli)

用 huggingface-cli(新版命令 hf)把模型权重下载到本地目录,支持断点续传与指定文件;大模型配合 hf_transfer 提升带宽利用率。

常用下载命令

常用下载命令
pip install -U huggingface_hub
huggingface-cli download <组织/模型> --local-dir ./models/<模型>
# 新版 CLI 等价写法:
hf download <组织/模型> --local-dir ./models/<模型>
# 只下部分文件:
huggingface-cli download <组织/模型> config.json tokenizer.json

镜像与加速传输

镜像与加速传输
export HF_ENDPOINT=https://hf-mirror.com   # 社区镜像站
export HF_HUB_ENABLE_HF_TRANSFER=1        # 需 pip install hf_transfer
下载中断后重复执行会断点续传;换目录重下前先确认磁盘剩余空间能放下整份权重。

易错点

  • 下载到默认缓存目录与 --local-dir 行为不同,容器场景要把缓存路径挂对

数据来源与参考

  • Hugging Face Hub 文档(huggingface.co/docs/huggingface_hub)
​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌