首页/AI/大模型部署与运维速查/HF 镜像与离线下载策略
本包目录(267 条)
部署形态与选型43 条
推理环境与 GPU50 条推理参数与优化50 条显存与并发估算40 条服务化与网关34 条运维监控与排障50 条

HF 镜像与离线下载策略

网络受限环境用 HF_ENDPOINT 指向镜像站或统一走代理;完全离线环境则先在可达网络下载完整模型目录,再整体拷贝进内网。

镜像与代理

镜像与代理
export HF_ENDPOINT=https://hf-mirror.com     # 社区镜像
export https_proxy=http://<代理地址>:<端口>    # 或走企业代理
huggingface-cli download <模型> --local-dir ./models/<模型>

离线搬迁

离线搬迁
rsync -avP ./models/<模型>/ 用户@内网机器:/data/models/<模型>/
export HF_HUB_OFFLINE=1                       # 内网侧:禁止联网检查
  • 离线前:下载含 config、tokenizer、权重与索引文件的完整目录
  • 离线后:设置 HF_HUB_OFFLINE=1 避免框架联网校验卡顿
  • 校验:比对文件清单与大小,或核对校验和
镜像站为第三方服务,敏感或受限模型不要经镜像中转;优先官方源或企业镜像。

易错点

  • 只拷了权重文件、漏掉 tokenizer 或 chat_template 文件,服务能启动但对话模板错乱

数据来源与参考

  • Hugging Face Hub 文档(huggingface.co/docs/huggingface_hub)
​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌