首页/AI/大模型部署与运维速查/模型 revision 锁定与可复现部署
本包目录(267 条)
部署形态与选型43 条
推理环境与 GPU50 条推理参数与优化50 条显存与并发估算40 条服务化与网关34 条运维监控与排障50 条

模型 revision 锁定与可复现部署

仓库内容会更新:锁定 revision(commit 号或标签)能让每次部署拿到同一份权重,是灰度与回滚的基础。

锁定 revision

锁定 revision
# vLLM 启动参数(通用写法)
vllm serve <模型> --revision <commit哈希或标签>
# HF 下载时指定
huggingface-cli download <模型> --revision <commit哈希> --local-dir ./models/<模型>@<版本>
  • 部署清单记录:模型名 + revision + 引擎版本 + 量化方式
  • 回滚时切换到旧 revision 目录即可
  • 灰度时新旧 revision 各起一份实例,网关按权重分流
只写模型名不写 revision,等于每次部署都赌上游没更新。

易错点

  • 用分支名(如 main)作 revision 不是锁定:分支会移动,必须用 commit 哈希

数据来源与参考

  • Hugging Face Hub 文档(huggingface.co/docs/huggingface_hub)
  • vLLM 官方文档(docs.vllm.ai)
​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌