首页/AI/大模型部署与运维速查/ModelScope 模型下载
部署形态与选型43 条

ModelScope 模型下载

国内模型(Qwen、GLM 等)多数在魔搭社区同步发布,用 modelscope 命令行可直接下载,网络条件通常更稳定。

ModelScope 下载是什么

国内发布的大模型(Qwen、GLM 等)多数在魔搭社区同步发布,用 modelscope 命令行或 Python 接口下载,网络条件通常比直连海外源更稳定,失败重试的成本也更低。下载得到的目录结构与主流推理框架一致,把该目录填到推理引擎的模型路径参数里即可直接加载,不需要再做格式转换。

基本信息

安装pip install modelscope
命令行modelscope download --model <仓库名> --local_dir <目录>
Python 接口snapshot_download(可从 modelscope 直接导入)
产物结构配置、权重分片与索引、分词器等文件,与主流框架兼容
注意同一模型可能有多个来源的仓库,revision 未必同步

典型使用场景

  • 国内机房拉取大模型:避免跨境链路抖动导致下载反复失败
  • 离线环境部署:先在有网的机器下载完整目录,再拷贝进内网
  • 固定版本下载:指定 revision 让多台机器拿到同一份权重
  • CI 或部署脚本内置拉取步骤:让模型获取与镜像构建一致可复现
  • 换源排查:某个来源下载异常时切换到另一来源,同时核对文件完整性

安装与下载

安装与下载
pip install modelscope
modelscope download --model Qwen/Qwen2.5-7B-Instruct --local_dir ./models/qwen2.5-7b

# 也可以在 Python 里调用:
# from modelscope import snapshot_download
# snapshot_download('Qwen/Qwen2.5-7B-Instruct', local_dir='./models/qwen2.5-7b')

# 校验:配置、权重分片与索引文件是否齐全
ls -lh ./models/qwen2.5-7b | head

下载后必查清单

文件作用缺失的后果
配置文件描述架构与超参加载阶段直接报架构不识别
权重分片模型参数主体加载到中途失败
索引文件列出全部分片清单无法判断文件是否齐全
分词器等附属文件输入输出处理能加载但推理结果异常
同一模型可能同时存在多个来源的仓库:切换来源后要核对权重文件完整性与 revision,而不是假设两边内容一致。
下载是大文件长任务:建议放在带宽稳定的机器上执行,并把目标目录名带上版本或短哈希,便于后续确认这台机器实际用的是哪份权重。

易错点

  • 不同来源的权重 revision 不同步:跨来源混用分片文件会在加载时报错
  • 下载中断后直接启动服务:缺分片要到加载阶段才暴露,白白浪费排查时间
  • 把已存在且内容不一致的目录当下载目标:新旧文件混在一起,无法判断实际加载了哪一份
  • 只下权重不看许可条款:商用前需要核对仓库声明的许可证,下载成功不等于可以商用

数据来源与参考

  • ModelScope 官方文档(modelscope.cn/docs)
​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌