首页/AI/大模型部署与运维速查/Ollama 常用命令速查
部署形态与选型43 条

Ollama 常用命令速查

pull / run / list / ps / show / rm / create / push 覆盖模型生命周期的主要操作;create 配合 Modelfile 可以固化默认参数与系统提示。

Ollama 命令的覆盖范围

Ollama 的命令行覆盖模型生命周期的全部动作:拉取、运行、查看、删除、构建自定义模型。日常用得最多的是 pull 与 run,排查问题常用 list、ps 与 show。create 配合 Modelfile 可以把系统提示与采样参数固化成一个新模型名,避免每次调用重复传参。命令返回的文案很简短,理解每个命令的实际动作能避免误删与误判。

常用命令

常用命令
# 模型生命周期
ollama pull <模型>            # 从官方库拉取,首次会下载量化权重
ollama run <模型>             # 进入交互对话,顺带确认模型可用
ollama list                   # 本地已下载模型与体积
ollama ps                     # 正在运行的模型、显存占用与常驻剩余时间
ollama show <模型>            # 参数量、量化档位、模板与默认参数
ollama cp <模型> <新名字>     # 复制一份,改参数时不污染原模型
ollama rm <模型>              # 删除本地模型文件

命令速查

命令作用注意
pull拉取或更新模型同名标签内容可能更新,基线要记版本
run运行并进入交互只用于验证,不要用它做批量任务
list本地模型清单显示的体积可用来判断量化档位
ps运行中模型与显存占用含常驻剩余时间,判断显存被谁占着
show模型参数与模板排查上下文被截断与模板错乱第一站
cp复制模型改参数前先复制,保留原始版本
create按 Modelfile 构建构建失败会提示读取 Modelfile 的具体行
rm删除本地模型直接删文件,没有回收站,删前确认无人共享
serve启动后台服务与桌面版同时运行会抢端口

服务与环境变量

服务与环境变量
ollama serve                          # 前台启动接口服务
OLLAMA_HOST=0.0.0.0 ollama serve      # 允许局域网访问(需自加访问控制)
OLLAMA_MODELS=/data/ollama/models     # 迁移模型存储目录
OLLAMA_KEEP_ALIVE=30m                 # 模型空闲后在显存中保留的时长

典型使用场景

  • 环境准备:用 pull 把模型拉到数据盘目录,避免落到系统盘
  • 快速验证提示词:run 里直接对话,确认表述与预期一致再写进代码
  • 核对模型细节:show 看上下文窗口、量化档位与模板,排查截断与格式问题
  • 固化常用配置:create 配合 Modelfile 生成固定系统提示的模型
  • 清理磁盘:用 list 找出不再使用的模型后按体积清理
ollama rm 直接删除本地模型文件,没有回收站:共享模型目录时先确认没有其他实例在用,删完再重启服务往往已经来不及。
改 OLLAMA_MODELS 不会自动搬运旧模型:新目录下看不到已有模型属于正常现象,需要手动复制过去,否则会被误判成「模型消失」。

易错点

  • 改模型目录后不搬文件:表现为模型全部消失,实际是路径变了
  • 共享目录里随意 rm:其他实例正在使用的模型被删除后请求直接失败
  • pull 走得慢就反复重试:先确认网络与代理设置,或在有带宽的机器下好后整体拷贝
  • 把 serve 起多个实例:端口冲突导致新实例静默退出,调用却仍命中旧实例
  • 不看 show 就调参:上下文窗口与模板是模型内置信息,忽略它们会让排查方向跑偏

数据来源与参考

  • Ollama 官方文档:CLI Reference(docs.ollama.com)
​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌