| 端口 | 11434 |
|---|---|
| 命令 | ollama pull / run / list / ps / rm |
| 兼容端点 | http://localhost:11434/v1 |
| 模型库 | llama、qwen、deepseek-r1、gemma 等 |
拉取并使用(含 OpenAI 兼容调用)
拉取并使用(含 OpenAI 兼容调用)
ollama pull qwen3:8b
ollama run qwen3:8b
curl -s http://localhost:11434/v1/chat/completions -H "Content-Type: application/json" -d '{"model":"qwen3:8b","messages":[{"role":"user","content":"你好"}]}'默认按可用显存选择量化等级与层数;高并发生产服务建议换 vLLM/SGLang,Ollama 更适合开发机与边缘场景。