首页/AI/大模型部署与运维速查/Ollama API:原生接口与 OpenAI 兼容接口
部署形态与选型43 条

Ollama API:原生接口与 OpenAI 兼容接口

Ollama 同时提供原生 REST(/api/generate、/api/chat)与 OpenAI 兼容端点(/v1/chat/completions),后者可直接用 OpenAI SDK 连接,便于切换后端。

原生 /api/chat

原生 /api/chat
curl http://127.0.0.1:11434/api/chat -d '{ "model": "qwen2.5:7b", "messages": [{"role": "user", "content": "你好"}], "stream": false }' 

OpenAI 兼容调用

OpenAI 兼容调用
curl http://127.0.0.1:11434/v1/chat/completions -H 'Content-Type: application/json' -d '{ "model": "qwen2.5:7b", "messages": [{"role": "user", "content": "你好"}] }' 
OpenAI 兼容层对部分高级参数(如 logprobs、工具调用细节)的支持程度与原生接口不同,迁移功能前先做兼容性测试。

易错点

  • 原生接口的 stream 默认行为与 OpenAI SDK 预期不同,混用两套接口时注意显式设置 stream 参数

数据来源与参考

  • Ollama 官方文档:API Reference(docs.ollama.com)
​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌