首页/AI/大模型部署与运维速查/OpenWebUI 接入本地推理服务
本包目录(267 条)
部署形态与选型43 条
推理环境与 GPU50 条推理参数与优化50 条显存与并发估算40 条服务化与网关34 条运维监控与排障50 条

OpenWebUI 接入本地推理服务

OpenWebUI 是自托管的对话前端,通过环境变量指向任意 OpenAI 兼容后端(vLLM、Ollama、网关),常作为团队使用本地模型的入口页面。

容器启动(指向本地引擎)

容器启动(指向本地引擎)
docker run -d -p 3000:8080 -e OPENAI_API_BASE_URL=http://<引擎地址>:8000/v1 -e OPENAI_API_KEY=<占位密钥> -v open-webui:/app/backend/data --name open-webui ghcr.io/open-webui/open-webui:main
访问端口3000(容器内 8080)
后端任意 OpenAI 兼容接口
要点后端地址从容器视角可达;密钥按后端要求填写
环境变量名随版本演进(早期 OPENAI_API_BASE_URL,新版为 OPENAI_API_BASE_URLS),以官方 README 为准。

易错点

  • 容器里写 127.0.0.1 指向的是容器自身:后端在宿主机时要改用宿主机 IP 或 compose 服务名

数据来源与参考

  • Open WebUI 文档与仓库(docs.openwebui.com)
​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌