首页/AI/大模型部署与运维速查/OpenWebUI 接入本地推理服务
部署形态与选型43 条

OpenWebUI 接入本地推理服务

OpenWebUI 是自托管的对话前端,通过环境变量指向任意 OpenAI 兼容后端(vLLM、Ollama、网关),常作为团队使用本地模型的入口页面。

OpenWebUI 接入本地服务

OpenWebUI 是自托管的对话前端,通过环境变量指向任意 OpenAI 兼容后端(本地推理引擎、Ollama 或统一网关),常作为团队使用本地模型的入口页面。它支持多用户与会话管理,数据通过卷持久化,一个前端可以同时挂多个后端地址。

基本信息

访问端口宿主 3000,映射到容器内 8080
后端要求提供 OpenAI 兼容接口即可
关键配置后端地址与密钥,通过环境变量注入
数据持久化会话与账号数据放在挂载卷里
适用场景团队内部使用、模型对比与联调演示

典型使用场景

  • 团队统一入口:不暴露引擎端口,所有人从前端访问
  • 模型对比:同时挂多个后端,在界面上切换模型对话
  • 内网使用本地模型:数据不出内网,替代公有云对话产品
  • 联调演示:给业务方一个可直接体验的界面,而不是发 curl 命令
  • 排查连接问题:用前端能否连通来判断是网络问题还是引擎问题

容器启动(指向本地引擎)

容器启动(指向本地引擎)
docker run -d --name open-webui \
  -p 3000:8080 \
  -e OPENAI_API_BASE_URL=http://<引擎地址>:8000/v1 \
  -e OPENAI_API_KEY=<占位密钥> \
  -v open-webui:/app/backend/data \
  ghcr.io/open-webui/open-webui:main

# 校验:浏览器打开 3000 端口,能拉出模型列表并完成一轮对话

常见配置项与易错点

配置项说明易错点
后端地址从容器视角可达的 URL写 127.0.0.1 会指向容器自身
密钥按后端要求填写引擎未开鉴权时也要填非空占位值
端口映射宿主端口映射到容器 8080与宿主已占用端口冲突
数据卷保存会话与账号不挂卷会导致重建后数据丢失
环境变量名随版本演进(早期为单数形式,新版改为复数形式),接入前以官方说明为准,别直接照抄旧教程。
前端默认面向自托管场景:对外提供访问前必须开启账号体系与访问控制,否则等于把模型调用能力开放给所有人。

易错点

  • 容器里写 127.0.0.1 指向的是容器自身:后端在宿主机时要改用宿主机 IP 或同一网络下的服务名
  • 数据卷没挂:容器重建后会话记录与账号一起丢失
  • 把前端直接暴露公网且未启用账号控制:任何人都能消耗你的算力
  • 后端或中间层开着缓冲:界面上表现出「等很久然后一次性出现」,需要检查流式链路配置

数据来源与参考

  • Open WebUI 文档与仓库(docs.openwebui.com)
​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌