Ollama 与 11434 端口
11434 是本地大模型运行框架 Ollama 的默认 API 端口。模型的拉取、推理、生成与会话接口都挂在这个 HTTP 服务上,默认只监听本机地址。近两年大量部署为了远程调用把它改成监听所有网卡,导致公网上出现成批可被白嫖算力的实例,甚至能被用来拉取并运行不可信的模型。
基本信息
| 服务 | Ollama API 服务 |
|---|---|
| 端口/协议 | TCP HTTP 11434,默认仅回环 |
| 常见接口 | 模型列表、生成、对话、拉取与删除 |
| 环境变量 | OLLAMA_HOST 控制监听地址,OLLAMA_MODELS 控制模型目录 |
| 权限要求 | 默认无认证,靠监听范围与网络策略控制 |
| 安全等级 | 仅本机或内网,禁止公网暴露 |
典型使用场景
- 本地开发:为本机应用与脚本提供大模型推理接口
- 内网共享:团队内一台推理机供多人调用
- 离线环境:在无外网机房内运行本地模型
- 自动化集成:把推理接口接进内部工作流与工具
- 原型验证:快速切换模型对比效果
调用与暴露自查
调用与暴露自查
curl -s http://127.0.0.1:11434/api/tags | head -c 300 # 查看本机已有模型
curl -s http://127.0.0.1:11434/api/generate -d '{"model":"llama3","prompt":"hi","stream":false}' | head -c 200
ss -lntp | grep 11434 # 确认监听地址不是全网卡
# 需要内网共享时:OLLAMA_HOST 设为内网地址并只放行内网网段
# 反向代理之后务必补认证与限流,避免接口被匿名调用暴露情形的后果
| 情形 | 后果 | 处置 |
|---|---|---|
| 监听全网卡且公网可达 | 算力被白嫖,接口被自动化调用 | 改回回环或严格限制来源 |
| 无认证的共享实例 | 可删除模型、拉取任意模型 | 前置反向代理加认证与限流 |
| 模型目录可读 | 权重与私有微调成果外泄 | 收紧文件权限与访问范围 |
| 不校验模型来源 | 引入不可信模型文件 | 只允许可信来源的模型 |
运维要点
- 部署后第一时间核对监听地址,别等到被扫描才发现
- 推理机尽量独立部署,不与存放敏感数据的机器混用
- 模型与权重目录纳入备份与权限审计范围
- 对外共享统一走反向代理,并记录调用来源与配额
- 把推理服务的资源占用纳入监控,异常满载常是被外部调用
Ollama 的默认监听是本机地址,改成对外监听只需一个环境变量。排障时先确认监听地址,再看防火墙与反向代理;多数连不上的问题其实出在配置没生效或服务没重启。
公网暴露的推理接口不只是算力问题:接口可被用于生成违规内容并把风险算在你的资产上,也可能成为进入内网的跳板,务必限制来源并补认证。