默认端口
| 组件 | 端口 |
|---|---|
| vLLM | 8000 |
| TGI | 8080（容器内 80） |
| SGLang | 30000 |
| Ollama | 11434 |
| llama.cpp llama-server | 8080 |
| LMDeploy api_server | 23333 |
| Xinference | 9997 |
| LiteLLM 网关 | 4000 |
| OpenWebUI | 3000 |
| dcgm-exporter | 9400 |
确认端口占用
确认端口占用
ss -lntp | grep -E '8000|11434|30000'
lsof -i :8000生产环境建议只暴露网关端口，推理引擎端口仅监听 127.0.0.1 或内网。