首页/AI/大模型部署与运维速查/API Key 鉴权:引擎与网关两层
本包目录(267 条)

API Key 鉴权:引擎与网关两层

鉴权有引擎自带与网关统一两层:vLLM 用 --api-key(或环境变量)开启 Bearer 校验;生产建议网关统一鉴权,引擎只监听内网。

引擎侧开启与调用

引擎侧开启与调用
vllm serve <模型路径> --api-key <KEY>
# 或:VLLM_API_KEY=<KEY> vllm serve <模型路径>

curl -H "Authorization: Bearer <KEY>" http://127.0.0.1:8000/v1/models
key 存环境变量或密钥管理,不进代码仓库与镜像层;轮换采用新旧双 key 过渡。

易错点

  • 引擎直接暴露公网:鉴权、限流、审计都缺位,至少把网关放在前面

数据来源与参考

  • vLLM 官方文档:API Key 与鉴权(docs.vllm.ai)
​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌