引擎侧开启与调用
引擎侧开启与调用
vllm serve <模型路径> --api-key <KEY>
# 或:VLLM_API_KEY=<KEY> vllm serve <模型路径>
curl -H "Authorization: Bearer <KEY>" http://127.0.0.1:8000/v1/modelskey 存环境变量或密钥管理,不进代码仓库与镜像层;轮换采用新旧双 key 过渡。
鉴权有引擎自带与网关统一两层:vLLM 用 --api-key(或环境变量)开启 Bearer 校验;生产建议网关统一鉴权,引擎只监听内网。
vllm serve <模型路径> --api-key <KEY>
# 或:VLLM_API_KEY=<KEY> vllm serve <模型路径>
curl -H "Authorization: Bearer <KEY>" http://127.0.0.1:8000/v1/models