两类请求分开用
两类请求分开用
curl -s http://127.0.0.1:8000/v1/models | head # 业务查询
curl -s -o /dev/null -w '%{http_code}' http://127.0.0.1:8000/health # 探活探针端点通常不鉴权、不触发推理：放进负载均衡的存活检查里，开销可控。
模型列表与健康探针
/v1/models 返回可用模型；健康检查用专门的活探针端点（如 vLLM 的 /health）：前者走业务与鉴权流程，不适合做高频探活。
易错点
- 用业务接口做探活：实例繁忙时探针超时被摘除，流量转移引发连锁反应
数据来源与参考
- vLLM 官方文档：服务器端点与健康检查（docs.vllm.ai）