vLLM /metrics：Prometheus 抓取

vLLM 在 /metrics 暴露 Prometheus 指标：请求运行/等待数、TTFT/TPOT 直方图、KV 使用率与前缀缓存命中；按固定间隔抓取即可接入现有监控栈。

Prometheus 抓取配置

scrape_configs:
  - job_name: vllm
    metrics_path: /metrics
    static_configs:
      - targets: ["127.0.0.1:8000"]

curl -s http://127.0.0.1:8000/metrics | grep -E 'num_requests|ttft|tpot' | head

指标名随版本有微调（vllm: 前缀）：以本机实际输出为准再写告警表达式。

‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌