指标速览（名字以本机 /metrics 输出为准）
指标速览（名字以本机 /metrics 输出为准）
vllm:gpu_cache_usage_perc # KV 池使用率 0~1
vllm:num_requests_waiting # 等待调度请求数
vllm:num_requests_running # 正在生成的请求数- 水位持续高位且等待数上涨 → 扩容或限制并发
- 峰值水位留 15%~20% 裕量，红冲说明容量预估偏紧
- 结合输入长度分布看：长请求占用的 KV 块更多
KV 水位与延迟联动看：高水位本身不是故障，排队时长变长才是要动作的信号。