vllm bench latency：单请求延迟标定

固定形状请求的端到端延迟测试：vllm bench latency 按输入/输出长度与批大小逐档测单流时间，用于建立 TPOT 基线与退化曲线。

示意

vllm bench latency --model <模型路径> --input-len 1024 --output-len 256 --batch-size 1
# 参数以版本文档为准；再扫 batch-size 观察退化

batch=1 看单流底线，扫批看退化曲线：两者结合才完整。

‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌