QPS 与并发数换算

QPS 约等于并发数除以平均响应时间;反推时两者联动:提升并发不必然提升吞吐,瓶颈资源饱和后延迟上升、吞吐停滞。

口径QPS 统计正确完成的请求数每秒;并发指在途请求数
换算QPS ≈ 并发 / 平均延迟(秒)
验证压测逐步加压,画吞吐-延迟曲线确定拐点
  • 先固定负载阶梯加压(如每级持续数分钟,逐级提升并发)
  • 记录每级的实测 QPS、P95/P99 与错误率曲线
  • 定位拐点:吞吐不再上升而延迟快速抬升的负载点
  • 交叉验证:把实测拐点与换算公式的估算值互相对照
  • 以拐点的 70%–80% 作为日常容量水位,峰值另配冗余
平均延迟掩盖长尾:容量核算用 P95/P99 更稳妥,避免均值达标而超时率超标。

易错点

  • 把 QPS 目标直接当并发目标,线程数配置错误
  • 只看均值延迟,P99 已大面积超时

数据来源与参考

  • 《性能之巅(第 2 版)》(Gregg)
  • Google SRE Book:Managing Load
​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌