Little 定律

稳态系统中并发数等于到达率乘以平均停留时间(L=λW);它是容量换算的基础工具:已知 QPS 与响应时间即可估并发,反之亦然。

换算

换算
并发数 L = 到达率 λ × 平均响应时间 W

例:λ=1000 QPS,W=50ms → L ≈ 50 并发
目标并发超出线程池/连接池容量时,排队时间会推高 W

换算示例

场景到达率 λ平均耗时 W并发 L
网关入口2000 QPS20ms40
订单服务800 QPS120ms96
报表导出20 QPS3s60
数据库写路径500 QPS60ms30
定律描述稳态;突发流量下瞬时并发可远高于平均值,容量设计要看峰值而非均值。

易错点

  • 用平均 QPS 估算并发,突发时线程池被打满
  • 忽略排队等待时间,低估实际并发需求

数据来源与参考

  • 《性能之巅(第 2 版)》(Gregg)
  • Little 定理(J.D.C. Little, 1961)
​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌