排队论与利用率

排队系统利用率接近上限时等待时间急剧增长:利用率 50% 与 90% 对应的队列长度差异并非线性;给关键资源留出裕量是控制延迟的现实手段。

直觉

直觉
M/M/1 近似:平均等待 ∝ ρ / (1 - ρ)
ρ=50% → 等待系数 1
ρ=80% → 等待系数 4
ρ=90% → 等待系数 9
ρ 趋近 100% → 等待时间发散
  • 把利用率看板与延迟分位联动展示,观察拐点相关性
  • 对关键资源设利用率预警水位(如 70%–80%)
  • 按峰时段口径评估饱和度,而非只看全天平均
  • 扩容决策结合排队推导,避免等到延迟劣化才处理
不同到达分布结论不同,但共同点是:饱和度越高,等待对波动越敏感。

易错点

  • 把资源跑到高利用率才扩容,延迟早已劣化
  • 平均利用率达标掩盖峰时段的排队爆发

数据来源与参考

  • 《性能之巅(第 2 版)》(Gregg):排队论
  • Neil Gunther《Guerrilla Capacity Planning》
​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌