规格决定接得住多少流量
负载均衡实例有明确的规格上限:每秒新建连接数、并发连接数、QPS 与带宽。这些指标接近上限时的表现不是直接报错,而是建连变慢、突发 5xx 或丢包,很容易被误判为后端问题。选型时按业务峰值乘上冗余系数估算,并预留一到两档增长空间。
基本信息
| 规格维度 | 新建连接数、并发连接数、QPS、带宽 |
|---|---|
| 估算方法 | 按业务峰值乘 1.5 到 2 的冗余系数,并考虑增长趋势 |
| 升配方式 | 控制台调整规格,部分产品伴随短暂切换 |
| 预警信号 | 新建连接耗时上升、突发 5xx、带宽贴近上限 |
| 观测入口 | 负载均衡监控指标与后端实例的连接统计 |
典型使用场景
- 大促或活动前评估现有规格是否够用
- 排查建连变慢:确认是负载均衡规格触顶还是后端处理慢
- 新业务上线前按预估峰值确定规格档位
- 横向扩容后端但入口规格未提升,瓶颈转移到负载均衡
- 评估升配窗口与对存量连接的影响
从后端观察连接概况
从后端观察连接概况
ss -s | head -5 # 连接总量与各状态分布
ss -tan state established | wc -l # 当前已建立连接数
# 与负载均衡监控的活跃连接、新建连接曲线交叉核对,判断瓶颈位置规格维度与瓶颈表现
| 维度 | 瓶颈表现 | 观察方式 |
|---|---|---|
| 新建连接数 | 建连变慢或超时 | 监控中的新建连接曲线 |
| 并发连接数 | 连接被拒或排队 | 活跃连接数与后端统计 |
| QPS | 突发 5xx 或延迟上升 | 请求数与错误率曲线 |
| 带宽 | 吞吐上不去 | 带宽指标贴近规格上限 |
规格升级可能引起短暂流量切换(视产品实现),应安排变更窗口并准备好验证手段与回退方案。
扩容要成对考虑:只增加后端实例而不提升入口规格,瓶颈只是从后端转移到负载均衡,整体容量并不会增加。