限流应对伪代码
限流应对伪代码
if resp.status == 429:
wait = retry_after(resp) or backoff()
schedule_retry(wait)
# 同一租户的排队任务整体降速，避免占满配额
if tenant.quota_remaining < 10%:
degrade_optional_features() # 先停非关键增强| 双层 | 租户级加全局级，防止单租户挤占 |
|---|---|
| 指标 | 拒绝率、排队时长、配额余量 |
限流与配额处理
客户端要正确响应限流：按 Retry-After 退避、任务排队、对用户分级提示；服务端按租户与全局双层限流保护后端。
易错点
- 无脑重试 429，加剧限流并拖慢其他任务
- 只做全局限流，单租户可挤占全部配额
数据来源与参考
- RFC 6585（429 Too Many Requests）；令牌桶（token bucket）限流算法经典描述