| 维度 | 按用户 / 租户 / 应用 三选一或组合 |
|---|---|
| 周期 | 日/月滚动窗口,Redis 计数 |
| 阈值 | 软阈值告警、硬阈值拦截并提示 |
| 例外 | 白名单与临时提额走审批 |
配额检查(伪代码)
配额检查(伪代码)
def check_quota(tenant, need_tokens):
used = redis.incrby(f"quota:{tenant}:{today}", need_tokens)
limit = plans[tenant.plan].daily_tokens
if used > limit:
raise QuotaExceeded(tenant)
if used > 0.8 * limit:
alert(f"租户 {tenant} 用量已达 80%")配额拦截要在调模型之前判断:先扣后调,失败也要归还额度,否则重试场景会重复扣。