首页/AI/AI 应用速查/多租户配额与告警

多租户配额与告警

给每个用户/租户设 token 与费用配额:周期重置、软硬双阈值(80% 告警、100% 拦截),防止单个租户或异常脚本把全站预算烧穿。

AI 应用速查AI更新于 2026-10-12
维度按用户 / 租户 / 应用 三选一或组合
周期日/月滚动窗口,Redis 计数
阈值软阈值告警、硬阈值拦截并提示
例外白名单与临时提额走审批

配额检查(伪代码)

配额检查(伪代码)
def check_quota(tenant, need_tokens):
    used = redis.incrby(f"quota:{tenant}:{today}", need_tokens)
    limit = plans[tenant.plan].daily_tokens
    if used > limit:
        raise QuotaExceeded(tenant)
    if used > 0.8 * limit:
        alert(f"租户 {tenant} 用量已达 80%")
配额拦截要在调模型之前判断:先扣后调,失败也要归还额度,否则重试场景会重复扣。

易错点

  • 只有总量告警没有租户维度,出了事定位不到主
  • 预扣额度不归还,正常用户被误伤

数据来源与参考

  • 多租户配额与限流工程实践

相关工具

​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌