看板必看指标
| 指标 | 健康信号 | 恶化后的动作 |
|---|---|---|
| 单请求平均成本 | 平稳或下降 | 拆解输入/输出结构 |
| 缓存命中率 | 稳定高位 | 检查前缀污染 |
| 批处理占比 | 非实时任务上升 | 把可离线任务迁走 |
| 小模型分流率 | 简单任务下沉 | 调路由规则 |
预算告警(伪代码)
预算告警(伪代码)
month_budget = 50000 # 元,按内部汇率折算
spent = sum(monthly_cost_by_day)
if spent / month_budget > 0.8:
notify("#ai-cost", f"本月已用 {spent/month_budget:.0%},请检查用量异常源")
# 每周复盘:Top1 增长最快的功能/租户账单归因成本归因到“功能 + 租户”级别后,降本会议才能开成行动会而不是数字会。