成本归因是什么
把花费拆到维度上:租户、功能、模型、提示版本,配合预算与告警阈值,让成本变化可解释。只统计总量时,涨了只能看到一个数字;按单位任务成本(完成一次成功任务的花费)看才有横向可比性,也才能判断涨价是量涨了还是单次效率变差了。
基本信息
| 维度 | 租户 × 功能 × 模型 × 提示版本 |
|---|---|
| 指标 | 输入与输出 token、调用次数、单位任务成本 |
| 告警 | 日环比跃升或达到预算百分比时触发 |
| 下钻路径 | 总量 → 租户 → 功能 → 提示版本,逐层定位 |
| 口径 | 与财务预算周期保持一致,避免两套账 |
典型使用场景
- 月度复盘:按功能看谁花了钱,判断投入产出是否合理
- 版本对比:新提示上线后单位任务成本变化,决定是否保留
- 异常定位:某版本重试率偏高,token 花在重复调用上
- 租户分级:高消耗租户触发提醒,避免月初用完全年配额
- 预算控制:达到预算阈值时自动降速非关键任务
归因维度与告警
归因维度与告警
维度: 租户 × 功能 × 模型 × 提示版本
指标: 输入 token、输出 token、调用次数、单位任务成本
告警: 日环比 +50%,或达到月度预算 80% 时通知负责人
下钻: 总量 → 租户 → 功能 → 提示版本 逐层定位
示例: 某版本重试率 18%,同任务成本比基线高 42%,先修重试再谈模型替换成本异常与常见成因
| 现象 | 常见成因 | 排查方向 |
|---|---|---|
| 总量突增 | 调用量涨或单次成本涨 | 先看次数再看平均 token |
| 单次成本涨 | 输入变长或缓存命中率降低 | 查上下文长度与缓存指标 |
| 某版本特别贵 | 重试率高或输出冗长 | 看该版本重试率与输出长度 |
| 某租户占比过高 | 批量任务或异常循环调用 | 查调用频次与配额 |
单位任务成本比单次调用成本更有诊断价值:单次便宜但重试三次的方案,实际比单次贵一点的方案更费钱。