首页/AI/AI 应用速查/usage 用量对账:成本监控第一步

usage 用量对账:成本监控第一步

每次响应都带 usage 字段(输入/输出/缓存明细 token 数),把它按用户、功能、模型维度落库聚合,才能回答“钱花在哪了”——没有用量数据一切降本都是盲调。

AI 应用速查AI更新于 2026-10-12

常见 usage 字段

字段含义用途
prompt_tokens输入总数上下文规模监控
completion_tokens输出总数输出长度治理
cached_tokens缓存命中部分缓存收益核算
total_tokens合计配额与预算

落库(伪代码)

落库(伪代码)
for resp in stream_responses:
    log_usage(
        user_id=resp.user,
        feature=resp.route,
        model=resp.model,
        prompt=resp.usage.prompt_tokens,
        completion=resp.usage.completion_tokens,
        cached=resp.usage.get("cached_tokens", 0),
    )
# 按日聚合:成本 = Σ token × 当日单价表(单价从配置读,不硬编码)
单价放配置表而不是代码:厂商调价时只改数据,历史账单还能按当时价重算。

易错点

  • 只统计调用次数不统计 token,成本模型失真
  • 单价硬编码在代码里,调价后新旧数据混算

数据来源与参考

  • OpenAI/Anthropic 响应 usage 字段文档

相关工具

​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌