常见 usage 字段
| 字段 | 含义 | 用途 |
|---|---|---|
| prompt_tokens | 输入总数 | 上下文规模监控 |
| completion_tokens | 输出总数 | 输出长度治理 |
| cached_tokens | 缓存命中部分 | 缓存收益核算 |
| total_tokens | 合计 | 配额与预算 |
落库(伪代码)
落库(伪代码)
for resp in stream_responses:
log_usage(
user_id=resp.user,
feature=resp.route,
model=resp.model,
prompt=resp.usage.prompt_tokens,
completion=resp.usage.completion_tokens,
cached=resp.usage.get("cached_tokens", 0),
)
# 按日聚合:成本 = Σ token × 当日单价表(单价从配置读,不硬编码)单价放配置表而不是代码:厂商调价时只改数据,历史账单还能按当时价重算。