Token 计价机制是什么
主流模型接口按 token 分段计费：输入与输出单价不同，输出通常明显更贵；在此之上还有缓存命中、批量处理、长上下文等独立价档。理解价格结构比记住具体数字更重要——单价随时会变，但结构稳定，成本模型只要按结构搭建，调价时改参数表即可。预算失控多数不是单价问题，而是用量结构问题。
基本信息
| 计量单位 | token，输入与输出分别统计 |
|---|---|
| 常见结构 | 输入价、输出价、缓存命中价、批量任务价 |
| 输出更贵 | 同一模型的输出单价通常高于输入 |
| 附加费用 | 部分服务对图片、检索、工具调用单独计价 |
| 价格变动 | 随时调整，预算模型应引用官网定价页 |
| 成本主因 | 上下文长度、调用量、输出长度、缓存命中率 |
价格结构的四层
| 层次 | 说明 | 优化抓手 |
|---|---|---|
| 输入 token | 历史消息、资料片段、指令与工具定义 | 压缩上下文、命中缓存、去掉重复内容 |
| 输出 token | 模型生成的全部内容，含推理过程 | 限制长度、约束格式、减少解释性文字 |
| 缓存档 | 重复出现的前缀按折扣价计费 | 稳定前缀、把变化内容后置 |
| 批量档 | 离线批任务按折扣价执行 | 非实时任务改走批处理接口 |
典型使用场景
- 上线前预算：按预估调用量与平均长度测算每月费用区间
- 成本归因：按功能与用户维度拆分用量，找到最贵的那条链路
- 方案对比：同一任务用不同档位模型跑一遍，比单价更比实际总支出
- 告警设置：按日与小时统计用量，突增时自动提醒
- 容量规划：把用量与配额对上，避免触发限流影响业务
成本模型（概念公式）
成本模型（概念公式）
月成本 ≈
输入量 × 输入单价 × 未命中缓存占比
+ 输入量 × 缓存单价 × 命中缓存的占比
+ 输出量 × 输出单价
+ 图片与检索等附加项
# 各单价以厂商官网定价页为准，不要硬编码在代码里
# 用量数据从接口返回的用量字段累计，按功能与场景分别统计成本构成与降本手段
| 成本项 | 常见放大原因 | 降低手段 |
|---|---|---|
| 输入侧 | 多轮历史全量回灌、资料整篇灌入 | 裁剪历史、改走检索、压缩文档 |
| 输出侧 | 要求长篇解释、格式松散 | 限定输出结构、明确长度上限 |
| 高频小任务 | 一律使用旗舰模型 | 按任务分级路由到小尺寸模型 |
| 重复前缀 | 系统提示频繁变动 | 固定前缀并把动态内容后移 |
| 非实时任务 | 占用实时通道 | 改走批处理接口错峰执行 |
搭建预算模型的要点
- 按业务功能拆分统计，而不是只看总账单
- 记录平均输入与输出 token 数，作为容量与费用的基础参数
- 把缓存命中率单独跟踪，它直接影响输入侧实际单价
- 为价格变动留出参数化配置，改价只需更新配置表
输出侧通常是降本优先级最高的一环：输出单价更高，且限制长度、约束格式这类改动见效最快、风险最低；动完输出侧再去优化输入侧的上下文与缓存策略。
用旧报价单做预算、把单价写死在代码里，是最常见的成本管理事故：调价后模型全部失效，且难以及时发现。