| 机制 | 按图块/分辨率折算 token（各厂商公式不同） |
|---|---|
| 优化 | 先压缩到任务所需最小分辨率，再上传 |
| 复用 | 同一图片多轮对话尽量走缓存前缀 |
| 取舍 | OCR/细节任务不能过度压缩，识别率会掉 |
压缩前后（示意）
压缩前后（示意）
原图 4000×3000 → 可能被切成多个图块，token 数高
压缩到 1024×768（长边约 1K）→ 图块数明显减少
原则：先问“模型真需要多大分辨率”，再决定上传尺寸把“上传原图”改成“服务端按需缩放”，图片类应用的成本差异通常非常可观。
本包目录（159 条）
模型全景与选型27 条接入与 API 要点27 条提示词框架与技巧27 条RAG 与知识库25 条
成本与上下文管理28 条
- Token 计价机制：输入与输出分开算
- OpenAI 提示缓存：自动命中前缀
- Anthropic 显式缓存：cache_control 标记
- 模型分级路由：让小模型干粗活
- 输出 token 更贵：把生成关进笼子
- 批处理 API：非实时任务打折扣
- usage 用量对账：成本监控第一步
- 缓存命中率设计：前缀稳定是第一原则
- 上下文压缩：信息密度优先
- max_tokens 与输出上限
- 长上下文成本：窗口不是免费的
- Embedding 成本：按输入计量与去重
- Gemini 上下文缓存：显式与隐式
- 会话摘要式记忆：滚动摘要
- 单请求 Token 预算设计
- 重试与失败成本控制
- 成本看板与月度预算
- 自托管 TCO：利用率决定一切
- 滑动窗口：保留最近 N 轮
- 流式输出与提前取消的成本
- 多租户配额与告警
- 重排成本：按 query-doc 对计费
- 图片输入的 Token 计量
- 缓存失效与版本控制：改了前缀就是新缓存
- 向量存储成本：内存才是大头
- 图像生成计量：按张与分辨率
- stop 序列：让模型在该停的地方停
- 语音成本：转写按分钟、TTS 按字符
图片输入的 Token 计量
视觉模型的图片按分辨率折算成 token：图片被切成图块（tile）计费，图越大 token 越多。压缩分辨率、裁剪无关区域、避免重复传图是主要优化手段。
易错点
- 原图直传，费用是压缩后的数倍
- 同一图片每轮重传，没利用前缀缓存
数据来源与参考
- OpenAI Vision 计费文档（图像 token 计算）；各厂商视觉文档