测算公式与示例
测算公式与示例
每小时成本 ≈ (GPU 采购价 ÷ 折旧小时数) + 电费 + 机房分摊
每百万 token 成本 = 每小时成本 ÷ (实测 tokens/s × 3600) × 1000000
示例：每小时成本 5 元，实测吞吐 1500 tokens/s
→ 5 ÷ (1500×3600) × 1000000 ≈ 0.93 元 / 百万 token吞吐实测入口
吞吐实测入口
# vLLM 仓库提供基准脚本（benchmark_serving.py，新版整合为 vllm bench serve）
# 也可先记录：请求数、输入/输出 token 数、总耗时输入与输出 token 的算力成本不同，多数报价分开计；测算时分开统计输入/输出吞吐更接近真实成本。