首页/AI/AI 应用速查/输出 token 更贵:把生成关进笼子
本包目录(159 条)

输出 token 更贵:把生成关进笼子

输出单价通常是输入的几倍(以厂商官网为准),且输出长度由模型逐字生成、控制难度更大。限制输出是性价比最高的降本手段:约束格式、设上限、禁止客套。

AI 应用速查AI更新于 2026-10-12
为什么贵逐 token 自回归生成,算力成本高于预填充
三大抓手max_tokens 上限、提示词约束格式、禁止无关展开
隐性浪费寒暄、复述问题、重复上下文
可观测量usage.completion_tokens 按日统计 P50/P95

提示词里的输出约束

提示词里的输出约束
输出要求:
- 只输出 JSON,不要任何解释文字
- 字段:{"conclusion": "...", "reason": "不超过50字"}
- 不确定时用 null,不要编造
对固定任务先测量“必要输出长度”,再把 max_tokens 设为其 1.5 倍左右,防止截断同时抑制废话。

易错点

  • 不设 max_tokens,长回复把单次成本拉高数倍
  • 用提示词只说“简洁”,没有可量化的长度约束

数据来源与参考

  • OpenAI/Anthropic 定价与用量文档;输出长度控制实践

相关工具

​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌