首页/AI/AI 应用速查/max_tokens 与输出截断

max_tokens 与输出截断

限制单次响应生成长度(新接口中部分改名为 max_completion_tokens)。它约束输出而非输入;被截断时 finish_reason=length,内容可能是不完整 JSON。

AI 应用速查AI更新于 2026-10-12
参数名max_tokens / max_completion_tokens(部分新模型)
作用输出生成长度上限
截断标志finish_reason = length
输入限制由上下文窗口约束,不受本参数影响

检查是否被截断

检查是否被截断
curl -s https://api.openai.com/v1/chat/completions -H "Authorization: Bearer $OPENAI_API_KEY" -H "Content-Type: application/json" -d '{"model":"gpt-4o-mini","max_tokens":64,"messages":[{"role":"user","content":"讲个长故事"}]}' | python -c "import json,sys; print(json.load(sys.stdin)['choices'][0]['finish_reason'])"
# 输出 stop 表示正常结束;length 表示被截断
输出 token 单价高于输入:压缩输出长度(约束格式、要求简洁)是省钱的主路径之一。

易错点

  • 值设得过小导致结构化输出被截断、解析失败
  • 误以为 max_tokens 能限制输入长度

数据来源与参考

  • OpenAI API 参考(max_tokens / max_completion_tokens)

相关工具

​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌