| 作用 | 限制生成长度,控制成本上限 |
|---|---|
| 设置 | 任务输出 P95 × 1.5,随版本回归校准 |
| 信号 | finish_reason=length 表示被截断 |
| 兜底 | 截断时重试(提高额度)或降级返回部分结果 |
设置上限(curl)
设置上限(curl)
curl https://api.openai.com/v1/chat/completions -H "Authorization: Bearer $KEY" -H "Content-Type: application/json" -d '{
"model": "gpt-4o-mini",
"max_tokens": 512,
"messages": [{"role": "user", "content": "用三句话总结上文"}]
}'
# 返回里检查:finish_reason / usage.completion_tokens被截断的 JSON 无法解析:流式与结构化输出都要把 finish_reason=length 当作异常路径处理。