| 推理模型 | 内部思维链、reasoning tokens 计费、延迟高 |
|---|---|
| 对话模型 | 直接生成、延迟低、成本低 |
| 典型分工 | 推理=数学/代码/分析；对话=客服/抽取/改写 |
| 控制手段 | 推理档位参数（如 reasoning_effort）与任务路由 |
用档位参数控制推理开销
用档位参数控制推理开销
curl -s https://api.openai.com/v1/chat/completions -H "Authorization: Bearer $OPENAI_API_KEY" -H "Content-Type: application/json" -d '{"model":"gpt-5-mini","reasoning_effort":"low","messages":[{"role":"user","content":"把这句话改得更礼貌"}]}'推理模型延迟高，聊天与客服场景体验明显变差；上线前用真实任务做分流评测。