批处理折扣是什么
批处理接口是把非实时任务打包异步执行的通道：把请求写成 JSONL 上传，创建批任务后由平台异步执行，价格通常按标准价打折（以厂商官网为准），代价是不能实时返回，并且有完成时限窗口（常见 24 小时）。它适合数据清洗、转写、分类、离线审核与模型评测这类「今天提交、明天要结果」的活。限制也很明确：不支持流式，部分高级特性可能缺席，紧急任务不能走这条路。
基本信息
| 请求形态 | JSONL 上传，每行一个请求带唯一标识 |
|---|---|
| 执行方式 | 创建批任务后异步执行，轮询状态取结果 |
| 完成时限 | 通常在 24 小时窗口内完成（各家不同） |
| 价格 | 按标准价打折计费，以厂商官网为准 |
| 不支持 | 流式输出、实时交互与低延迟要求 |
| 适用任务 | 数据清洗、打标、离线评测、历史回填 |
典型使用场景
- 历史数据回填：把存量工单与评论一次性打标
- 语料转写与清洗：批量处理音频与文档，不占用实时预算
- 离线评测：用大批量题目跑模型对比，成本显著降低
- 内容批量审核：非实时的合规扫描与整改
- 多语言翻译：把整批文档翻译后统一入库
- 报表生成：周期性把汇总数据生成自然语言说明
批任务提交与结果回收
批任务提交与结果回收
# 每行一个请求，custom_id 用业务主键，确保结果可对号入座
# {"custom_id":"ticket-000123","method":"POST","url":"/v1/chat/completions","body":{"model":"gpt-4o-mini","messages":[{"role":"user","content":"给这条工单打标签"}]}}
curl -s https://api.openai.com/v1/batches -H "Authorization: Bearer $KEY" -H "Content-Type: application/json" \
-d "{\"input_file_id\":\"file-xxx\",\"endpoint\":\"/v1/chat/completions\",\"completion_window\":\"24h\"}"
# 轮询状态，完成后下载结果文件并核对行数与失败行
# 失败行按 custom_id 单独重提，不要整批重跑批处理与实时接口怎么分工
| 任务类型 | 实时接口 | 批处理 |
|---|---|---|
| 用户交互问答 | 是 | 否 |
| 历史数据回填 | 否 | 是 |
| 离线内容审核 | 否 | 是 |
| 用户提交时的审核 | 是 | 否 |
| 模型与提示词评测 | 否 | 是 |
批处理适合「今天提交、明天要结果」的活：不占实时预算还能省钱，前提是业务方能接受按天级的交付节奏。
提交前用十几行做小批试跑，确认请求体格式、模型标识与结果结构都正确，再投整批，避免等满窗口才发现格式错误。