首页/AI/AI 应用速查/批量接口(Batch API)

批量接口(Batch API)

面向离线大批量任务的异步通道:提交 JSONL(每行一个请求),平台在时限内处理(多数为 24 小时窗口),普遍提供约 5 折折扣(以官网为准)。

AI 应用速查AI更新于 2026-10-12
流程上传 JSONL → 创建 batch → 轮询状态 → 下载结果
时限完成窗口通常 24h
折扣常见 5 折(以厂商官网为准)
不适合实时交互与低延迟场景

OpenAI Batch 全流程(curl)

OpenAI Batch 全流程(curl)
# 1) 准备 JSONL,每行一个请求并带唯一 custom_id
# {"custom_id":"req-1","method":"POST","url":"/v1/chat/completions","body":{"model":"gpt-4o-mini","messages":[{"role":"user","content":"你好"}]}}
# 2) 上传文件(purpose=batch)
curl -s https://api.openai.com/v1/files -H "Authorization: Bearer $OPENAI_API_KEY" -F purpose=batch -F file=@batch_input.jsonl
# 3) 创建批任务并轮询,最后下载 output_file_id 对应结果
批处理适合离线标注、批量摘要与评测;结果里逐行对应 custom_id,失败行可单独重试。

易错点

  • custom_id 重复或缺失,结果无法对号入座
  • 把实时业务放进批处理,交付被拖到 24 小时级

数据来源与参考

  • OpenAI Batch API 文档;Anthropic Message Batches 文档;Gemini Batch 文档

相关工具

​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌