GPT-only 批处理
按 batch_id 拆 GPT 批量任务
这不是 IDE 接入页。这里只处理一件事:把成千上万条互相独立的 GPT 调用切成可追踪、可恢复的小批次。超时和 429 只重跑失败项,已经成功的条目不要再打一遍。
本站是 GPT-only。Base URL 填 https://gptbatchlab.site/v1。模型 ID 以 /v1/models 的实际返回为准,不要手写示例名。
四步把大任务切开
按固定大小切 batch_id
按 50、100 或 500 条一切,或按 CSV 行区间切。每批一个 batch_id。批次越小,单批失败的影响面越小,也更容易限流后继续推进。
记下每批的进度
至少记录:输入条数、起止行号、状态(待处理 / 进行中 / 完成 / 失败)、本批消耗的 token。任意时刻都要能回答“处理了多少、还剩多少”。
失败项单独进重跑队列
为每条输入保留稳定 ID。超时、网络中断、429 可以重放;输出格式不合规的先收紧 schema 再补跑。已成功的条目不再调用、不再计费。
按原始顺序汇总
全部批次完成后,用 batch_id + 原始行号拼回完整结果,并核对总条数与失败清单是否清零。
最小调用
curl https://gptbatchlab.site/v1/models \
-H "Authorization: Bearer YOUR_API_KEY"
curl https://gptbatchlab.site/v1/chat/completions \
-H "Authorization: Bearer YOUR_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"<从 /v1/models 复制>","messages":[{"role":"user","content":"ping"}]}'
哪些失败该重跑
| 失败类型 | 是否重跑 | 做法 |
|---|---|---|
| 超时 / 网络中断 | 重跑 | 幂等请求直接重放,记下 request id。 |
| 429 限流 | 重跑 | 降低并发或拉长批次间隔,只重放失败项。 |
| 输出格式不合规 | 重跑 | 加 JSON schema / 枚举约束后单独补跑。 |
| 单条超上下文 | 先改输入 | 截断或再切分这一条,不要拖累整批。 |