GPT-only 批处理

按 batch_id 拆 GPT 批量任务

这不是 IDE 接入页。这里只处理一件事:把成千上万条互相独立的 GPT 调用切成可追踪、可恢复的小批次。超时和 429 只重跑失败项,已经成功的条目不要再打一遍。

本站是 GPT-only。Base URL 填 https://gptbatchlab.site/v1。模型 ID 以 /v1/models 的实际返回为准,不要手写示例名。

四步把大任务切开

按固定大小切 batch_id

按 50、100 或 500 条一切,或按 CSV 行区间切。每批一个 batch_id。批次越小,单批失败的影响面越小,也更容易限流后继续推进。

记下每批的进度

至少记录:输入条数、起止行号、状态(待处理 / 进行中 / 完成 / 失败)、本批消耗的 token。任意时刻都要能回答“处理了多少、还剩多少”。

失败项单独进重跑队列

为每条输入保留稳定 ID。超时、网络中断、429 可以重放;输出格式不合规的先收紧 schema 再补跑。已成功的条目不再调用、不再计费。

按原始顺序汇总

全部批次完成后,用 batch_id + 原始行号拼回完整结果,并核对总条数与失败清单是否清零。

最小调用

curl https://gptbatchlab.site/v1/models \
  -H "Authorization: Bearer YOUR_API_KEY"

curl https://gptbatchlab.site/v1/chat/completions \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"<从 /v1/models 复制>","messages":[{"role":"user","content":"ping"}]}'

哪些失败该重跑

失败类型是否重跑做法
超时 / 网络中断重跑幂等请求直接重放,记下 request id。
429 限流重跑降低并发或拉长批次间隔,只重放失败项。
输出格式不合规重跑加 JSON schema / 枚举约束后单独补跑。
单条超上下文先改输入截断或再切分这一条,不要拖累整批。