GPT-only API 网关

批处理部署教程

队列任务记录批次、失败和 token。

部署时只把 key 放在服务端环境变量中。不要写进前端代码、公开仓库或静态页面。

步骤配置说明
GPTBATCH_BASE_URLhttps://gptbatchlab.site/v1。
GPTBATCH_API_KEY队列 worker 环境变量。
BATCH_ID每批任务固定编号。

环境变量示例

GPTBATCH_BASE_URL="https://gptbatchlab.site/v1"
GPTBATCH_API_KEY="YOUR_API_KEY"
GPTBATCH_MODEL="MODEL_ID_FROM_MODELS_API"

上线前验证

curl https://gptbatchlab.site/v1/models \
  -H "Authorization: Bearer YOUR_API_KEY"

常见问题

GPT Batch Lab 适合实时请求吗?

它更适合异步批处理。

失败怎么处理?

按 batch_id 只重跑失败部分。