GPT-only API 网关
批处理部署教程
队列任务记录批次、失败和 token。
部署时只把 key 放在服务端环境变量中。不要写进前端代码、公开仓库或静态页面。
| 步骤 | 配置 | 说明 |
|---|---|---|
| GPTBATCH_BASE_URL | https://gptbatchlab.site/v1。 | |
| GPTBATCH_API_KEY | 队列 worker 环境变量。 | |
| BATCH_ID | 每批任务固定编号。 |
环境变量示例
GPTBATCH_BASE_URL="https://gptbatchlab.site/v1"
GPTBATCH_API_KEY="YOUR_API_KEY"
GPTBATCH_MODEL="MODEL_ID_FROM_MODELS_API"
上线前验证
curl https://gptbatchlab.site/v1/models \
-H "Authorization: Bearer YOUR_API_KEY"
常见问题
GPT Batch Lab 适合实时请求吗?
它更适合异步批处理。
失败怎么处理?
按 batch_id 只重跑失败部分。