GPT-only API 网关
批量成本估算
按条数、平均 token 和失败重试估算预算。
条数记录 total_items。
平均 token抽样估算。
重试率失败重试计入预算。
批处理预算字段
| 项目 | 口径 | 用途 |
|---|---|---|
| total_items | 总条数 | 规模 |
| token_avg | 平均 token | 成本 |
| retry_rate | 重试率 | 额外预算 |
常见问题
GPT Batch Lab 适合实时请求吗？
它更适合异步批处理。
失败怎么处理？
按 batch_id 只重跑失败部分。
按条数、平均 token 和失败重试估算预算。
| 项目 | 口径 | 用途 |
|---|---|---|
| total_items | 总条数 | 规模 |
| token_avg | 平均 token | 成本 |
| retry_rate | 重试率 | 额外预算 |
它更适合异步批处理。
按 batch_id 只重跑失败部分。