异步批处理让你可以在单次调用中发送一批推理请求。系统不会期望每个请求立即返回响应，而是将它们排队处理并稍后返回结果。
批处理适用于摘要或 embedding 等大型工作负载，且无需人工交互。使用 Batch API 可保证请求最终完成，而不是在 Cloudflare 某时刻容量不足时直接报错。
发送批处理请求时，API 会立即以 queued 等状态确认收到，并提供唯一的 request_id。处理完成后，可使用此 ID 轮询最终响应。
你可以通过创建并部署使用 Batch API 与 AI 绑定（binding） 的 Cloudflare Worker、直接使用 REST API，或从模板 ↗ 开始使用 Batch API。
如需快速开始，请点击下方按钮：
这会在你的 GitHub 账户中创建仓库并部署一个即用型 Worker，演示如何使用 Cloudflare 异步 Batch API。模板包含预配置的 AI 绑定，以及带/不带 external reference 发送和检索批处理请求的示例。部署后，你可以访问 live Worker 并立即开始体验 Batch API。
请参阅我们的模型目录了解支持的模型。