跳转到内容
搜索文档

管理 gateway

最后更新 查看 MarkdownAgent 设置

你有多种不同的选项来管理 AI Gateway。

创建 gateway

默认 gateway

AI Gateway 可以自动为你创建 gateway。如果完全省略请求中的 gateway ID,AI Gateway 默认使用 default 作为 gateway ID。当账户中不存在名为 default 的 gateway 时,AI Gateway 会在首次经过身份验证的请求时创建它。

这意味着你可以在不先创建 gateway 的情况下开始发送请求 — AI Gateway 会为你处理 gateway 创建。

触发自动创建的请求必须经过身份验证。使用 REST API 时,标准 Authorization 标头即可。使用 gateway.ai.cloudflare.com 上的提供商原生端点时,请包含有效的 cf-aig-authorization 标头。对于 Workers AI 绑定,使用绑定中的账户身份而非标头。

自动创建的默认 gateway 使用以下设置:

设置 默认值
身份验证 开启
日志收集 开启
缓存 关闭(TTL 为 0)
速率限制 关闭

创建后,你可以像编辑任何其他 gateway 一样编辑默认 gateway 设置。如果删除默认 gateway,向 default gateway ID 发送新的经过身份验证的请求会再次自动创建它。

手动创建 gateway

Go to AI Gateway ↗
  1. 登录 Cloudflare 仪表板 并选择你的账户。
  2. 前往 AI > AI Gateway
  3. 选择 Create Gateway(创建网关)
  4. 输入 Gateway name(网关名称)。注意:网关名称最多 64 个字符。
  5. 选择 Create(创建)

要使用 API 设置 AI Gateway:

  1. 创建 API token,并授予以下权限:

    • AI Gateway - Read
    • AI Gateway - Edit
  2. 获取你的 Account ID

  3. 使用该 API token 和 Account ID,向 Cloudflare API 发送 POST 请求

编辑 gateway

要在仪表板中编辑 AI Gateway:

  1. 登录 Cloudflare 仪表板 并选择你的账户。
  2. 前往 AI > AI Gateway
  3. 选择你的 gateway(网关)。
  4. 前往 Settings(设置) 并按需更新。

要编辑 AI Gateway,请向 Cloudflare API 发送 PUT 请求

重试请求

你可以配置 gateway 自动重试发往上游提供商的失败请求。当你无法控制客户端且无法实现客户端重试或退避逻辑时,这很有用。

要配置重试设置:

  1. 登录 Cloudflare 仪表板并选择你的账户。
  2. 前往 AI > AI Gateway 并选择你的 gateway。
  3. 前往 Settings(设置) 并找到 Retry Requests(重试请求) 部分。
  4. 开启开关以启用自动重试。
  5. 配置以下设置:
    • Retry count(重试次数) — 最大重试次数(最多 5 次)。
    • Delay(延迟) — 重试之间的基本延迟。可选值:100ms、500ms、1 秒、2 秒、3 秒或 5 秒。
    • Backoff(退避) — 后续重试的退避策略:Constant、Linear 或 Exponential。
  6. 选择 Save(保存)
AI Gateway 仪表板中的 Retry Requests 设置

这些 gateway 级默认值适用于通过 gateway 路由的所有请求。按请求标头可以覆盖这些默认值 — 请参阅请求处理了解详情。

对于需要在不同提供商之间故障转移的更复杂场景,请参阅动态路由

删除 gateway

删除 gateway 是永久性的,无法撤销。

要在仪表板中删除 AI Gateway:

  1. 登录 Cloudflare 仪表板 并选择你的账户。
  2. 前往 AI > AI Gateway
  3. 从可用选项列表中选择你的 gateway(网关)。
  4. 前往 Settings(设置)
  5. Delete Gateway 下,选择 Delete(并确认删除)

要删除 AI Gateway,请向 Cloudflare API 发送 DELETE 请求

这篇文档对您有帮助吗?