观察并控制 AI 应用。
Available on all plans
Cloudflare 的 AI Gateway 可帮助你了解并控制 AI 应用。将应用连接到 AI Gateway 后，你可以通过分析和日志记录了解用户如何使用应用，并通过缓存、速率限制以及请求重试、模型回退等功能控制应用的扩展方式。更好的是——只需一行代码即可开始使用。
查看快速入门指南，了解如何为应用配置 AI Gateway。
模型
浏览 AI Gateway 提供的所有 AI 模型，包括 OpenAI、Anthropic、Google 等。
分析
查看请求数、token 数量以及运行应用的成本等指标。
日志记录
深入了解请求和错误。
缓存
直接从 Cloudflare 缓存提供请求，而非原始模型提供商，从而加快请求速度并节省成本。
速率限制
通过限制应用接收的请求数量来控制应用的扩展方式。
请求重试和回退
定义请求重试和模型回退，在发生错误时提高弹性。
常用提供商
Workers AI、Anthropic、Google Gemini、OpenAI、Replicate 等均可与 AI Gateway 配合使用。
Workers AI
在 Cloudflare 全球网络上运行由无服务器 GPU 驱动的机器学习模型。
Vectorize
使用 Cloudflare 向量数据库 Vectorize 构建全栈 AI 应用。添加 Vectorize 后，你可以执行语义搜索、推荐、异常检测等任务，或为 LLM 提供上下文和记忆。
Developer Discord
在 Discord 上与 Workers 社区交流，提问、展示你的作品，并与其他开发者讨论平台。
用例
了解如何在 Cloudflare 全球网络上构建和部署雄心勃勃的 AI 应用。
@CloudflareDev
关注 Twitter 上的 @CloudflareDev，了解产品公告以及 Cloudflare Workers 的新功能。