# Workers AI

Run AI models in Workers, Pages, or via API

> Links below point directly to Markdown versions of each page. Any page can also be retrieved as Markdown by sending an `Accept: text/markdown` header to the page's URL without the `index.md` suffix (for example, `curl -H "Accept: text/markdown" https://cloudflaredoc.ubitools.com/workers-ai/`).
>
> For other Cloudflare products, see the [Cloudflare documentation directory](https://cloudflaredoc.ubitools.com/llms.txt).

## Overview

- [Cloudflare Workers AI](https://cloudflaredoc.ubitools.com/workers-ai/index.md): 在 Cloudflare 全球网络上，通过 serverless GPU 运行机器学习模型。

## 模型

- [模型](https://cloudflaredoc.ubitools.com/workers-ai/models/index.md): 浏览 Workers AI 上可用的机器学习模型目录。

## Agents

- [Agents](https://cloudflaredoc.ubitools.com/agents/index.md): 使用 Workers AI 和 Cloudflare Agents SDK 构建可执行复杂任务的 AI 助手。

## REST API 参考

- [REST API 参考](https://cloudflaredoc.ubitools.com/api/resources/ai/methods/run/index.md): 使用 Cloudflare REST API 以编程方式运行 Workers AI 推理模型。

## 更新日志

- [更新日志](https://cloudflaredoc.ubitools.com/workers-ai/changelog/index.md): 查看 Cloudflare Workers AI 的最新变更。

## configuration

- [Vercel AI SDK](https://cloudflaredoc.ubitools.com/workers-ai/configuration/ai-sdk/index.md): 将 Workers AI 与 Vercel AI SDK 配合使用，实现流式文本生成、工具调用和结构化输出。
- [Workers 绑定（binding）](https://cloudflaredoc.ubitools.com/workers-ai/configuration/bindings/index.md): 创建 AI 绑定（binding），将 Cloudflare Worker 连接到 Workers AI。
- [Hugging Face Chat UI（Hugging Face 聊天界面）](https://cloudflaredoc.ubitools.com/workers-ai/configuration/hugging-face-chat-ui/index.md): 将 Workers AI 模型连接到 Hugging Face 的开源 Chat UI 界面。
- [OpenAI 兼容 API 端点](https://cloudflaredoc.ubitools.com/workers-ai/configuration/open-ai-compatibility/index.md): 使用 OpenAI SDK 通过兼容 API 端点调用 Workers AI 模型。

## features

- [异步 Batch API](https://cloudflaredoc.ubitools.com/workers-ai/features/batch-api/index.md): 使用 Workers AI Batch API 将大型推理工作负载排队进行异步处理。
- [REST API](https://cloudflaredoc.ubitools.com/workers-ai/features/batch-api/rest-api/index.md): 使用 Workers AI REST API 发送和检索批处理推理请求。
- [Workers 绑定（binding）](https://cloudflaredoc.ubitools.com/workers-ai/features/batch-api/workers-binding/index.md): 使用 Workers AI 绑定（binding）发送和检索批处理推理请求。
- [微调](https://cloudflaredoc.ubitools.com/workers-ai/features/fine-tunes/index.md): 使用 LoRA adapter 在 Workers AI 上运行微调推理。
- [使用 LoRA adapter](https://cloudflaredoc.ubitools.com/workers-ai/features/fine-tunes/loras/index.md): 上传并使用 LoRA adapter，在 Workers AI 上获得微调推理。
- [公共 LoRA adapter](https://cloudflaredoc.ubitools.com/workers-ai/features/fine-tunes/public-loras/index.md): Cloudflare 提供一些可立即使用的公共 LoRA adapter。
- [函数调用](https://cloudflaredoc.ubitools.com/workers-ai/features/function-calling/index.md): 使 Workers AI 模型能够执行函数并与外部 API 交互。
- [嵌入式](https://cloudflaredoc.ubitools.com/workers-ai/features/function-calling/embedded/index.md): 使用 Workers AI 嵌入式 function calling 在推理调用 alongside 执行函数代码。
- [API 参考](https://cloudflaredoc.ubitools.com/workers-ai/features/function-calling/embedded/api-reference/index.md): 嵌入式 function calling 中 runWithTools 和 autoTrimTools 方法的参考。
- [使用 fetch() handler](https://cloudflaredoc.ubitools.com/workers-ai/features/function-calling/embedded/examples/fetch/index.md): 了解如何在 Cloudflare Workers AI 中使用 fetch() handler，使 LLM 能够执行 API 调用，例如通过 function calling 获取 5 天天气预报。
- [使用 KV API](https://cloudflaredoc.ubitools.com/workers-ai/features/function-calling/embedded/examples/kv/index.md): 了解如何使用 Cloudflare Workers AI 与 KV 存储交互，通过嵌入式 function calling 用几行代码实现持久数据处理。
- [基于 OpenAPI Spec 的 tool](https://cloudflaredoc.ubitools.com/workers-ai/features/function-calling/embedded/examples/openapi/index.md): 使用 ai-utils 包从 OpenAPI 规范生成 Workers AI function calling tool。
- [快速入门](https://cloudflaredoc.ubitools.com/workers-ai/features/function-calling/embedded/get-started/index.md): 设置并部署你的第一个带嵌入式 function calling 的 Workers AI 项目。
- [故障排除](https://cloudflaredoc.ubitools.com/workers-ai/features/function-calling/embedded/troubleshooting/index.md): 调试并解决 Workers AI 嵌入式 function calling 的常见问题。
- [传统](https://cloudflaredoc.ubitools.com/workers-ai/features/function-calling/traditional/index.md): 为 Workers AI 模型定义 tool 和 schema，实现行业标准 function calling。
- [JSON Mode](https://cloudflaredoc.ubitools.com/workers-ai/features/json-mode/index.md): 使用 response_format 或 JSON schema，强制 Workers AI 文本生成模型返回有效的 JSON 输出。
- [Markdown 转换](https://cloudflaredoc.ubitools.com/workers-ai/features/markdown-conversion/index.md): 使用 Workers AI 的 toMarkdown 方法将多种格式的文档转换为 Markdown。
- [转换选项](https://cloudflaredoc.ubitools.com/workers-ai/features/markdown-conversion/conversion-options/index.md): 配置 Workers AI Markdown Conversion 的按格式选项，包括 HTML 和图像设置。
- [工作原理](https://cloudflaredoc.ubitools.com/workers-ai/features/markdown-conversion/how-it-works/index.md): 了解 Workers AI 如何预处理和转换 HTML、图像及其他文件为 Markdown。
- [支持的格式](https://cloudflaredoc.ubitools.com/workers-ai/features/markdown-conversion/supported-formats/index.md): 查看 Workers AI Markdown Conversion 支持的文件格式列表。
- [Workers 绑定（binding）](https://cloudflaredoc.ubitools.com/workers-ai/features/markdown-conversion/usage/binding/index.md): 使用 Workers AI 绑定（binding）和 toMarkdown 方法将文档转换为 Markdown。
- [REST API](https://cloudflaredoc.ubitools.com/workers-ai/features/markdown-conversion/usage/rest-api/index.md): 使用 Workers AI REST API 端点将文档转换为 Markdown。
- [Prompt 缓存](https://cloudflaredoc.ubitools.com/workers-ai/features/prompt-caching/index.md): 使用 prefix caching 和 x-session-affinity 标头，降低 Workers AI 的延迟和推理成本。
- [Prompt 编写](https://cloudflaredoc.ubitools.com/workers-ai/features/prompting/index.md): 使用 system、user 和 assistant 消息角色，为 Workers AI 文本生成模型构建 prompt。

## get-started

- [仪表板](https://cloudflaredoc.ubitools.com/workers-ai/get-started/dashboard/index.md): 使用 Cloudflare 仪表板创建并部署 Workers AI 应用。
- [REST API](https://cloudflaredoc.ubitools.com/workers-ai/get-started/rest-api/index.md): 使用 Cloudflare Workers AI REST API 部署大型语言模型（LLM）。
- [Workers 绑定（binding）](https://cloudflaredoc.ubitools.com/workers-ai/get-started/workers-wrangler/index.md): 使用 CLI 部署你的第一个 Cloudflare Workers AI 项目。

## guides

- [Agents](https://cloudflaredoc.ubitools.com/agents/index.md): 在 Cloudflare 上构建 AI 驱动的 Agents
- [演示和架构](https://cloudflaredoc.ubitools.com/workers-ai/guides/demos-architectures/index.md): 探索使用 Workers AI 构建的演示应用和参考架构。
- [教程](https://cloudflaredoc.ubitools.com/workers-ai/guides/tutorials/index.md): 在 Cloudflare 上构建 AI 驱动应用的 Workers AI 分步教程。
- [构建检索增强生成（RAG）AI](https://cloudflaredoc.ubitools.com/workers-ai/guides/tutorials/build-a-retrieval-augmented-generation-ai/index.md): 使用 Cloudflare AI 构建你的第一个 AI 应用。本指南使用 Workers AI、Vectorize、D1 和 Cloudflare Workers。
- [Cloudflare Workers AI 上的 Whisper-large-v3-turbo](https://cloudflaredoc.ubitools.com/workers-ai/guides/tutorials/build-a-workers-ai-whisper-with-chunking/index.md): 了解如何使用 Workers AI 转录大型音频文件。
- [使用 DeepSeek Coder 模型探索代码生成](https://cloudflaredoc.ubitools.com/workers-ai/guides/tutorials/explore-code-generation-using-deepseek-coder-models/index.md): 探索如何使用 AI 模型生成代码并更高效地工作。
- [使用 Jupyter Notebook 探索 Workers AI 模型](https://cloudflaredoc.ubitools.com/workers-ai/guides/tutorials/explore-workers-ai-models-using-a-jupyter-notebook/index.md): 本 Jupyter notebook 使用 Python 和 requests 库探索多种模型（包括 Whisper、Distilled BERT、LLaVA 和 Meta Llama 3）。
- [使用 HuggingFace AutoTrain 微调模型](https://cloudflaredoc.ubitools.com/workers-ai/guides/tutorials/fine-tune-models-with-autotrain/index.md): 在 Workers AI 上使用 LoRA adapter 微调 AI 模型，可添加自定义训练数据，例如用于 LLM 微调。
- [选择正确的文本生成模型](https://cloudflaredoc.ubitools.com/workers-ai/guides/tutorials/how-to-choose-the-right-text-generation-model/index.md): Workers AI 提供广泛的文本生成模型。为帮助你找到合适的模型，本 notebook 将以快速体验的方式介绍你的选项。
- [构建 AI 图像生成器 Playground（第 1 部分）](https://cloudflaredoc.ubitools.com/workers-ai/guides/tutorials/image-generation-playground/image-generator-flux/index.md): Workers AI 上的新 flux 模型是我们迄今为止最强大的 text-to-image AI 模型。使用 Workers AI，你可以访问行业最佳模型，而无需担心推理、运维或部署。
- [Cloudflare Workers AI 上的 Llama 3.2 11B Vision Instruct 模型](https://cloudflaredoc.ubitools.com/workers-ai/guides/tutorials/llama-vision-tutorial/index.md): 了解如何在 Cloudflare Workers AI 上使用 Llama 3.2 11B Vision Instruct 模型。
- [将 BigQuery 与 Workers AI 配合使用](https://cloudflaredoc.ubitools.com/workers-ai/guides/tutorials/using-bigquery-with-workers-ai/index.md): 了解如何将 Cloudflare 外部存储的数据作为 Workers AI 模型的输入。

## platform

- [AI Gateway](https://cloudflaredoc.ubitools.com/ai-gateway/index.md): 使用 AI Gateway 管理、监控和缓存 Workers AI 请求。
- [数据使用](https://cloudflaredoc.ubitools.com/workers-ai/platform/data-usage/index.md): Cloudflare 在使用 Workers AI 时如何处理你的数据、输入和输出。
- [错误](https://cloudflaredoc.ubitools.com/workers-ai/platform/errors/index.md): Workers AI 错误代码、HTTP 状态码和描述的参考表。
- [事件订阅](https://cloudflaredoc.ubitools.com/workers-ai/platform/event-subscriptions/index.md): 使用 Cloudflare Queues 订阅 Workers AI 事件以进行异步处理。
- [术语表](https://cloudflaredoc.ubitools.com/workers-ai/platform/glossary/index.md): Workers AI 文档中使用的关键术语定义。
- [限制](https://cloudflaredoc.ubitools.com/workers-ai/platform/limits/index.md): Workers AI 推理请求的速率限制，按任务类型和模型组织。
- [定价](https://cloudflaredoc.ubitools.com/workers-ai/platform/pricing/index.md): Workers AI 定价基于 Neurons，提供每日免费配额和各模型费率。
- [选择数据或存储产品](https://cloudflaredoc.ubitools.com/workers/platform/storage-options/index.md): 比较 Cloudflare 存储产品，以便与 Workers AI 配合使用。