Workers 绑定（binding）

Workers 提供 serverless 执行环境，让你可以创建新应用或增强现有应用。

要在 Workers 中使用 Workers AI，必须创建 Workers AI 绑定（binding）。绑定允许 Worker 与 Cloudflare Developer Platform 上的资源（如 Workers AI）交互。你可以在 Cloudflare 仪表板中创建绑定，或通过更新 Wrangler 文件 创建。

要将 Workers AI 绑定到 Worker，在 Wrangler 文件末尾添加以下内容：

{
	"ai": {
		"binding": "AI" // i.e. available in your Worker on env.AI
	}
}

[ai]
binding = "AI"

Pages Functions 让你通过 Cloudflare 网络上执行代码，使用 Cloudflare Pages 构建全栈应用。Functions 底层是 Workers。

要在 Pages Function 中配置 Workers AI 绑定，必须使用 Cloudflare 仪表板。请参阅 Workers AI 绑定 获取说明。

async env.AI.run() 运行模型。第一个参数为模型，第二个参数为对象。

const answer = await env.AI.run('@cf/meta/llama-3.1-8b-instruct', {
    prompt: "What is the origin of the phrase 'Hello, World'"
});

Parameters

• model stringrequired

  • 要运行的模型。

  Supported options

  • stream booleanoptional
    • 在结果可用时以流的形式返回。

const answer = await env.AI.run('@cf/meta/llama-3.1-8b-instruct', {
    prompt: "What is the origin of the phrase 'Hello, World'",
    stream: true
});

return new Response(answer, {
    headers: { "content-type": "text/event-stream" }
});