跳转到内容
搜索文档

自定义成本

最后更新 查看 MarkdownAgent 设置

AI Gateway 允许你在请求级别设置自定义成本。使用此功能,成本指标可以准确反映你的独特定价,覆盖默认或公开的模型成本。

自定义成本

要在 API 请求中添加自定义成本,请使用 cf-aig-custom-cost 标头。此标头允许你指定输入(发送的 token)和输出(接收的 token)的每 token 成本。

  • per_token_in:协商的输入 token 成本(每 token)。
  • per_token_out:协商的输出 token 成本(每 token)。

小数位数没有限制,确保精确的成本计算,无论数值多小。

自定义成本将在日志中以下划线显示,便于识别何时应用了自定义定价。

在此示例中,如果你协商的价格为每百万输入 token $1、每百万输出 token $2,请按如下所示包含 cf-aig-custom-cost 标头。

Request with custom costbash
curl https://gateway.ai.cloudflare.com/v1/{account_id}/{gateway_id}/openai/chat/completions \
  --header "Authorization: Bearer $TOKEN" \
  --header 'Content-Type: application/json' \
  --header 'cf-aig-custom-cost: {"per_token_in":0.000001,"per_token_out":0.000002}' \
  --data ' {
        "model": "gpt-4o-mini",
        "messages": [
          {
            "role": "user",
            "content": "When is Cloudflare’s Birthday Week?"
          }
        ]
      }'

这篇文档对您有帮助吗?