AI Gateway 允许你在请求级别设置自定义成本。使用此功能,成本指标可以准确反映你的独特定价,覆盖默认或公开的模型成本。
要在 API 请求中添加自定义成本,请使用 cf-aig-custom-cost 标头。此标头允许你指定输入(发送的 token)和输出(接收的 token)的每 token 成本。
- per_token_in:协商的输入 token 成本(每 token)。
- per_token_out:协商的输出 token 成本(每 token)。
小数位数没有限制,确保精确的成本计算,无论数值多小。
自定义成本将在日志中以下划线显示,便于识别何时应用了自定义定价。
在此示例中,如果你协商的价格为每百万输入 token $1、每百万输出 token $2,请按如下所示包含 cf-aig-custom-cost 标头。
curl https://gateway.ai.cloudflare.com/v1/{account_id}/{gateway_id}/openai/chat/completions \
--header "Authorization: Bearer $TOKEN" \
--header 'Content-Type: application/json' \
--header 'cf-aig-custom-cost: {"per_token_in":0.000001,"per_token_out":0.000002}' \
--data ' {
"model": "gpt-4o-mini",
"messages": [
{
"role": "user",
"content": "When is Cloudflare’s Birthday Week?"
}
]
}'