跳转到内容
搜索文档

模型

最后更新 查看 MarkdownAgent 设置

AI Search 在多个阶段使用模型。你可以配置使用哪些模型,或让 AI Search 自动为你选择智能默认值。

模型用法

AI Search 在以下阶段利用 Workers AI 模型:

  • 图像转 Markdown 转换(若数据源中包含图像):使用目标检测与字幕模型将图像内容转换为 Markdown。
  • Embedding:将文档与查询转换为向量表示,用于语义搜索。
  • 查询重写(可选):改写用户查询以提高检索准确性。
  • 重排序(可选):使用 cross-encoder 模型按语义相关性对检索结果重新排序。
  • 生成:根据检索到的上下文生成最终响应。

模型提供商

所有 AI Search 实例均支持 Workers AI 的模型。你可以通过将其他提供商(如 OpenAI 或 Anthropic)的 API key 添加到 AI Gateway,并将该网关连接到 AI Search,以在 AI Search 中使用这些提供商。

要在 AI Search 中使用其他模型提供商:

  1. 将提供商密钥添加到 AI Gateway

  2. 将网关连接到 AI Search。

    • 创建新 AI Search 时,选择带有提供商密钥的 AI Gateway。
    • 对于现有 AI Search,前往 Settings(设置),在 Resources(资源) 下切换到包含你密钥的网关。
  3. 选择模型

    • Embedding 模型:仅在创建新 AI Search 时可更改。
    • 生成模型:可在创建新 AI Search 时选择,并可随时在 Settings(设置) 中更改。

AI Search 支持经筛选以提供最佳体验的模型子集。请参阅受支持模型列表。

智能默认

若在模型选择中选择 Smart Default(智能默认),AI Search 将选择 Cloudflare 推荐的模型,并随时间自动为你更新。你可以随时前往 Settings(设置) 切换为显式模型配置。

按请求覆盖生成模型

虽然生成模型可在 AI Search 实例级别全局设置,你也可以在 AI Search API 中按请求覆盖它。当你需要根据上下文或用户偏好动态选择生成模型时,这很有用。

模型弃用

为支持性能更好、能力更强的模型,AI Search 可能会弃用对某个模型的支持。当模型将被弃用时,我们会宣布变更并提供生命周期结束日期,之后该模型将不再可访问。依赖 AI Search 的应用因此可能需要偶尔更新,以持续可靠工作。

模型生命周期

AI Search 模型遵循明确的生命周期,以确保稳定性和可预测的弃用:

  1. 生产(Production): 模型受到积极支持并推荐使用。它包含在 Smart Defaults 中,并持续获得更新与维护。
  2. 公告与过渡(Announcement & Transition): 模型仍然可用,但已被标记为弃用。生命周期结束日期通过文档、发行说明及其他官方渠道传达。在此阶段,鼓励用户迁移到推荐的替代模型。
  3. 自动升级(若适用): 若你选择了 Smart Default 选项,AI Search 会自动将请求升级到推荐的替代模型。
  4. 生命周期结束(End of life): 模型不再可用。对已停用模型的任何请求都会返回明确的错误消息,该模型会从文档和 Smart Defaults 中移除。

受支持模型中了解有关模型及其生命周期状态的更多信息。

最佳实践

  • 定期查看发行说明以获取更新。
  • 根据公布的生命周期结束日期规划迁移工作。
  • 在生命周期结束日期之前迁移并测试推荐的替代模型。

这篇文档对您有帮助吗?