AI Search 在多个阶段使用模型。你可以配置使用哪些模型,或让 AI Search 自动为你选择智能默认值。
AI Search 在以下阶段利用 Workers AI 模型:
- 图像转 Markdown 转换(若数据源中包含图像):使用目标检测与字幕模型将图像内容转换为 Markdown。
- Embedding:将文档与查询转换为向量表示,用于语义搜索。
- 查询重写(可选):改写用户查询以提高检索准确性。
- 重排序(可选):使用 cross-encoder 模型按语义相关性对检索结果重新排序。
- 生成:根据检索到的上下文生成最终响应。
所有 AI Search 实例均支持 Workers AI 的模型。你可以通过将其他提供商(如 OpenAI 或 Anthropic)的 API key 添加到 AI Gateway,并将该网关连接到 AI Search,以在 AI Search 中使用这些提供商。
要在 AI Search 中使用其他模型提供商:
-
将提供商密钥添加到 AI Gateway。
-
将网关连接到 AI Search。
- 创建新 AI Search 时,选择带有提供商密钥的 AI Gateway。
- 对于现有 AI Search,前往 Settings(设置),在 Resources(资源) 下切换到包含你密钥的网关。
-
选择模型
- Embedding 模型:仅在创建新 AI Search 时可更改。
- 生成模型:可在创建新 AI Search 时选择,并可随时在 Settings(设置) 中更改。
AI Search 支持经筛选以提供最佳体验的模型子集。请参阅受支持模型列表。
若在模型选择中选择 Smart Default(智能默认),AI Search 将选择 Cloudflare 推荐的模型,并随时间自动为你更新。你可以随时前往 Settings(设置) 切换为显式模型配置。
虽然生成模型可在 AI Search 实例级别全局设置,你也可以在 AI Search API 中按请求覆盖它。当你需要根据上下文或用户偏好动态选择生成模型时,这很有用。
为支持性能更好、能力更强的模型,AI Search 可能会弃用对某个模型的支持。当模型将被弃用时,我们会宣布变更并提供生命周期结束日期,之后该模型将不再可访问。依赖 AI Search 的应用因此可能需要偶尔更新,以持续可靠工作。
AI Search 模型遵循明确的生命周期,以确保稳定性和可预测的弃用:
- 生产(Production): 模型受到积极支持并推荐使用。它包含在 Smart Defaults 中,并持续获得更新与维护。
- 公告与过渡(Announcement & Transition): 模型仍然可用,但已被标记为弃用。生命周期结束日期通过文档、发行说明及其他官方渠道传达。在此阶段,鼓励用户迁移到推荐的替代模型。
- 自动升级(若适用): 若你选择了 Smart Default 选项,AI Search 会自动将请求升级到推荐的替代模型。
- 生命周期结束(End of life): 模型不再可用。对已停用模型的任何请求都会返回明确的错误消息,该模型会从文档和 Smart Defaults 中移除。
在受支持模型中了解有关模型及其生命周期状态的更多信息。
- 定期查看发行说明以获取更新。
- 根据公布的生命周期结束日期规划迁移工作。
- 在生命周期结束日期之前迁移并测试推荐的替代模型。