已验证的 bot (Verified bot) 是指经 Cloudflare 确认对其身份和行为保持透明的 bot 或代理:它真实地表明自己的身份,且不滥用因这种诚实而获得的访问权限。示例包括搜索引擎爬虫、监控服务和用户驱动的代理。
成为已验证的 bot 意味着 bot 或代理满足以下两个标准:
- 诚实的自我身份识别 — 它通过密码学 Web Bot Auth 签名、带有稳定用户代理的已发布 IP 列表或反向 DNS 确定性地声明其身份。
- 非滥用行为 — 它遵守
robots.txt和抓取指令,保持合理的请求速率,且未被观察到逃避网站所有者的偏好设置或攻击网站。
Cloudflare 根据每个被追踪 bot 的行为对它们进行分类 — 即 bot 在您的站点上可能执行的操作。单个 bot 可以具有以下一种或多种行为:
| 行为 | 描述 |
|---|---|
| Search | 抓取以构建搜索索引或 RAG 数据库。 |
| Agent | 代表人类访问网页的用户导向代理。 |
| Training | 抓取内容以训练或微调模型。 |
| Transact | 代表用户进行结账或其他交易操作。 |
| Data Collection | 价格抓取、竞争情报收集和第三方分析。 |
| Security Testing | 漏洞扫描和渗透测试。 |
| SEO | SEO 抓取、网站审计和无障碍检查。 |
| Ads Verification | 广告投放验证和广告欺诈检测。 |
| Social / Link Preview | 社交平台和即时通讯应用的链接预览。 |
| Feed Fetching | RSS 阅读器、播客聚合器和新闻提要 bot。 |
| Monitoring & Operations | 运行状况监控、Webhook 和健康检查。 |
Search(搜索)、Agent(代理)和 Training(训练)也可以作为托管预设,供您在所有套餐中采取行动。有关更多信息,请参阅 AI bots。
Cloudflare 还会根据每个已验证的 bot 或代理的运行方式对其进行标记。
| 标签 | 描述 |
|---|---|
| Direct(直接) | 由单一、范围狭窄的运营商运行 — 通常在运营商自己的基础设施上。只有该运营商可以发送呈现为此 bot 的请求。 |
| Intermediary(中介) | 广泛的最终用户都可以操作的中介代理服务。运营商运行该软件,但每个操作都由不同的最终用户发起。 |
由于中介 (intermediary) 代表许多不同的最终用户行事,运营商和最终用户并不是同一方。这引入了传递信任 (transitive trust):您可能会信任中介运营商,但不一定信任驱动它的每个最终用户。Cloudflare 正在尝试转发有关最终用户的信息(使用 RFC 7239 ↗ 中定义的 Forwarded 标头),以便网站所有者可以将他们的偏好应用于最终对请求负责的一方。
您可以通过在 Cloudflare 仪表板中填写在线申请 ↗,请求将您的 bot 或代理添加到 Cloudflare 的 bot 和代理目录中。
一旦 Cloudflare 批准了已验证的 bot,它应该会出现在 BotBase 中,并通过 Cloudflare Radar 的 bot 和代理目录 ↗进行共享。
该 bot 必须使用以下验证方法之一进行已验证确认:
如果违反了任何验证要求,服务将从全球允许列表中删除。
以下是违反政策的示例:
- 添加了一组并非仅由已验证服务使用的 IP。
- 服务 IP 被攻击者攻破。
- 服务存在尚未修复的漏洞。
- 将未在入驻说明中汇报的 IP 段添加到列表中。
- 服务公开的用途未在流量中反映出来。
- AI 爬虫不遵守 robots.txt 中的 crawl-delay 指令。
学术研究 (Academic research)
字符串值: Academic Research
定义: 为学术研究或学术目的收集数据。
示例: Library of Congress, TurnItInBot, Bibliothèque nationale de France
无障碍 (Accessibility)
字符串值: Accessibility
定义: 扫描网站以识别其无障碍性。
示例: Accessible Web Bot
广告或营销 (Advertising or marketing)
字符串值: Advertising & Marketing
定义: 自动化营销任务,包括但不限于广告投放和性能跟踪。
示例: Google Adsbot
聚合器 (Aggregators)
字符串值: Aggregator
定义: 从各种在线来源收集内容并将其整合到一个地方。
示例: Pinterest, Indeed Jobsbot
AI 助手 (AI Assistant)
字符串值: AI Assistant
定义: 由用户操作驱动的自动化 AI bot。
示例: Perplexity-User, DuckAssistBot
AI 爬虫 (AI Crawler)
字符串值: AI Crawler
定义: 抓取网站以获取用于训练 AI 模型的内容。
示例: Google Bard, ChatGPT bot
AI 搜索 (AI Search)
字符串值: AI Search
定义: 助力 AI 驱动的搜索体验。
示例: OAI-SearchBot
归档器 (Archiver)
字符串值: Archiver
定义: 保存网站快照,以保留数字内容作为历史记录。
示例: Internet Archive, CommonCrawl
内容提要获取器 (Feed fetcher)
字符串值: Feed Fetcher
定义: 从提要 (feed) 检索更新,以支持阅读器或其他应用程序。
示例: RSS 或播客提要更新程序
监控或分析 (Monitoring or analytics)
字符串值: Monitoring & Analytics
定义: 跟踪网站的运行时间、性能和用户流量,以收集关键的监控指标。
示例: 运行时间监控器 (Uptime Monitors)
页面预览 (Page preview)
字符串值: Page Preview
定义: 为在社交媒体或即时通讯应用中共享的链接生成预览。
示例: Facebook, Slack, Twitter, 或 Discord 链接预览工具
搜索引擎爬虫 (Search engine crawler)
字符串值: Search Engine Crawler
定义: 发现网页并建立索引以提供搜索结果的 bot。
示例: Googlebot, Bingbot, Yandexbot, Baidubot
搜索引擎优化 (Search engine optimization)
字符串值: Search Engine Optimization
定义: 分析网站以改善其在搜索引擎结果页面中的排名。
示例: Google Lighthouse, GT Metrix, Pingdom, AddThis
安全 (Security)
字符串值: Security
定义: 扫描网站以检测安全漏洞和潜在威胁。
示例: 漏洞扫描器 (Vulnerability Scanners), SSL 域名控制验证 (DCV) 检查工具
社交媒体营销 (Social media marketing)
字符串值: Social Media Marketing
定义: 管理和自动化社交平台上的活动。
示例: Brandwatch
Webhook
字符串值: Webhooks
定义: 一种自动化的消息发送程序,用于在发生特定事件时将数据从一个应用程序发送到另一个应用程序。
示例: 支付处理器、WordPress 集成工具
其他 (Other)
字符串值: Other
定义: 专为不符合其他分类的 bot 设置的专用类别。
如果 bot 的公开文档和观察到的行为与 bot 提交表单中列出的类别不同,Cloudflare 保留重新分配已验证 bot 类别的权利。
历史上,已验证的 bot 在所有套餐的默认 bot 配置中均被排除。现在,所有客户都可以选择配置 AI bot 策略来定义其阻止与允许的预期。