出站连接使 Durable Objects 保持存活
现在,通过 connect() 或出站 WebSocket 创建的活动出站连接在持续期间,Durable Objects 将保持存活。此前,即使对象具有打开的出站连接,Durable Object 也会在 70-140 秒无入站流量后被逐出,而这在使用 TCP 或出站 WebSocket 从大型语言模型 (LLM) 流式传输响应时是一种常见模式。
通过此更改,每个活动的出站连接都可以防止被逐出。一旦所有出站连接关闭,在 Durable Object 被逐出之前将适用标准的 70-140 秒空闲窗口。
如果您正在 Cloudflare 上构建智能体(Agent),这一点尤为重要。在调用模型时从 LLM 流式传输 Token 的智能体,或者通过出站连接执行长时间运行的任务的智能体,现在会在该连接持续期间保持存活,而不是在中途被逐出。
限制:
- 每个出站连接最多可使 Durable Object 保持存活 15 分钟。15 分钟后,该连接将不再防止逐出(连接本身将继续运行),并恢复标准逐出规则。
- Durable Object 现有的每个账户实例限制仍然适用。
欲了解更多信息,请参阅 Durable Object 的生命周期。