谷歌给每个AI代理配独立虚拟机
谷歌最近发布了一个叫 Agent Compute Engine 的服务,核心思路很简单:给每个 AI 代理分配一台独立的虚拟机。这听起来有点重,但仔细想想,代理系统最怕的就是互相干扰和资源浪费,隔离反而是最省心的做法。
我比较在意的是成本控制这块。官方说代理空闲时虚拟机会自动暂停,把机器让给其他代理用,虚拟机之间还共享内存来压低单机开销。做过多代理部署的人都知道,虚拟机费用是实打实的大头,谷歌这次明显是冲着效率去的。另一个值得关注的是开源的 Agent Substrate,一个 Kubernetes 运行时。谷歌称单台服务器能塞下十倍数量的代理,在 20 万代理的测试里,暂停和恢复都在 500 毫秒以内。这个数字如果真实可复现,对需要大规模并发代理的场景会很有吸引力。管控层面也在补齐,令牌追踪、模型路由、以及对接 Ping Identity、SailPoint 这类第三方身份提供商,这些能力会延伸到 Cloud Run、GKE 和托管端点。代理多了以后,身份和权限管理迟早是绕不过去的坎,提前布局算是明智。我的判断是,这套东西短期更像给 Gemini 生态铺路,但长期看,代理基础设施的标准化竞争已经开始了。对出海团队来说,如果代理规模上来了,值得等预览开放后先小规模试一下,重点盯住暂停恢复的实际延迟和账单。
我比较在意的是成本控制这块。官方说代理空闲时虚拟机会自动暂停,把机器让给其他代理用,虚拟机之间还共享内存来压低单机开销。做过多代理部署的人都知道,虚拟机费用是实打实的大头,谷歌这次明显是冲着效率去的。另一个值得关注的是开源的 Agent Substrate,一个 Kubernetes 运行时。谷歌称单台服务器能塞下十倍数量的代理,在 20 万代理的测试里,暂停和恢复都在 500 毫秒以内。这个数字如果真实可复现,对需要大规模并发代理的场景会很有吸引力。管控层面也在补齐,令牌追踪、模型路由、以及对接 Ping Identity、SailPoint 这类第三方身份提供商,这些能力会延伸到 Cloud Run、GKE 和托管端点。代理多了以后,身份和权限管理迟早是绕不过去的坎,提前布局算是明智。我的判断是,这套东西短期更像给 Gemini 生态铺路,但长期看,代理基础设施的标准化竞争已经开始了。对出海团队来说,如果代理规模上来了,值得等预览开放后先小规模试一下,重点盯住暂停恢复的实际延迟和账单。
评论
登录后即可发表评论
参与讨论,和出海同行交流想法与经验
还没有评论,来抢沙发吧
说说你的看法,第一条评论最显眼