英伟达新平台落地CoreWeave
刚看到CoreWeave在旧金山那场Fully Connected活动上放出的消息,英伟达Vera Rubin NVL72系统已经正式进入生产环境了,配套的是Spectrum-X 102.4T以太网。这节奏比我预想的快不少,毕竟Rubin架构的细节之前一直捂得挺严实。
第一个吃螃蟹的客户是Cognition,就是做Devin那个AI软件工程师的团队,直接拿Vera Rubin跑生产负载。这个选择挺有意思,说明Rubin这一代在推理和Agent场景上的成熟度已经能扛住真实业务了,不然Cognition没必要拿自己的核心产品去赌。另外CoreWeave还宣布要提供NVIDIA Vera,这是英伟达第一颗专门为AI Agent设计的CPU。再加上他们自己推出的CoreWeave Forge,一个用来训练、评估和迭代模型与Agent的连通环境。这套组合拳打下来,感觉CoreWeave在往「AI工厂」的方向越走越深,不只是卖算力,而是把训练到部署的整条链路都包进去。英伟达超大规模与高性能计算副总裁Ian Buck有句话我印象很深,他说CoreWeave的V100 GPU在Volta发布近十年后还在跑客户负载,同时Vera Rubin NVL72已经进生产了。这其实点出了一个很现实的问题:对大多数团队来说,追最新硬件未必划算,能跨代稳定复用才是真省钱。我的判断是,CoreWeave这波卡位挺准。它赌的不是单代硬件的性能峰值,而是英伟达生态的延续性和迁移成本。对做Agent产品的团队来说,Forge这种一体化环境可能比单纯堆GPU更有吸引力,毕竟调模型和调Agent本来就是两件很碎的事。
第一个吃螃蟹的客户是Cognition,就是做Devin那个AI软件工程师的团队,直接拿Vera Rubin跑生产负载。这个选择挺有意思,说明Rubin这一代在推理和Agent场景上的成熟度已经能扛住真实业务了,不然Cognition没必要拿自己的核心产品去赌。另外CoreWeave还宣布要提供NVIDIA Vera,这是英伟达第一颗专门为AI Agent设计的CPU。再加上他们自己推出的CoreWeave Forge,一个用来训练、评估和迭代模型与Agent的连通环境。这套组合拳打下来,感觉CoreWeave在往「AI工厂」的方向越走越深,不只是卖算力,而是把训练到部署的整条链路都包进去。英伟达超大规模与高性能计算副总裁Ian Buck有句话我印象很深,他说CoreWeave的V100 GPU在Volta发布近十年后还在跑客户负载,同时Vera Rubin NVL72已经进生产了。这其实点出了一个很现实的问题:对大多数团队来说,追最新硬件未必划算,能跨代稳定复用才是真省钱。我的判断是,CoreWeave这波卡位挺准。它赌的不是单代硬件的性能峰值,而是英伟达生态的延续性和迁移成本。对做Agent产品的团队来说,Forge这种一体化环境可能比单纯堆GPU更有吸引力,毕竟调模型和调Agent本来就是两件很碎的事。
评论
登录后即可发表评论
参与讨论,和出海同行交流想法与经验
还没有评论,来抢沙发吧
说说你的看法,第一条评论最显眼