AI时代数据中心为何如此关键
最近看了Tom Shaw和Santosh Janardhan的一场对谈,聊的是Meta怎么搭建基础设施来支撑AI的未来。Santosh提到一个观点让我印象很深:Meta早就不只是一家软件公司了,它正在变成一家必须把硬件、能源、芯片全都攥在手里的重资产玩家。
他解释为什么AI和以往任何技术都不同。过去的软件迭代,服务器不够就加机器,云上弹一弹就解决了。但AI训练是持续几个月、吃掉整栋楼电力的负载,电力供应和芯片选型直接决定模型能不能跑起来。所以数据中心不再是后台成本项,而是AI竞赛的前线阵地。对谈里有个概念叫“吉瓦级能源”,听起来抽象,其实就是一座大型发电站的输出功率。当一家公司开始用吉瓦来衡量自己的算力园区,说明它思考的已经不是服务器数量,而是能源合同、变电站和冷却系统。这也是为什么Meta要自建数据中心:租来的机房很难按AI的节奏做定制,自建才能把芯片、网络、供电一起优化。至于芯片选择,Santosh没有只押注某一家供应商,而是根据训练和推理的不同需求去搭配。这点我挺认同,算力多元化不是口号,是供应链安全的基本功。对出海团队来说,如果业务涉及AI推理,迟早也要面对类似的基础设施选择题。我的判断是,未来两三年,AI产品的竞争会越来越像能源和基建的竞争。谁能拿到稳定电力、谁能把自建数据中心的单位成本压下来,谁就有资格留在牌桌上。软件层面的差异化窗口正在收窄,底层硬功夫反而成了护城河。
他解释为什么AI和以往任何技术都不同。过去的软件迭代,服务器不够就加机器,云上弹一弹就解决了。但AI训练是持续几个月、吃掉整栋楼电力的负载,电力供应和芯片选型直接决定模型能不能跑起来。所以数据中心不再是后台成本项,而是AI竞赛的前线阵地。对谈里有个概念叫“吉瓦级能源”,听起来抽象,其实就是一座大型发电站的输出功率。当一家公司开始用吉瓦来衡量自己的算力园区,说明它思考的已经不是服务器数量,而是能源合同、变电站和冷却系统。这也是为什么Meta要自建数据中心:租来的机房很难按AI的节奏做定制,自建才能把芯片、网络、供电一起优化。至于芯片选择,Santosh没有只押注某一家供应商,而是根据训练和推理的不同需求去搭配。这点我挺认同,算力多元化不是口号,是供应链安全的基本功。对出海团队来说,如果业务涉及AI推理,迟早也要面对类似的基础设施选择题。我的判断是,未来两三年,AI产品的竞争会越来越像能源和基建的竞争。谁能拿到稳定电力、谁能把自建数据中心的单位成本压下来,谁就有资格留在牌桌上。软件层面的差异化窗口正在收窄,底层硬功夫反而成了护城河。
评论
登录后即可发表评论
参与讨论,和出海同行交流想法与经验
还没有评论,来抢沙发吧
说说你的看法,第一条评论最显眼