数据中心为何成为AI竞赛关键

最近看到Tom Shaw和基础设施负责人Santosh Janardhan的一场对谈,聊的是科技巨头自建数据中心来支撑AI的底层逻辑。我印象最深的是,Santosh反复强调这家公司早就不只是软件公司了,AI跟以往任何技术都不同,它从第一天起就是软硬件加能源的立体战争。

他们讨论了一个很直观的概念:一吉瓦的电力到底意味着什么。简单说,这相当于一座大型核电机组的输出功率,而训练前沿大模型动辄就需要这个量级的持续供电。所以现在科技巨头拼的不只是算法和芯片,更是谁能拿到稳定、便宜、大规模的电力。关于芯片选择,Santosh提到他们不会押注单一供应商,而是根据任务类型混合使用不同架构。训练和推理对算力的需求差异很大,自研芯片可以针对特定负载优化,同时降低对英伟达的依赖。这个思路我觉得挺务实,毕竟供应链风险在当下比以往任何时候都更真实。自建数据中心的另一个好处是迭代速度。租用第三方云服务虽然灵活,但硬件布局、散热方案、网络拓扑都得跟着别人的节奏走。自己建就能把模型训练的需求直接反馈到机房设计里,比如液冷、定制网络协议,这些细节累积起来就是成本优势。整体看下来,AI竞赛已经从前端模型卷到了后端基建。谁能在电力、芯片、机房这三件事上形成闭环,谁就有机会把单位训练成本压到对手难以跟进的水平。对出海从业者来说,这也提醒我们关注算力成本结构的变化,而不只是盯着模型榜单。
4

评论

登录后即可发表评论

参与讨论,和出海同行交流想法与经验

还没有评论,来抢沙发吧

说说你的看法,第一条评论最显眼