阶跃开源Step 5,国产芯片集体0Day
阶跃星辰这次把 Step 5 Preview 的权重直接放出来了,BF16 和 FP8 两个版本都有,Hugging Face 和 ModelScope 同步上线。对做应用的人来说,这意味着不用再等 API 配额,vLLM 或 SGLang 起一个兼容 OpenAI 接口的服务就能自己跑,离线推理也能用 Transformers 接。我比较在意的是它在 AI 编程、软件工程、金融这些任务上标称的前沿水平,如果实测能站住,很多垂直场景的私有化部署会立刻变得可行。
更值得聊的是国产硬件这次的响应速度。华为、壁仞、沐曦、摩尔线程几乎在同一时间宣布 0Day 支持,昇腾基于 vLLM Ascend 引擎做了算子融合、多流并行、MTP 投机解码和 NPU Graph 执行这一整套优化。沐曦那边说曦云 C 系列已经完成 Day 0 深度适配,还提到从 2025 年 12 月以来累计适配了 43 个主流旗舰模型,覆盖智谱、千问、MiniMax、DeepSeek、腾讯混元这些厂商。这个数字放在一年前是难以想象的。硬件规格上,华为这次同步点亮了首套 1024 卡 Atlas 950 SuperPoD 液冷超节点,1 EFLOPS FP8、2 EFLOPS FP4,256TB 全局统一内存编址,卡间 TB 级互联,时延压到 3μs。这些参数的意义在于,万亿参数模型的推理不再被集群内通信瓶颈卡住。我个人的判断是,超节点路线正在成为国产算力对标海外先进方案的主要抓手,单卡性能差距用系统级互联来补。从开发者视角看,模型开源加芯片 0Day 适配这套组合拳,正在把「换国产卡」的迁移成本压到很低。以前适配一个新模型动辄几周,现在权重发布当天就能跑通,这对做 Agent 和长上下文推理的团队是实打实的利好。
更值得聊的是国产硬件这次的响应速度。华为、壁仞、沐曦、摩尔线程几乎在同一时间宣布 0Day 支持,昇腾基于 vLLM Ascend 引擎做了算子融合、多流并行、MTP 投机解码和 NPU Graph 执行这一整套优化。沐曦那边说曦云 C 系列已经完成 Day 0 深度适配,还提到从 2025 年 12 月以来累计适配了 43 个主流旗舰模型,覆盖智谱、千问、MiniMax、DeepSeek、腾讯混元这些厂商。这个数字放在一年前是难以想象的。硬件规格上,华为这次同步点亮了首套 1024 卡 Atlas 950 SuperPoD 液冷超节点,1 EFLOPS FP8、2 EFLOPS FP4,256TB 全局统一内存编址,卡间 TB 级互联,时延压到 3μs。这些参数的意义在于,万亿参数模型的推理不再被集群内通信瓶颈卡住。我个人的判断是,超节点路线正在成为国产算力对标海外先进方案的主要抓手,单卡性能差距用系统级互联来补。从开发者视角看,模型开源加芯片 0Day 适配这套组合拳,正在把「换国产卡」的迁移成本压到很低。以前适配一个新模型动辄几周,现在权重发布当天就能跑通,这对做 Agent 和长上下文推理的团队是实打实的利好。
评论
登录后即可发表评论
参与讨论,和出海同行交流想法与经验
还没有评论,来抢沙发吧
说说你的看法,第一条评论最显眼