英伟达开源三款模型覆盖端到端
英伟达这次把 Nemotron 3.5 系列铺到了从数据中心到桌面的全场景,一口气放出三款开源模型。Super VL 是 1200 亿参数的大块头,主打常驻型智能体的任务完成速度和准确率;Bolt 74B-A9B 面向 24GB 显存的本地设备,在智能和速度之间按每 GB 做平衡;Bolt E4B 只有 4GB,专攻轻量对话场景,但要到 10 月 23 日才开放。
这个产品矩阵的意图很明显:企业不必再在「能力强」和「部署得动」之间二选一。Super VL 和 Bolt 74B-A9B 现在已经可用,配合八月发布的 Lightning(高吞吐)和 Ultra(硬推理),Nemotron 家族基本把从服务器到边缘的每一层都占住了。对做跨境工具和本地化 Agent 的团队来说,这意味着选型时多了一个「同一家族、同一套工具链」的选项,迁移成本会低不少。我比较在意的是 Super VL 的定位。官方说它在五分之一的体积下做到前沿准确率,还拉上了 Nemotron Coalition 一起共建。如果这个准确率在真实业务里站得住,那对预算有限、又不想被闭源 API 绑死的中小团队是实打实的利好。不过参数规模摆在那,推理成本不会低,常驻 Agent 的账单得提前算清楚。边缘侧的两款更值得关注。74B-A9B 用 24GB 就能跑,说明 MoE 激活参数的控制做得不错,适合放在本地工作站做隐私敏感的智能体任务;E4B 的 4GB 门槛则直接对准了消费级显卡甚至轻薄本。真正落地时,量化版本、上下文长度和实际吞吐才是决定体验的关键,官方给的「每 GB 智能」指标只能当参考。整体看,英伟达这步棋是把开源模型当成基础设施的入口:模型免费,算力照卖。对出海团队而言,值得先拿 Bolt 74B-A9B 在本地跑一轮真实任务评测,再决定要不要把生产流量往 Super VL 上迁。
这个产品矩阵的意图很明显:企业不必再在「能力强」和「部署得动」之间二选一。Super VL 和 Bolt 74B-A9B 现在已经可用,配合八月发布的 Lightning(高吞吐)和 Ultra(硬推理),Nemotron 家族基本把从服务器到边缘的每一层都占住了。对做跨境工具和本地化 Agent 的团队来说,这意味着选型时多了一个「同一家族、同一套工具链」的选项,迁移成本会低不少。我比较在意的是 Super VL 的定位。官方说它在五分之一的体积下做到前沿准确率,还拉上了 Nemotron Coalition 一起共建。如果这个准确率在真实业务里站得住,那对预算有限、又不想被闭源 API 绑死的中小团队是实打实的利好。不过参数规模摆在那,推理成本不会低,常驻 Agent 的账单得提前算清楚。边缘侧的两款更值得关注。74B-A9B 用 24GB 就能跑,说明 MoE 激活参数的控制做得不错,适合放在本地工作站做隐私敏感的智能体任务;E4B 的 4GB 门槛则直接对准了消费级显卡甚至轻薄本。真正落地时,量化版本、上下文长度和实际吞吐才是决定体验的关键,官方给的「每 GB 智能」指标只能当参考。整体看,英伟达这步棋是把开源模型当成基础设施的入口:模型免费,算力照卖。对出海团队而言,值得先拿 Bolt 74B-A9B 在本地跑一轮真实任务评测,再决定要不要把生产流量往 Super VL 上迁。
评论
登录后即可发表评论
参与讨论,和出海同行交流想法与经验
还没有评论,来抢沙发吧
说说你的看法,第一条评论最显眼