边缘端决策模型开源新选择

LiquidAI 刚开源了两个决策模型,d1-3B 和实验性的 d1-omni-600M,主打边缘端部署。我第一反应是这方向选得挺聪明:现在大模型都在卷生成能力,但很多工业场景要的其实不是写文章,而是快速做个判断。

先看硬指标。d1-3B 在 Decision Index 0.2.1 上拿了 48.57 分,官方说这是 10B 以下最好的决策模型,超过了所有 4B 和 9B 的对手,也压过了 35B 的 Decider 35B-A3B(47.11 分)。这个对比挺有冲击力,小模型在特定任务上确实能靠架构和训练方式弯道超车。速度是另一个亮点。在 NVIDIA Jetson AGX Thor 上单次推理只要 16 毫秒,AGX Orin 是 26 毫秒,Orin Nano 也才 50 毫秒。决策模型和生成模型不一样,它不逐 token 输出,而是一次前向传播直接给答案,所以延迟能压这么低。这对机器人、自动驾驶或者工业质检这类需要实时响应的场景很关键。多模态方面,d1-3B 支持文本加图像,d1-omni-600M 还能选文本加音频。两个模型都基于他们的 Liquid Foundation Models 构建,训练细节原文没展开,但方向很明确:把决策能力塞进小体积、低功耗的硬件里。我的判断是,这类模型不会取代大语言模型,但会在边缘侧吃掉一大块原本需要云端往返的简单决策任务。如果生态工具链跟得上,做端侧 AI 的团队值得花时间试试。
12

评论

登录后即可发表评论

参与讨论,和出海同行交流想法与经验

还没有评论,来抢沙发吧

说说你的看法,第一条评论最显眼