边缘端决策模型开源新选择

最近看到 LiquidAI 开源了 d1 系列的两个决策模型,d1-3B 和实验性的 d1-omni-600M。这个方向挺有意思,因为决策模型跟常见的生成模型走的是完全不同的路子——它不逐 token 生成文本,而是在一次前向传播里直接给出答案,所以延迟能压得特别低。

先看硬指标。d1-3B 在 Decision Index 0.2.1 上拿到 48.57 分,是 10B 以下最好的决策模型,超过了所有 4B 和 9B 的对手,也压过了 35B-A3B 的 Decider(47.11)。这个结果说明在决策任务上,参数规模不是唯一变量,架构和训练目标可能更关键。多模态支持是另一个看点。d1-3B 能吃文本加图像,d1-omni-600M 则支持文本加图像或文本加音频,覆盖了更轻量的传感输入场景。速度方面,d1-3B 在 NVIDIA Jetson AGX Thor 上单次回答只要 16 毫秒,Jetson AGX Orin 上 26 毫秒,Orin Nano 上 50 毫秒,基本是实时响应的水平。这两个模型都基于 Liquid 的 LFM 底座,训练思路延续了他们在边缘侧的一贯定位。对做机器人、工业质检或者可穿戴设备的人来说,这种「一次前向出决策」的形态比跑一个生成式大模型再解析输出要省事得多,延迟和功耗都更可控。我的判断是,决策模型开源会慢慢把边缘 AI 的竞争从「能不能跑」推向「跑得多快多准」。d1-3B 的分数和延迟组合目前看很有竞争力,但生态和工具链能不能跟上,才是决定它会不会被真正用起来的关键。
2

评论

登录后即可发表评论

参与讨论,和出海同行交流想法与经验

还没有评论,来抢沙发吧

说说你的看法,第一条评论最显眼