边缘端决策模型开源了

今天刷到 LiquidAI 开源了两个决策模型,d1-3B 和 d1-omni-600M,都是冲着边缘设备去的。最让我意外的是 d1-3B 在 Decision Index 0.2.1 上拿了 48.57 分,把一堆 4B、9B 模型都甩在后面,甚至超过了 35B 的 Decider。这说明决策任务和生成任务完全是两码事,参数规模不是唯一变量。

决策模型和常见的生成模型有个本质区别:它不逐 token 输出,而是一次前向传播直接给出答案。这个设计思路很关键,因为边缘场景最怕的就是延迟和功耗,逐 token 生成在端侧基本没法用。d1-3B 在 Jetson AGX Thor 上跑一个问题是 16 毫秒,Orin 上 26 毫秒,Orin Nano 上 50 毫秒,这个速度放在机器人或者工业质检场景里已经能用了。多模态支持也分了两档:d1-3B 吃文本加图像,d1-omni-600M 更灵活,可以文本加图像,也可以文本加音频。600M 这个体量基本就是给内存和算力都吃紧的设备准备的,比如智能家居中控或者可穿戴设备。不过官方把它标成 experimental,说明稳定性和泛化能力还得再观察,不建议直接上生产环境。从行业角度看,这波开源释放了一个信号:边缘 AI 的竞争正在从「能不能跑大模型」转向「能不能在端侧做实时决策」。之前大家卷的是端侧推理框架和量化,现在有人开始卷决策专用架构了。LiquidAI 拿自家 LFM 做底座,等于把生成和决策两条线拆开,这个路线值不值得跟,得看后续社区微调和实际部署的反馈。我的判断是,d1-3B 适合做原型验证,尤其是那些需要视觉加文本联合判断的场景,比如分拣、巡检、辅助驾驶的轻量感知。但真要落地,还得解决模型输出可解释性和边界情况处理的问题,毕竟决策模型给的是一个答案,不像生成模型能给你推理过程。
2

评论

登录后即可发表评论

参与讨论,和出海同行交流想法与经验

还没有评论,来抢沙发吧

说说你的看法,第一条评论最显眼