Mistral Large 4 发布,1T MoE 加百万上下文|出海闲聊
出海闲聊 · 帖子

Mistral Large 4 发布,1T MoE 加百万上下文

Mistral Large 4 发布,1T MoE 加百万上下文
Mistral 刚放出了 Large 4,内部代号 Le Chonk,一个多模态、多语言的 MoE 模型。总参数约 1T,激活 49B,上下文窗口直接拉到 1M token,输入支持文本和图像。这个规格放在当下第一梯队里不算意外,但结合 Mistral 一贯的开源姿态,值得跨境团队认真看一眼。

官方给了两个变体,其中一个明确是 FP8 精度发布,明显是冲着推理成本和部署便利去的。1T 总参但只激活 49B,意味着单次推理的算力压力比稠密大模型小得多,对做多语言客服、文档理解这类场景的团队来说,性价比可能比追最大参数更实际。我比较在意的是它的多语言和图像输入组合。跨境业务里大量素材是带图的产品页、发票、聊天截图,纯文本模型处理起来总要外挂 OCR,链路一长错误就叠加。原生多模态如果能稳定吃图,很多中间层可以砍掉。当然,1M 上下文听着爽,实际用起来要看长文检索的召回质量,别被窗口数字带偏。另外 FP8 变体在消费级卡上的兼容性、vLLM 和 llama.cpp 的支持成熟度,都得等社区跑一轮真实负载才知道。我的判断是:这代模型更适合已经有多语言图像处理需求的团队做小范围替换测试,而不是一上来就全量迁移。先拿自己的业务数据跑一轮对比,再决定要不要押注。
18

评论

登录后即可发表评论

参与讨论,和出海同行交流想法与经验

还没有评论,来抢沙发吧

说说你的看法,第一条评论最显眼