Mistral Large 4 发布,1T 参数开源|出海闲聊
出海闲聊 · 帖子

Mistral Large 4 发布,1T 参数开源

Mistral Large 4 发布,1T 参数开源
Mistral 刚放出了 Large 4,内部代号 Le Chonk,一个多模态、多语言的 MoE 模型。总参数约 1T,激活 49B,上下文窗口直接拉到 1M tokens,输入支持文本和图像,输出是文本。官方给了 FP8 等两种变体,权重也挂上了 GitHub。

这个规格放在今天不算意外,但结合 Mistral 一贯的路线看,信号很明确:欧洲厂商在开源权重这条路上继续加码,而且开始把「超大 MoE + 长上下文 + 多模态」当成标配来打。1M 上下文对做跨境文档处理、多语言客服知识库的团队来说,实际价值比跑分更值得关注。我比较在意的是它的网络安全能力被单独拎出来讲。这说明 Mistral 在往企业级合规场景靠,尤其是需要本地部署、数据不出境的客户。对出海团队而言,如果模型能私有化跑在自己的云上,配合长上下文做合同审查、多语种内容审核,会比纯 API 方案更有吸引力。当然,1T 总参数意味着推理成本不会低,49B 激活算是缓解了一部分,但真要落地还是得看量化版本和 vLLM、Llama.cpp 这些推理栈的支持成熟度。官方同步给了 TRL 微调支持和 Inference Endpoints,生态配套算是跟上了,不过实际吞吐和延迟还得等社区实测。我的判断是:别急着 all in,先拿它和现有的主力模型在自家业务语料上做一轮对比,重点看长文档召回和多语言一致性。如果这两项能打,再考虑把部分链路迁过去;如果只是跑分好看,那对多数中小出海团队来说,继续用成熟方案更划算。
24

评论

登录后即可发表评论

参与讨论,和出海同行交流想法与经验

还没有评论,来抢沙发吧

说说你的看法,第一条评论最显眼