Mistral Large 4 发布,1T MoE 开源
Mistral 刚放出了 Large 4,内部代号 Le Chonk,一个多模态、多语言的 MoE 模型。总参数约 1T,激活 49B,上下文窗口直接拉到 1M token,输入支持文本和图像。这个规格放在开源阵营里相当激进,尤其 1M 上下文和 1T 总参数同时出现,明显是冲着长文档、多图推理这类企业场景去的。
官方发了两个变体,其中一个走 FP8 精度,推理侧支持 Transformers、vLLM 和 Llama.cpp,微调接 TRL,另外还上了 Inference Endpoints 和 Dell Enterprise Hub。对做跨境工具链的团队来说,这套组合意味着从本地验证到云端部署的路径比较顺,不用为了跑模型再单独搭一套工程。我比较在意的是它强调的网络安全能力。Mistral 这次把安全相关能力单独拎出来讲,说明欧洲客户对合规和可控性的诉求在倒逼模型设计。做跨境业务时,数据出境和内容审核是绕不开的坎,一个能在私有环境里跑、又带安全对齐的多模态模型,对做欧洲市场的团队有实际吸引力。当然,1T 总参数不等于好用。MoE 的激活参数只有 49B,实际推理成本和延迟要看路由效率,1M 上下文在真实长文档上的召回率也得等社区实测。我的判断是,先别急着替换主力模型,拿自己的业务语料做一轮对比,重点看多语言和图像理解这两块是否真的比现有方案稳。整体看,Mistral 这步棋是在开源和商业之间找平衡:规格给足,部署路径铺好,安全叙事跟上。对出海团队来说,多一个可私有化部署的多模态选项总是好事,但选型还是要回到具体任务和成本上,别被参数规模带节奏。
官方发了两个变体,其中一个走 FP8 精度,推理侧支持 Transformers、vLLM 和 Llama.cpp,微调接 TRL,另外还上了 Inference Endpoints 和 Dell Enterprise Hub。对做跨境工具链的团队来说,这套组合意味着从本地验证到云端部署的路径比较顺,不用为了跑模型再单独搭一套工程。我比较在意的是它强调的网络安全能力。Mistral 这次把安全相关能力单独拎出来讲,说明欧洲客户对合规和可控性的诉求在倒逼模型设计。做跨境业务时,数据出境和内容审核是绕不开的坎,一个能在私有环境里跑、又带安全对齐的多模态模型,对做欧洲市场的团队有实际吸引力。当然,1T 总参数不等于好用。MoE 的激活参数只有 49B,实际推理成本和延迟要看路由效率,1M 上下文在真实长文档上的召回率也得等社区实测。我的判断是,先别急着替换主力模型,拿自己的业务语料做一轮对比,重点看多语言和图像理解这两块是否真的比现有方案稳。整体看,Mistral 这步棋是在开源和商业之间找平衡:规格给足,部署路径铺好,安全叙事跟上。对出海团队来说,多一个可私有化部署的多模态选项总是好事,但选型还是要回到具体任务和成本上,别被参数规模带节奏。
评论
登录后即可发表评论
参与讨论,和出海同行交流想法与经验
还没有评论,来抢沙发吧
说说你的看法,第一条评论最显眼