Mistral Large 4 发布：1T 参数 MoE 模型

Mistral 刚发布了 Large 4，内部代号 Le Chonk，一个多模态多语言 MoE 模型。总参数约 1T，激活参数 49B，上下文窗口直接拉到 1M token，支持文本和图像输入、文本输出。这个规格放在开源阵营里相当激进，尤其是 1M 上下文，基本是冲着长文档和代码库级场景去的。

官方给了两个变体，FP8 版本先发，对部署成本敏感的小团队算是个好消息。推理侧支持 Transformers、vLLM 和 Llama.cpp，微调走 TRL，还有 Inference Endpoints 和 Dell Enterprise Hub 这类托管路径。从工具链覆盖看，Mistral 这次是想让开发者从本地到云端都能跑起来，而不是只发个权重了事。我比较在意的是 49B 激活参数这个设计。MoE 架构下，推理时只激活一小部分专家，理论上能在保持大模型能力的同时压住延迟和算力开销。但 1T 总参数意味着显存占用依然不低，FP8 量化是必须的，普通消费级显卡基本别想单卡跑。对做跨境工具类产品的团队来说，更现实的路径可能是走 API 或端点托管，而不是自己部署。多语言和视觉能力对出海业务挺对口，比如商品图理解、多语种客服、长合同解析这些场景。不过官方博客里 benchmark 部分信息有限，实际效果还得等社区实测。我的判断是，Mistral 在开源权重这条路上越走越稳，但生态配套和中文场景的调优，跟头部闭源模型比仍有差距。如果你在选型，建议先拿自己的业务数据跑一轮小规模对比，别只看参数表。1M 上下文很香，但成本和延迟才是落地时真正卡脖子的地方。