Mistral Large 4 开源：1T MoE 模型落地

Mistral 刚放出了 Large 4，内部代号 Le Chonk，这次直接开源了 FP8 权重。模型是 MoE 架构，总参数约 1T，激活 49B，上下文拉到 1M token，同时支持文本和图像输入。单看纸面规格，这是欧洲厂商第一次把万亿级 MoE 做到可下载，对做私有化部署的团队来说是个不小的信号。

我比较在意的是它的多语言和视觉编码器设计。官方把视觉塔单独拎出来讲，说明图文混合推理是这代的主打场景，而不是简单挂个 OCR 能力。结合 1M 上下文，做长文档理解、跨页表格抽取这类跨境业务里的脏活，理论上会比上一代顺手很多。推理侧的支持跟进得很快，Transformers、vLLM、Llama.cpp 都在首发名单里，TRL 也给了微调示例。这意味着你拿到权重当天就能跑通推理链路，不用等社区补适配。对中小团队来说，微调门槛比预训练低得多，49B 激活量在几张卡上做 LoRA 是现实的。当然，官方 benchmark 我一向只当参考。MoE 模型的实际表现很吃路由和量化精度，FP8 权重在消费级卡上的掉点情况还得等实测。另外 1M 上下文真正用满时的显存开销，官方没给细账，这块建议先小规模压测再上生产。我的判断是，这代模型对出海工具类产品影响最大：多语言客服、商品图理解、长合同审阅都能直接受益。但别急着全量替换，先拿自己的业务数据跑一轮对比，重点看小语种和图片密集场景的稳定性。开源权重给的是可能性，能不能转化成产品优势，还得看工程侧的调优功夫。