星光澄海 | BLOG

Mistral发布ML4(Le Chonk):1.05T多模态MoE模型

10月6号,Mistral AI推出了名叫Le Chonk的Mistral Large 4(ML4)公开预览版。它是混合指令与推理的多模态MoE模型,总参数1.05万亿,单token激活490亿,100万token上下文窗口,用自家欧盟数据中心的3800块NVIDIA Grace Blackwell GPU从头训练。

核心架构:万亿级MoE的性价比玄机
ML4的设计围绕“降低成本”做了巧劲。单token仅激活4.7%的权重,所以1万亿级参数的模型,能以中端定价跑起来——全量1.05万亿参数仍占内存,但激活数决定算力,不用为冗余参数买单。它还带16亿参数的视觉编码器,原生支持图像输入;训练数据覆盖160多种语言,包含所有欧盟官方语种。目前专家总数、路由规则这些细节还没公开,要等10月底权重上线才知道。

性能: cybersecurity破局,编码与安全有硬表现
性能上最扎眼的是 cybersecurity 赛道:Cybench拿93分,CyberGym-E2E拿82分,挤入全球前5的人工分析网络指数。有意思的是,Mistral披露不少闭架大模型在CyberGym-E2E上得分接近0——因为它们拒绝做“复现漏洞”这类防御性工作,这恰是企业安全的刚需。编码能力方面,DeepSWE v1.1得61.7分,SWE-Atlas-QnA得59.4分,Terminal-Bench得28.3分,综合编码指数49.8分。Surge AI的盲评更真实:专业标注员给ML4预览版打3.74/5,排5个模型里的第二,比GLM5.3(3.6)、Kimi K3(3.59)高,只比Claude Opus的4.22稍低。安全上,它能抗Lakera B3上93.3%的攻击,KORABench拿1.691(满分2)。

当前能用啥,以及给行业的小冲击
现在ML4的预览API已经上线,输入每百万token1.36美元,输出4.18美元,和竞品Kimi K3的价格接近,但总参数只有它的三分之一。它支持函数调用、结构化输出、文档问答、批量处理,还有Agent和对话端点;缓存输入每百万token仅0.14美元,对100万上下文的Agent循环很友好。不过权重要10月底才上线,现在还没法自我部署。
这波发布最值得想的是:闭源模型不愿碰防御性任务的痛点,ML4戳中了,但它的权重要等一个月才放,这期间会不会有其他开源玩家补位?


素材来源:MarkTechPost · AI情报、大模型、AI芯片与算力、开源生态
查看报道原文

发表第一条评论吧

支持 Markdown