Mistral Large 4 发布:万亿参数之外,自主部署还差什么?

Mistral Large 4: Open Weights, Not Yet Open Deployment

10 月 6 日,Mistral 发布了 Mistral Large 4(ML4)的公开预览。最容易成为标题的是“万亿参数”,但对准备接入模型的开发者,更重要的是公告里的另一句话:API 现在可以试用,权重要等到月底才计划发布。官方公告与TechCrunch 当日报道都明确区分了这两个阶段。

这不是文字游戏。能调用一个模型、能下载它的权重、能在自己的基础设施里稳定运行它,是三件不同的事。我的判断是:ML4 值得进入企业的候选清单,但这次发布首先增加的是一个可评估的 API 选项,还没有交付完整的自主部署能力。

先把“已经发布”说准确

根据 Mistral 的公告,ML4 是原生多模态模型,采用稀疏混合专家架构。公开预览运行在 Mistral 自有的欧洲基础设施上。公司计划在月底发布权重,此前与经过筛选的合作伙伴和有关机构开展红队测试;这些伙伴获得的模型具有较少的内容限制和更扩展的网络安全能力。来源

这里至少有三条边界:公开 API 与受邀测试不是同一套访问条件;未来权重开放不等于今天已经能够本地部署;“开放权重”也不自动回答许可证允许什么。商业使用、再分发、衍生模型以及部署要求,都应在最终发布材料中逐项核查。

参数也不宜抄一个数字就结束。截至本次检索,官方发布文章写的是 1 万亿总参数、490 亿激活参数;官方模型文档却列出 1.05 万亿总参数、520 亿激活参数,以及 16 亿参数的视觉编码器。两份一手资料的口径并不一致,现有材料不足以解释差异,不能擅自把它归因于视觉模块或版本升级。

这提醒我们:预览期的规格应连同来源、日期和具体端点一起记录,而不是变成采购表里永远不再更新的一行。

稀疏激活,为什么不等于“小机器也能跑”

混合专家模型的价值,在于处理一个 token 时只调用部分专家,而非让所有参数都参与计算。因此,激活参数量有助于理解单步计算需求,却不能直接当作整个部署的显存需求。

权重仍需要被存放,并按具体推理实现进行分片、加载或调度。实际系统还要容纳 KV 缓存、运行时缓冲区,并承担跨设备通信。量化、批处理和并行策略会改变成本,长上下文及并发又会把部分节省吃回来。

所以,“总参数大、激活参数少”可以成为研究推理效率的起点,但不能直接推出自部署比 API 便宜。本次公开材料也不足以给出可靠的最低 GPU 数量。没有确定的权重格式、量化方案和吞吐目标,报一套硬件配置只是制造确定性的幻觉。

Mistral 称模型在自有欧洲数据中心使用 3,800 张 NVIDIA Grace Blackwell GPU 从头训练。来源这能说明其披露的基础设施规模,却不是完整的训练成本账单:训练时长、利用率、失败实验与数据投入仍会影响总成本,更不能据此推算用户的推理费用。

From API access to deployment control: three conditional stages

概念图:从 API 评估到权重交付,再到生产自部署,需要跨越不同的验证环节;虚线不代表这些阶段已经完成。

真正有价值的是专长,不是一个总冠军称号

Mistral 把网络安全、金融、法律和视觉定位作为重点。公告列出 DeepSWE v1.1 的 61.7%、Terminal-Bench 4 的 28.3% 等成绩。这些数字应明确视为厂商发布的评测结果,不能改写成本文复现的结论。来源

独立评测提供了另一种观察角度。Artificial Analysis 的模型页面在检索时列出的 Intelligence Index 分数为 38,并将当前预览版归入权重尚未公开的模型。该分数是其评测体系下的综合指标,不是“38% 的任务都能完成”,也不能与某个单项基准的百分比直接比较。

两类证据并不必然矛盾。一个模型可以在特定专业任务上突出,同时没有在通用综合指标上获得压倒性优势。企业需要的也未必是综合榜第一,而是能在自己的资料、工具和审批链中稳定完成任务的模型。

例如,一个假设中的合同审查流程,可以让模型读取合同和内部政策,定位冲突条款,并给出可追溯出处。评估时要看的不只是回答是否流畅,还包括引用是否真实、关键条件是否遗漏,以及无法判断时是否承认不确定。金融表格同理:写出解释和正确修改公式,是两种验收标准。

ML4 的多模态能力也要准确理解。Artificial Analysis 列出的范围是文本和图像输入、文本输出;这不等于一个同时生成图像、语音和视频的统一接口。来源

网络安全高分,可能混合了能力与拒绝策略

这次最值得细读的,是 Mistral 对网络安全评测的解释。公司称,在一项要求复现真实漏洞并修补的测试中,ML4 达到 82%;一些闭源模型得分接近零,原因是拒绝执行相关任务。来源

如果这个解释成立,分数差距就同时包含技术能力和策略差异:模型会不会做,与服务提供方允不允许它做,被压进了同一个结果。不能把它直接翻译成“漏洞修复能力领先同样幅度”。此外,这里的数据和归因来自厂商公告,本文没有独立复现该项实验。

但企业的实际痛点确实存在。合法防御工作有时需要验证漏洞是否真实;一概拒绝可能打断调查。反过来,减少拒绝也不自动等于更适合生产,更不等于更安全。

因此,我建议把能力测试与权限治理分开。模型可在隔离环境里分析经过授权的材料,但扫描外部资产、执行危险命令、修改生产配置等动作,应由系统层面的范围约束和审批控制。日志、回放、凭证隔离与人工接管,不应因为模型评测分数提高就被省略。

权重开放之后,这些责任不会消失,只会有更多部分转移给部署方。

价格表之外,还要计算完成任务的代价

发布公告和 Artificial Analysis 页面均列出每百万输入 token 1.36 美元、输出 token 4.18 美元的价格。官方来源|独立页面

与此同时,模型文档展示了多组价格值。本文不据此推定所有调用都能获得折扣;实际预算应以所选端点、计费模式和账户账单为准。模型文档

做一个明确标注的假设:若某项任务累计输入 10 万 token、输出 2 万 token,按上面的未缓存单价,纯 token 费用约为 0.2196 美元。这是算术示例,不是 ML4 的实测任务成本;它没有计入工具服务、失败重试、人工复核和基础设施。

更有用的指标是“每个通过验收的任务总成本”。一次便宜的调用如果要重试多轮,再交给人重新核查,未必胜过单价更高、但一次通过的方案。

上下文也存在待核对口径:官方模型文档显示 1M,Artificial Analysis 的技术规格显示约 524k。两者差异尚未解释,不宜在生产设计里把较大的数字当作所有端点的保证,更不能把上下文容量直接当成准确处理同等长度文件的能力。官方文档|独立页面

现在该做的,是把试用变成可退出的实验

对开发团队,我更倾向于四个动作。

第一,选取有明确验收标准的真实任务,并保留失败样例。不要只收集漂亮回答。对涉及代码修改的任务,验证测试、需求满足和副作用;对文档任务,验证引用、遗漏和格式。

第二,固定调用条件。记录模型标识、日期、推理预算、工具权限及提示模板。预览期结果不能无条件外推到月底版本。

第三,将数据驻留、模型能力与运维责任分别评审。欧洲托管可以是合规讨论的一部分,却不等于客户已掌握部署控制,也不自动满足所有法域和行业要求。

第四,把权重发布作为单独的决策门槛。等许可证、文件、推理支持和实际容量测试齐备,再讨论迁移。适配层应避免把业务逻辑绑死在某个预览端点上,并保留回退路径。

迁移还有一个常被遗漏的验收条件:出问题时能否退回旧方案。接口兼容不代表输出格式、工具调用顺序和错误行为完全相同。应提前准备回归样例与流量切换机制,让模型更新成为可撤回的工程变更,而不是一次不可逆的押注。

ML4 的意义不在于用一个“万亿”数字结束模型竞争,而在于让性能、服务可控性与未来部署选择被放在同一张桌上比较。今天可以做评估,月底是否值得做迁移,要由届时交付的证据回答。

本文为作者基于公开资料的分析与观点,仅供参考,不构成采购或部署承诺。

参考资料与相关链接

评论