post cover

AI 热点快报:Mistral 放出 1.1 万亿参数权重,但最强开源模型仍不是它(2026-10-30)


事件与背景

10 月 29 日,Mistral 把 Mistral Large 4(社区绰号 Le Chonk)的模型权重真正放了出来。这条在 Hacker News 首页拿到 779 分、208 条评论,是当天讨论量最高的技术贴。

要注意时间线:这款模型是 10 月 6 日发布的,当时官方说法是「计划开放权重」;今天兑现的是权重本身,不是又一次能力发布。规格上它是一万亿参数级的稀疏专家模型:1.1T 总参数、52B 激活参数(含 embedding 与输出层),1M token 上下文,支持文本与图像输入、只输出文本,提供 low / medium / high 三档 reasoning effort。许可不是 Apache-2.0 或 MIT,而是 Mistral Ecosystem Open-Weight License;Artificial Analysis 的 FAQ 对此的表述是「商用被允许,但带限制」。

真正决定它能不能落地的,是量化生态。Unsloth 拿到了 day-0 访问权,同步放出了 Dynamic GGUF,并给出了一张很硬的内存表:1-bit 约 233GB、2-bit 310–390GB、3-bit 435–500GB、4-bit 630GB、8-bit 1.2TB。换句话说,最小的可用形态也要 256GB 级统一内存——一台顶配 Mac Studio,或两台 NVIDIA DGX Spark。压缩代价也算得清楚:UD-IQ1_S(233GB)相对 FP8 保留 90.6% 的 top-1 一致率,UD-Q2_K_XL(378GB)95.6%,UD-Q4_K_XL(605GB)97.8%。

但把分数摆到同一张表上,画风就变了。Artificial Analysis Intelligence Index v5.0 里,Mistral Large 4 (high) 是 26 分,在该站「同尺寸开放权重模型」中位数 23 分之上,属于「中上」;可开放权重阵营目前的头部是 DeepSeek V4.1 Flash 1017 (Max) 与 GLM-5.3 (Max) 的 32 分,MiMo-V2.6-Pro 30 分。榜首仍是闭源的 Gemini 4 Carbon(59 分)。价格侧:Mistral Large 4 每百万 token 输入 $0.70、输出 $2.10,每完成一个 Intelligence Index 任务加权成本 $2.06,约是 DeepSeek V4.1 Flash($0.60)的 3.4 倍;速度 161.3 tok/s、首 token 1.42 秒,这两项确实快,目前只有 Mistral 自家一个 API 提供方。

需要说明一处信息缺口:mistral.ai 官方公告页在本机网络不可达(DNS 解析到 2a03:2880:...:face:b00c,连接直接超时;news.ycombinator.com 同样超时,VentureBeat 返回 429)。因此本文没有引用官方原文措辞,全部事实来自下面两个可访问、可复核的页面,以及 Artificial Analysis 的排行榜。许可条款的具体约束(再分发、微调产物归属、命名限制)我没有拿到原文,下文按「未核实」处理。

来源:

为什么现在重要

1. 「万亿参数」第一次越过了开放权重这条线,但它换来的是象征意义而非领先。 此前开放权重的主力集中在 100B–400B 量级,1.1T/52B 激活的 MoE 被放出来,意味着「前沿规模架构」不再是闭源专属。但同一张榜上它比中国开源模型低 6 分。判断:开放权重的竞争已经从「有没有」进入「放了值不值」,把「参数量」当卖点的时代结束了。

2. 自托管的门槛被量化成了内存数字,而不是「GPU 数量」。 233GB 的 1-bit 形态能塞进 256GB 统一内存的机器,这是历史上第一次让「单机跑万亿级 MoE」在物理上成立;代价是 10% 左右的 top-1 精度损失,而 95% 以上精度要 378GB 起。判断:评估自托管时先列内存预算表,再谈模型选型;先看 1-bit 能不能过你的质量线。

3. 许可从「开源」退到「开放权重」,法务成为上线前置条件。 Mistral Ecosystem Open-Weight License 不是 OSI 认可的许可,第三方评测也只给出「商用允许但带限制」这一句概括。对要做商用产品的团队,这等于多了一道必须在写代码之前完成的核对。判断:任何以「开源」为名进入架构的方案,都该在 ADR 里写清楚许可名称,而不是写「开源模型」。

4. 真正的瓶颈正在从模型转向调度与互联。 SkyPilot 那篇分析给出了两个可用数字:NVL72 把 72 块 GPU 放进一个 NVLink 域,只有机架内作业能吃到这份带宽;Hugging Face 测到同样的训练任务从 NVLink 挪到 InfiniBand,吞吐掉 43%;而拓扑感知调度能让同一批机架多出 27% 可用 GPU。判断:自托管大 MoE 的性价比,取决于你的作业能不能留在 NVLink 域内,而不是你有多少张卡。

5. 1M 上下文 + 多模态输入 + 三档推理强度,把「本地长上下文 agent」变成可讨论的方案——但内存随上下文线性上涨。 Unsloth 明确写了长上下文需要更多内存,KV cache 与运行时缓冲都要额外留量。判断:如果产品依赖长文档或长会话,233GB 只是入场券,真实需求要按目标上下文长度重算。

工程师/产品人今天能做什么

  1. 先做一张内存对照表。 把 233GB / 378GB / 605GB / 1.1TB 四档写进表格,对照你手上机器的统一内存或显存总量,标出「跑不了 / 能跑但慢 / 舒服」三档。这一步能直接否掉 80% 的无效讨论。
  2. 用成本而不是分数重排候选。 同一张表里并列 Mistral Large 4(26 分、$2.06/任务)、DeepSeek V4.1 Flash(32 分、$0.60)、GLM-5.3(32 分、$5.01),再叠加许可与部署形态。你会看到「贵且弱」的组合并不罕见。
  3. 许可条款读原文之前不要开工。 至少确认四件事:商用范围、再分发权限、微调产物归属、是否要求署名或命名限制。拿不到原文就默认「受限」,别按 Apache-2.0 的假设做产品设计。
  4. 如果只是验证价值,先用 API。 单一提供方、$0.70/$2.10、1.42 秒首 token,比搭一套 256GB 机器便宜几个数量级。把自托管留到「API 已经证明 ROI」之后。
  5. 给量化做自己的回归集。 别信 90.6% 这种均值,拿你业务的 50–200 条真实样本跑 1-bit 与 FP8 对比,看错误集中在哪类任务上——通常掉的是长链推理和格式严格的结构化输出。
  6. 调度设计前置到部署方案里。 单机多卡优先,跨机只在同一 NVLink 域内组合;把「机架局部性」当成和显存一样的一等约束写进容量规划。

待观察

  1. 许可原文的具体约束。 官方站点本机不可达,「商用带限制」到底限制了哪几条,仍待拿到条款后逐条核对;这直接决定它能不能进商业产品。
  2. 26 分与 90.6% 能否被第三方复现。 目前分数来自单一评测机构,量化精度保留来自量化方自测,两者都缺独立复核。
  3. 会不会有跟进者。 如果其他实验室在数周内放出同量级权重,那「万亿级开放权重」就从事件变成常态,届时比较维度会彻底转向每任务成本与许可宽松度。