Mistral Large 4 先别急着接 agent——官方说 1M 上下文，你实际能调到的只有 512K

lipengfei634626165@163.com (lpflpf) — Thu, 08 Oct 2026 08:30:00 +0800

10 月 6 日 Mistral 发了新旗舰 Large 4，内部昵称 le Chonk。发布页的卖点很整齐：开放权重、1 万亿参数、1M 上下文、“显著超越欧美所有开源模型”。如果你正在维护一个跑在现有模型上的 agent 或代码助手，看完的第一反应大概是——既便宜又强，是不是该换了。

先别动。这篇把官方口径和你今天实际能拿到的东西之间的四处落差摊开：上下文是 512K 不是 1M、预览期没有权重可下、价格有两张脸、跑分漂亮不等于能塞进 agent 循环。适用对象：正在评估是否把 agent / 长文档 RAG 迁到 ML4 的 Golang / 后端 / AI 工程师。

「1M 上下文」是官网自己的两种写法，能调到的那个是 512K

同一家公司的两页文档，给了两个数。Mistral docs 的模型卡上，Context 一栏写的是 1M；而 OpenRouter 的模型页和第三方评测站 Vals AI 的字段都是 524,288（512K），输出上限 262,144。发布博客里的原话是 “frontier performance”，没给 token 数。

这不是笔误级别的分歧——它直接决定你的架构。一个需要把整本技术手册塞进单次请求的 RAG，按 1M 设计就是能过，按 512K 设计就要先做分片；一个多轮 agent 循环，512K 意味着大约跑到一半就得开始考虑压缩历史。

四处落差：上下文 1M 对 512K、开放权重对预览期无权重、折扣价对常态价、自报跑分对第三方横向排名。数据来源：Mistral docs 模型卡、OpenRouter、Vals AI，2026-10-08 访问

按能调用的 API 参数来算，把 ML4 当"1M 上下文模型"立项，是个会中途返工的假设。选型时以模型卡下方的参数、而不是页面顶部的宣传 tagline 为准。

预览期没有可以下载的权重，数据主权团队现在只能等

“Open-weight” 是这场发布最响的词，也是今天最用不上的词。发布博客写得清楚：这是 public preview（v26.10），今天能在 Mistral Studio 上试 API，权重本月底才放（多家媒体引 Reuters 的口径指向 10 月 27 日前后，官方博客只给"月底"）。预览期他们还拉着网络安全客户和政府机构做红队测试，给的是降低审核、放开 cyber 能力的同一个模型。

对绝大多数团队，这不是问题：调 API 就行。但如果你的立项理由里有一条是"数据不出内网"“上线前要能在自己机器上跑一遍安全评估”——那这条理由今天不成立，最快也要等到月底，而且要注意的是，权重放出来时架构细节、更多 benchmark 和后训练方法也会一并公布，届时才是真正的验收时点。

OpenRouter 给这个模型的许可标注甚至不是 open-weight，它当前的托管属性是专有的。这不是矛盾，只是提醒一句：“承诺开放权重"和"现在能自部署"是两件事，中间隔着一个月。

价格有两张脸：$1.36/$4.18 是常态，$0.68/$2.09 是折扣价

Mistral docs 的价格栏同时列了两组数——输入 $1.36 / 输出 $4.18 / 缓存读 $0.14（每百万 token），旁边一列是 $0.68 / $2.09 / $0.07。OpenRouter 那边直接标了 “50% off”。

也就是说，打折那一档是限时状态，不是定价。用折扣价立项，等于把一个临时状态写进你的单位成本模型——三个月后折扣结束，你的成本表直接翻倍，而这时候代码已经上线了。

财务上稳妥的做法只有一种：用 $1.36 / $4.18 这一档算上界。举个可核对的例子：某任务每轮输入 40 万 token、输出 2 万 token，按常态价一轮就是 0.4 × 1.36 + 0.02 × 4.18 ≈ $0.63，折后约 $0.32——这个数字是照着官方价目表算的推演，不是实测。差价看着不大，但 agent 循环跑十轮、每天几千次调用，量级就出来了。真要压成本，关键在缓存读（$0.14）能不能命中，而不是赌折扣还在不在。

跑分漂亮，但第三方排名和厂商自报差着一个量级

发布页给了六张 benchmark 图，成绩很漂亮：Cybench 93%、Cyber Index 单测 82%、DeepSWE 61.7%。这些都是厂商自报。第三方评测站 Vals AI 把它放进 44 个模型里排，结果是 第 32 名（Quad Index 48.05%）；Terminal-Bench 4.0 一项 Vals 记的是 22.73%，20/44，发布页给的是 28.3%。唯一站得住脚的高位是 Harvey 法律 Agent benchmark，第 6/75。

两个数都是真的，只是它们量的不是同一件事。厂商给的是精挑过的单项（它最强的那几项），第三方给的是横向可比的口径。发布页还有一句"显著超越任何美国或欧洲开发的开源权重模型”——按 Vals 的横向排名，这句话在综合口径上很难成立。

真正需要警惕的是接下来的信号。多篇上手报道提到，把 ML4 接进 OpenCode 这类 agent harness 时，推理 token 会跑飞、快速耗干上下文，而且不报错。这是媒体报道和用户反馈，Mistral 官方没确认，所以别当成定论；但它和你本来就要防的风险指向同一处——1T 参数的推理模型，输出里混着大量看不见的思考 token，长循环下最先耗尽的不是钱而是上下文窗口。

迁移前先跑一遍这张四行验收表，再接流量

把上面四处落差收敛成一张能在半天内跑完的清单。任何一项没过，都不要切生产流量。

每任务 token 中位数：拿你现有模型跑同一个真实任务集，记录单任务的输入/输出 token 中位数。这是你算成本上界和判断上下文够不够的唯一依据。ML4 的推理 token 藏在输出里，务必按 usage 里的 output 数取，不要按界面看到的回答长度估。
上下文耗尽率：统计有多少任务的实际用量逼近 512K。超过 20% 的任务顶到上限，说明这个模型不适合你这条链路，换更长的上下文模型或先做历史压缩。
工具调用成功率：ML4 支持 tools / tool_choice 和 response_format 的 JSON schema 结构化输出，但结构化输出的合规率要在你的 schema 上实测——尤其在多轮里，一次格式漂移就会让整条流水线返工。
缓存命中后的真实单价：缓存读 $0.14 和输入 $1.36 差近十倍，但只有前缀稳定才命中。把你实际的命中率乘进去，算出真实单价，再和现有模型比。

接入本身不难，它是 OpenAI 兼容口径：换 base URL，模型 slug 用 mistral-large-4-0。但顺手要加三道硬约束，否则高上下文模型的默认行为会让你在账单和上下文两边同时失控——给每次调用设 max_tokens、设请求超时、并在 agent 循环上挂一个 token 熔断（跑到 N 万 token 就中断）。

最后是三类不该切的情况，说在前面：要满足数据主权、坚持本地自部署的——本月不行；单次任务真的需要超过 512K 上下文的——这个模型给不了；日常只是一批低延迟的小请求（分类、抽取、短问答）——1T 的 MoE 在这个场景下不如 Small 系列，为用不上的上下文付溢价不划算。