跳转到主要内容

Mistral的1万亿参数开源模型减少47%的令牌使用量

Mistral的1万亿参数开源模型减少47%的令牌使用量

欧洲AI初创公司Mistral将其最新旗舰模型Mistral Large4推向开源世界。代号为“Le Chonk”(没错,真的),这个巨兽拥有万亿参数,并在欧洲本土从头训练。这对开源AI来说意义重大,标志着万亿级模型不再是闭门特权。

令人瞩目的性能

那么,它的表现如何?在Cognition的FrontierCode2.0基准测试中(衡量端到端代码质量和维护者合并意愿),Mistral Large4得分为19.7%,跻身顶级开放权重模型之列。在Artificial Analysis的编码代理指数上,它达到了48%,基本与行业领先的GLM-5.3持平。

但关键在于:它在完成所有这些的同时还节省令牌。平均而言,它在每个编程任务上比竞争对手少用47%的令牌。在Terminal-Bench4.0测试中,其性能比预览版提升了13个百分点,达到41%,而输出令牌减少了30%。这就像得到一辆更快、更省油的跑车。对于关注AI账单的企业来说,这是一股清风。

三种推理模式:任君选择

Mistral知道并非每个任务都需要大锤。因此他们为开发者提供了三种推理模式——简单、中等和困难——以平衡性能和成本。经过额外三周的强化学习,模型的提升仍在加速,没有见顶的迹象。这就像一位不断改进食谱而不会撞墙的厨师。

不只是口头说说的安全性

在安全领域,Mistral Large4在Artificial Analysis网络指数上得分为51%,该指数测试漏洞发现和修补能力。其在越狱尝试和有害请求上的平均拒绝率达到96.6%,高于预览版的95%。该模型坚决拒绝对实时目标的黑盒攻击,但Mistral承认需要合法的防御和渗透测试。他们已向Orange Cyberdefense等精选网络安全合作伙伴开放预览访问,仅在严格合同和授权环境下进行。

生态系统与许可:开放但有防护

该模型得到了Booz Allen、Cisco、Cloudflare、CrowdStrike、Elastic和NVIDIA等重量级企业的支持。你可以从Hugging Face下载权重,并通过vLLM或SGLang自行部署。它也在Microsoft Foundry(首个列出的云提供商)、NVIDIA NIM容器和OpenRouter上提供。API定价?每百万输入令牌0.70美元,缓存输入0.07美元,输出2.10美元。还不错。

但许可证方面则有趣了。这是一个修改后的MIT许可证——Mistral生态系统开放权重许可证——允许你使用、修改、微调和商业部署。但是,如果你主要是一家模型即服务(MaaS)提供商,则需要单独的商业许可证。这既保持了开源社区的繁荣,又保护了Mistral自身的商业地盘。聪明的举动。

要点

  • 万亿参数开源模型,完全在欧洲基础设施上训练。
  • 每个编码任务平均减少47%的令牌,提升成本效益。
  • 三种推理模式,适用于简单、中等和复杂任务。
  • 强大的安全性:对有害提示的拒绝率达96.6%。
  • 修改后的MIT许可证,MaaS提供商需获得商业许可证。
  • API定价:每百万输入令牌0.70美元,每百万输出令牌2.10美元。

Mistral Large4不仅仅是另一个模型——它是一个宣言。开源AI正在迎头赶上,而且是以风格和节省的方式。无论你是开发者还是企业,这个模型都值得一看。