跳转到主要内容

Mistral AI的数学工具:119B参数,仅6B激活,成本仅为对手的1%

欧洲AI公司Mistral AI发布了Leanstral 1.5,这是一个专门使用Lean4编程语言进行形式化数学证明的模型。该模型总共有1190亿个参数,但关键在于:在实际推理过程中,它只激活了其中的60亿个。这就像拥有一个巨大的图书馆,但只拿出你需要的书。而且它完全在Apache-2.0许可下开源。

Image

在核心基准测试中,Leanstral 1.5取得了近乎完美的结果。它在miniF2F形式化数学基准的验证集和测试集上都获得了100%的满分。在PutnamBench数学竞赛中,它解决了672个Lean4问题中的587个。在抽象代数的FATE系列基准测试中,它在硕士级别(FATE-H)达到了87%,在博士级别(FATE-X)达到了34%——均为同类最佳。

成本:仅为竞争对手的1%

但真正令人震惊的是成本。在PutnamBench上,Leanstral 1.5平均每个问题仅需4美元。相比之下,字节跳动的Seed-Prover 1.5每个问题成本超过300美元,而Aleph Prover为54-68美元。这相当于推理成本降低了99%,使得大规模形式化数学证明在经济上变得可行。

实际影响

Leanstral 1.5不仅仅是一个实验室实验。在实际测试中,它扫描了57个代码仓库,识别出47个违规属性。其中,11个指向真实的代码缺陷,5个是GitHub上从未报告过的全新问题。从数学竞赛到软件验证,该模型证明了参数大小并非一切——高效的激活才是将AI推理带入现实世界的关键。

关键点

  • 模型: Leanstral 1.5,专为Lean4形式化证明设计。
  • 参数: 总计119B,推理时仅激活6B。
  • 性能: miniF2F上100%,PutnamBench上587/672,FATE基准测试中最高分。
  • 成本: 每个问题约4美元,而竞争对手超过300美元。
  • 开源: 在Apache-2.0下发布。
  • 实际应用: 发现11个真实代码缺陷,其中5个此前未知。