跳转到主要内容

MiniCPM-V 4.7 在你的手机上运行——无需云端

明唐智能的 MiniCPM-V 4.7 将大型 AI 带入小型设备

想象一下，直接在智能手机上运行强大的多模态 AI 模型——无需云连接，数据不会离开你的设备。这正是明唐智能通过 MiniCPM-V 4.7 实现的，这是今天宣布的新一代边缘侧模型。

该系列包括两个版本：35B-A3B 和 1B。35B-A3B 是 MiniCPM-V 系列中首个 MoE（混合专家）模型。得益于一项名为“前瞻性专家调度”的巧妙新技术，它成为首个在边缘设备上无损且流畅运行的开源 MoE。

Image

令人瞩目的性能

真正引人注目的数字是：在 iPhone 17 Pro Max 上，该模型仅占用 3GB 内存，解码速度达到 每秒 13+ 个 token。这意味着你的手机可以在本地处理多模态推理——保持数据私密并减少延迟。不再需要等待云端响应。

广泛的兼容性和简便的微调

4.7 版本适用于 iOS、Android 和 HarmonyOS，并支持英特尔、AMD、Arm、瑞芯微和环磨的芯片。因此，无论你使用的是手机还是本地计算机，都能得到支持。

明唐还发布了 自回放微调（SRFT） 解决方案。这有助于开发者以更低的成本扩展模型能力，同时抑制遗忘——使二次开发更加便捷。

性能对比

性能比较令人印象深刻。在 Instruct 模式下，35B-A3B 在更短的推理时间和更高的总体得分上击败了 Qwen3.6 35B-A3B。1B 版本比之前的 4.6 有所改进，在总体得分和推理效率上均明显优于 Qwen3.5 0.8B。

随着边缘侧模型变得越来越小，竞争日益激烈，明唐的最新发布进一步降低了在智能手机上本地运行大型 MoE 模型的门槛。

要点

  • MiniCPM-V 4.7 有两种尺寸：35B-A3B 和 1B。
  • 35B-A3B 是首个在边缘设备上无损运行的开源 MoE，得益于“前瞻性专家调度”。
  • 在 iPhone 17 Pro Max 上，它仅使用 3GB 内存，并达到 每秒 13+ 个 token。
  • 支持 iOS、Android、HarmonyOS 及主要芯片平台。
  • SRFT 微调解决方案 已开源，便于开发。
  • 在速度和总体得分上优于 Qwen 的同类模型。