跳转到主要内容

Liquid AI全新模型将强大AI能力引入手机端

Liquid AI为边缘计算开启闸门

随着初创公司Liquid AI向开源社区发布LFM2.5-8B-A1B模型,这一举措可能重塑我们日常与AI的交互方式。这不仅是又一个大型语言模型——它专为智能手机到笔记本电脑等日常设备高效运行而设计。

更智能的技术,更小的体积

其奥秘在于稀疏混合专家(MoE)架构。虽然总参数量达83亿,但该模型每个任务仅使用约15亿参数——就像一支专家团队,只有相关专家才会介入。这一巧妙设计意味着您的手机无需超级计算机般的性能,即可提供复杂的AI响应。

Image

更长的记忆与更清晰的思考

LFM2.5不仅高效——还更智能。开发团队将其"记忆"扩展至处理128,000个token(原为32,000),并喂入38万亿训练数据点。但真正使其脱颖而出的是它的思考方式:在回答问题前生成清晰的推理步骤,几乎像在数学题上展示演算过程。

"我们教会模型什么时候说'我不知道',而不是猜测," Liquid AI发言人解释道。通过专门训练技术,该AI现在能更好地识别自身局限,减少聊天机器人编造看似合理实则荒谬内容的尴尬时刻。

您的手机变得更强大

基准测试显示LFM2.5在逻辑推理上超越前代,同时保持惊人速度——在高性能芯片上解码速度高达每秒253字节。即使在普通智能手机上,也能达到每秒约30字节,使得无需持续联网即可使用高级AI功能成为现实。

该模型与现有技术生态兼容良好,立即获得llama.cpp和vLLM等主流平台支持。无论您需要Python函数还是JSON输出,LFM2.5都能适应开发需求。

关键点:

  • 边缘AI革命: 无需依赖云端,在个人设备上高效运行
  • 透明思考: 生成最终答案前会展示推理链
  • 多语言大师: 支持包括中文和阿拉伯语在内的九种语言
  • 诚实AI: 专项训练减少幻觉和虚假声明
  • 开发者友好: 开箱即支持热门框架