高通联手PrismML:AI眼镜也能离线识物,内存省了四分之三
高通联手PrismML:AI眼镜也能离线识物,内存省了四分之三
在2026年骁龙峰会上,高通和PrismML搞了件挺酷的事——他们把20亿参数的1-bit量化Bonsai视觉模型,硬是塞进了骁龙AR1 Gen 1智能眼镜平台。结果呢?AI眼镜不用联网,也能认东西、回答问题。
1-bit量化,内存只剩四分之一
Bonsai 1-bit模型是在PrismML之前发布的Bonsai 1.7B版本上改的,把模型精度压到了1-bit。官方说法是,同样的内存容量能装下大约四倍的参数,内存占用只有传统4-bit模型的四分之一左右,文本生成速度还翻了一倍。
这听起来可能有点技术,但说白了就是:以前跑不动的模型,现在能跑了;以前烫手的眼镜,现在凉快多了。
离线交互,续航和佩戴体验都上来了
实际用起来是什么感觉?官方说,AI交互不用再连云端等半天了。你走在路上看到个不认识的东西,眼镜直接本地识别;想翻译个路牌,眨眨眼的事;甚至不用动手,语音就能帮你解答环境相关的问题。
更关键的是,1-bit模型把内存和功耗都压下来了。电池续航更长,发热更少,戴起来自然更舒服。对智能眼镜这种又小又难散热的设备来说,这可不是锦上添花,而是能不能日常戴出门的分水岭。
为什么这事值得关注?
智能眼镜一直有个尴尬:功能很酷,但一用就发热、掉电快,还得时刻联网。高通和PrismML这次把1-bit量化推到端侧,等于给AI眼镜松了绑。离线能干活,意味着反应更快、隐私更好、场景更广。
当然,1-bit量化不是没有代价,精度损失是客观存在的。但在这个尺寸和功耗的约束下,能跑起来、跑得动,本身就是一大步。
Key Points
- 高通与PrismML合作,在骁龙AR1 Gen 1平台上跑通2B参数1-bit量化Bonsai视觉模型
- 内存占用仅为传统4-bit模型的四分之一,文本生成速度翻倍
- 支持离线图像识别、翻译、环境问答和语音辅助,无需连接云端
- 更低功耗和发热,延长续航,改善智能眼镜佩戴体验
- 1-bit量化在端侧AI设备上展现出实用潜力,但精度损失仍需权衡