谷歌LiteRT.js让浏览器AI速度飙升，最高提升3倍
谷歌正式发布了LiteRT.js，这是一个旨在直接在网页浏览器中加速AI推理的新库。通过利用WebAssembly并与WebGPU和WebNN等硬件加速API集成，LiteRT.js承诺比TensorFlow.js中使用的旧版JavaScript解决方案性能提升高达三倍。
有何重大意义？
WebAssembly是一种二进制指令格式，能让网页以接近原生的速度运行高性能代码。谷歌之前的库TensorFlow.js已经允许开发者在浏览器中运行AI模型。但LiteRT.js更进一步，用基于WebAssembly的引擎取代了传统的JavaScript内核，该引擎可以调用设备的GPU和专用AI硬件。
实际性能表现
谷歌在搭载M4芯片的2024款MacBook Pro上测试了LiteRT.js，发现推理速度比现有解决方案快了三倍。当然，在较旧的硬件或不同浏览器上结果会有所不同，但趋势很明显：基于浏览器的AI正在获得显著的速度提升。
为何重要
对用户而言，这意味着实时图像识别、语言翻译甚至轻量级生成模型等AI功能可以流畅运行，无需安装任何软件。对开发者来说，这为构建利用客户端AI的丰富交互式Web应用开辟了新的可能性。随着边缘AI的兴起，像LiteRT.js这样的工具有助于弥合Web应用与原生性能之间的差距。
关键要点
- LiteRT.js 利用WebAssembly和硬件加速（WebGPU、WebNN）来加速浏览器中的AI推理。
- 速度提升高达3倍，在M4 MacBook Pro等现代硬件上优于TensorFlow.js。
- 无需安装 – AI直接在浏览器中运行，更易于部署和使用。
- 面向未来 – 随着浏览器和硬件的发展，性能只会越来越好。