苹果与初创公司洽谈，将大型AI模型压缩进iPhone

苹果可能正在酝酿一项能让Siri最终变得足够聪明、可以进行真正对话的技术。据报道，这家科技巨头正在与硅谷初创公司PrismML进行早期谈判，以开发一种压缩大型AI模型的方法，使其能在iPhone上原生运行。可以想象成将超级计算机的大脑装进手机大小的包装中。

为什么这很重要？

目前，大多数高级AI任务——比如驱动ChatGPT或Google Gemini的那些——都在云端进行。你的手机将请求发送到远程服务器，服务器处理后再将答案传回。这虽然可行，但存在缺点：速度较慢、需要网络连接，并引发隐私担忧。苹果长期以来一直倡导设备端处理以保护隐私，但其自身的Siri却落后于竞争对手。这项压缩技术可能会改变这一局面。

PrismML的CEO证实，苹果已开始评估该技术，尽管讨论仍处于早期阶段。时机很有趣：消息传出仅一天前，苹果发布了iOS 27测试版，其中包含大幅改进的Siri的首次公开测试。看来苹果终于认真对待在AI助手竞赛中迎头赶上了。

压缩是如何工作的？

PrismML的方法相当巧妙。他们获取一个庞大的AI模型——比如阿里巴巴的开源模型Qwen，原本占用约54GB——并将其缩小到4GB以下。这相当于体积减少了93%，使得该模型的270亿个参数能够在iPhone 15或更新机型上运行。该公司已公开发布了Qwen的压缩版本，并计划接下来处理其他大型开源模型。

在技术方面，他们的解决方案可以将原本需要八块GPU的云端模型减少到只需一块。它还允许通常依赖数据中心的模型迁移到智能手机和笔记本电脑上。但这里有个问题：虽然它减少了单个AI任务所需的内存和计算能力，但这并不意味着整体芯片需求会下降。你仍然需要强大的硬件来本地运行这些模型。

这对用户意味着什么？

如果苹果成功整合这项技术，你可能会看到Siri变得更快、更强大——而且无需联网。复杂任务仍可在云端处理，但敏感信息（如你的个人消息或健康数据）将保留在设备上。这对隐私来说是一个巨大的胜利。

Counterpoint的分析师Pathak认为，云端和设备端AI的结合将提供更全面、高效且注重隐私的体验。他说：“复杂任务在云端处理，而敏感信息在设备上处理。”

更大的图景

PrismML最初在加州理工学院孵化，并获得了Khosla Ventures的支持。他们的技术不仅仅是为了让Siri更智能——而是为了支持一类全新的、完全在手机上运行的AI应用。想象一下实时语言翻译、高级照片编辑，甚至AI驱动的健康诊断，所有这些都无需将你的数据发送到服务器。

当然，谈判仍处于早期阶段，不能保证一定会达成协议。但苹果探索这条路径的事实表明，他们认真考虑以尊重用户隐私的方式将强大的AI引入其设备。目前，我们只能拭目以待，看这次合作能否结出硕果。

关键点：

• 苹果正在与PrismML进行早期谈判，以压缩大型AI模型用于设备端。
• 该技术可以增强隐私保护，并给Siri带来重大升级。
• PrismML已成功将一个54GB的模型缩小到4GB以下，兼容iPhone 15及更新机型。
• 设备端AI可减少延迟、降低云端成本，并支持离线工作。
• 交易尚未最终确定，但潜力巨大。