跳转到主要内容

NVIDIA的PAIR工具让Mac和PC联手处理AI任务

NVIDIA刚刚发布了名为Personal AI Router(简称PAIR)的实用工具的开源测试版。你可以把它想象成本地AI请求的交通警察——它会扫描你的家庭或办公室网络中的空闲计算机,并将每个任务分配给一台准备好工作的机器。不再需要等待一台孤独的工作站来处理所有事情。

PAIR到底做什么?

PAIR可在M4及更新版本的Mac、NVIDIA RTX PC和DGX Spark上运行。它充当Ollama和LM Studio等本地AI工具的中心枢纽。无需在每台机器上配置每个应用,只需将它们指向PAIR,它就会决定将每个请求发送到何处。如果某个设备忙碌或离线,PAIR只需将任务重新路由到另一台可用机器。

当你拥有同时处理多个任务的AI代理时(例如同时审阅多个文档),这尤其方便。每个独立请求都可以分派到不同的计算机,这样就不会有设备闲置而其他设备过载的情况。

但这里有个关键点:PAIR是用于分配并发工作负载,而不是通过投入更多硬件来加速单个AI响应。所以,不要指望你的一次性问题会因为有一队GPU待命而神奇地加速。

实际测试:从18分钟到9分钟以内

NVIDIA通过实际演示对PAIR进行了测试。他们使用Ollama配合Hermes中的Qwen 3.6 35B A3B模型,将任务分配给五个AI子代理。在单台RTX Spark笔记本电脑上,任务平均耗时18分钟。在加入DGX Spark和RTX 5090后,平均时间降至8分48秒。对于并行工作负载来说,这是一个显著的加速。

为何重要

对于运行本地AI模型的开发者和高级用户来说,PAIR可能改变游戏规则。它简化了资源管理,使扩展AI任务变得更加容易,而无需投资昂贵的专用硬件。通过利用你已有的机器,你可以在更短的时间内完成更多工作。

关键点

  • PAIR是开源测试版软件,可在网络中的设备之间调度本地AI请求。
  • 兼容设备:M4+ Mac、RTX PC和DGX Spark。
  • 与Ollama和LM Studio配合使用,因此无需为每台机器重新配置每个应用。
  • 分配并发工作负载,而不是加速单个响应。
  • 测试结果:使用多台设备,任务时间从18分钟减少到8分48秒。

Image

如果你对优化本地AI设置感到好奇,PAIR绝对值得一看。这是朝着充分利用已有硬件迈出的实际一步。