NVIDIA PAIR 测试版将 AI 应用和智能体工作流连接到单个本地端点,用于在 NVIDIA DGX Spark™、配备 RTX™ 的 Windows 系统和 macOS 设备之间调度推理。这有助于你更大限度地发挥本地计算能力,同时保持提示词、文件和智能体上下文的私密性。
特性
几分钟内便可将位于你网络上的 RTX、DGX™ 和 Mac 系统整合在一起。NVIDIA PAIR 可发现兼容的本地机器,并将它们整合成个人 AI 推理集群,无需特殊线缆、机架或复杂的集群设置。
在任务堆积时,仍保持本地 AI 工作流的顺畅运行。NVIDIA PAIR 能够将 AI 推理请求调度到可用本地节点,无需考虑节点的操作系统便可帮助繁忙的 AI 工作流利用闲置计算资源。
在 Windows、Linux 和 macOS 上,将 NVIDIA PAIR 与熟悉的本地推理后端一起运行。发布之初 NVIDIA PAIR 便支持 Ollama 和 LM Studio,旨在为应用提供一致的单个端点,同时将请求智能分配到可用的本地计算资源。
保持数据隐私的同时,在家运行 AI 工作流。NVIDIA PAIR 专为私有本地推理而构建,帮助你使用提示词、文件和智能体上下文,而无需将它们发送到云端。
平台
Windows 11、DGX OS、Ubuntu 14.04、macOS Tahoe
语言
English
GPU
所有 GeForce RTX GPU (20 系列及更新版本)、DGX Spark/GB10、Mac M4 或更新版本
RAM
8 GB RAM 或更高
磁盘空间
推荐:20 GB 或更高
互联网
操作时不需要
下载模型时需要
NVIDIA Personal AI Router (PAIR) 是一款软件,将配备 NVIDIA RTX™ GPU 和 DGX Spark 系统的兼容 macOS、Windows 和 Linux 系统连接到个人家庭 AI 集群。PAIR 将本地 AI 推理工作负载分布在可用设备上,同时将提示词、文件和代理上下文保留在用户的家庭网络上。
个人家庭 AI 集群连接同一本地网络上的多个兼容设备,允许它们共享可用计算资源用于本地 AI 推理。PAIR 使 Mac、NVIDIA RTX 系统和 DGX Spark 系统能够为本地 AI 应用和智能体提供更多能力。这些设备仍然是处理并行任务的独立系统;PAIR 不会将它们组合为一个虚拟 GPU。
下载 PAIR,将其安装在支持的系统上,将设备配对,并添加到集群。连接后,受支持的应用和智能体就可以通过 PAIR 本地端点发送推理请求。
NVIDIA PAIR 需要兼容的 macOS、Windows 或 Linux 系统以及支持的硬件。要求可能包括特定的操作系统版本、NVIDIA RTX GPU、GPU 显存、系统内存、处理器、存储和本地网络连接。请参阅 NVIDIA PAIR 登录页面上的系统配置需求部分了解当前细节。
PAIR 专为私有本地推理而设计。提示词、文件和智能体上下文将保留在用户的本地网络上,而不是发送到云端推理服务。