NVIDIA Vera Rubin 平台

NVIDIA Vera Rubin 平台

面向智能体时代的 AI 基础设施。

概览

引领代理式 AI 时代

NVIDIA Vera Rubin 平台专为代理式 AI 和推理时代而构建,用于应对大规模多步骤问题求解和长上下文工作流。Vera Rubin 是一个多机架 POD 级系统,将五个专用机架级系统整合到一台庞大、连贯的 AI 超级计算机中。通过消除通信和内存移动中的关键瓶颈,该平台可显著提升推理能力,与 NVIDIA Blackwell 架构产品相比,可实现更高的每瓦 Token 产出并降低每 Token 成本。

NVIDIA Vera Rubin 全面投产,为全球智能体 AI 工厂提供强劲动力

NVIDIA Vera Rubin 正全面迈向规模化量产。台湾地区顶尖服务器制造商与全球供应链领导者正大规模制造基于 Vera Rubin 的系统 —— 为 AI 实验室、云服务商和超大规模数据中心提供强劲动力,共同构建未来智能世界。

NVIDIA Vera Rubin 开启代理式 AI 前沿

NVIDIA Vera Rubin 平台七款全新芯片全面投产,扩展全球最大 AI 工厂的规模。

了解 Vera Rubin 平台

NVIDIA Vera Rubin NVL72

NVIDIA Vera Rubin NVL72 统一了 NVIDIA 的前沿技术 —— 72 个 Rubin GPU、36 个 Vera CPU、ConnectX™-9 SuperNIC™ 和 BlueField™-4 DPU。它利用 NVIDIA NVLink™ 交换机在第三代机架级平台中扩展智能,并利用 NVIDIA Quantum-X800 InfiniBand 和 Spectrum-X™ 以太网横向扩展,以大规模推动 AI 工业革命。

Vera Rubin NVL72 配备了一个新的 Transformer 引擎,具有自适应压缩特性以提升 NVFP4 推理性能,第三代 NVIDIA 机密计算将安全扩展到整个机架级平台,以及第二代 RAS 引擎,可提供机架级弹性。

NVIDIA Vera CPU

NVIDIA Vera CPU 机架提供密集、液冷的 CPU 基础设施,专为大规模强化学习和代理式 AI 而构建。每个机架基于 NVIDIA MGX™ 模块化参考架构构建,集成 256 个 NVIDIA Vera CPU,并支持超过 22,500 个并发沙盒环境,为 AI 工厂提供可扩展、高能效的 CPU 容量,用于工具调用、评估、数据处理和编排。

NVIDIA Groq 3 LPX

NVIDIA Groq 3 LPX 是 NVIDIA Vera Rubin 的推理加速器,旨在满足代理式系统的低延迟和大上下文需求。通过将用于高带宽内存 (HBM) 的 Rubin GPU 和用于静态随机访问内存 (SRAM) 的 LPU 相结合,NVIDIA Vera Rubin 与 LPX 可为万亿参数模型和百万 Token 上下文提供全新的推理性能。

NVIDIA Vera BlueField-4 STX

NVIDIA Vera BlueField-4 STX 是面向机架级 AI 原生存储解决方案的模块化基础。通过集成 NVIDIA Vera Rubin、BlueField-4 STX 存储处理器、Spectrum-X 网络和 NVIDIA AI 软件,能够优化从数据分析到模型训练,以及大规模完整代理式 AI 工作流的整个生命周期。

NVIDIA Spectrum-6 SPX 以太网

Spectrum-6 SPX 以太网专为加速 AI 工厂的网络而设计。支持 NVIDIA Spectrum-X™ 以太网交换机或 NVIDIA Quantum-X800 InfiniBand 交换机进行配置,大规模部署可提供低延迟、高吞吐的机架互连。

深入了解 NVIDIA Vera Rubin 平台

阅读技术博客,了解 NVIDIA Vera Rubin 如何将数据中心而非芯片作为计算单元,为高效、安全、可预测的大规模智能生产奠定新的基础。