网络定义 AI 数据中心

新一代网络技术高效赋能高性能、可扩展且安全的十亿瓦级 AI 工厂。

概览

专为 AI 工厂时代打造的网络

AI 工厂如今已扩展至数万颗 GPU 的规模,且很快将达到数百万颗,这些 GPU 整合为一个统一的分布式计算引擎运行。为了让加速器始终保持满负荷运行,AI 工作负载对网络提出了确定性时延、无损吞吐、稳定的迭代时间等要求,且不仅在单个数据中心内扩展,还将跨多个数据中心扩展。

NVIDIA 网络提供了实现这一目标所需的全栈网络解决方案,包括用于纵向扩展的 NVIDIA NVLink™、用于横向扩展的 NVIDIA Quantum InfiniBand 和 Spectrum-X™ 以太网、用于跨数据中心扩展的 Spectrum-XGS、用于基础设施服务的 NVIDIA® BlueField® DPU 和 DOCA™,以及下一代硅光平台,为全球领先的 AI 工厂提供动力支撑。

Spectrum-6 以太网交换机为基于 NVIDIA Rubin 的 AI 工厂实现扩展方案

新的 NVIDIA Spectrum-X 以太网硅光交换机系统将能效和持续运行时间提高了 5 倍。

专为 AI 打造的网络

NVIDIA 利用先进的创新技术为 AI 平台设计网络,以确保出色的 AI 性能。探索推动 AI 未来发展的技术。探索推动 AI 未来的技术。

AI factory operating system powered by NVIDIA BlueField-4 DPUs

NVIDIA 重磅推出 BlueField-4:为 AI 工厂的操作系统提供强力支持的处理器

 An image of a switch chip with many silicon photonics modules co-located on the same chip package.

全新光电一体化封装的硅光网络交换机将助力跨越多个地域的 AI 工厂扩展至百万 GPU 的级别

技术

技术创新定义 NVIDIA AI 网络

NVIDIA 将网络构建为集成式 AI 平台的一部分,将 GPU、SuperNIC™、DPU、交换机、光学器件和软件整合起来实现极致协同设计,实现大规模扩展且可预测的性能。

面向 AI 的加速以太网网络

NVIDIA Spectrum-X 以太网平台专为 AI 打造,与常规以太网 (OTS)相比性能高 1.6 倍。Spectrum-XGS 以太网技术可实现跨机架、建筑物甚至整个园区的高性能 AI 网络扩展。

适用于 AI 和科学计算的 InfiniBand 网络

支持超低延迟、网络计算和新一代硅光 CPO 系统,NVIDIA Quantum InfiniBand 架构可为 AI 和科学计算提供业界速度更快、可扩展性更强的网络。

面向数据中心基础架构的加速计算

NVIDIA BlueField 平台将高速网络与强大的计算能力相结合,可加速数据中心基础设施,使全球 AI 数据中心的性能、效率和安全性更上一层楼。

优势

面向 AI 工厂的加速网络

经过加速的性能

NVIDIA 提供面向加速器优化的全栈网络方案,可更大限度地减少延迟、稳定迭代时间,并在训练和推理过程中充分利用 GPU。

十亿瓦级

NVIDIA 网络通过高基数交换、光电一体封装和 Spectrum-XGS 以太网技术实现十亿瓦级数据中心增长,将设施统一整合到高性能的 AI 网络。

安全性和可视化

数据可视化和隔离是每个数据中心必不可少的安全功能,NVIDIA 网络解决方案可增强安全性,简化数据中心自动化部署,并提供对网络的全面可视化。

编排

NetQ、UFM、DOCA 等可扩展的新型网络运营框架利用网络遥测技术提供 AI 赋能的网络智能和分析功能,以确保 AI 网络平台顺畅运行。

仿真

利用 NVIDIA Air 构建数据中心网络的数字孪生。NVIDIA Air 是一个云托管的虚拟环境,用于设计、测试和验证网络配置、自动化和安全策略。

基础架构效率

NVIDIA 加速网络采用面向节能而设计,通过 CPO
(一体化封装光学技术) 优化连接,具备智能网络处理能力,实现高效的基础架构。

新闻

及时了解网络的最新动态

NVIDIA 推出 Rubin 平台,为 AI 工业革命点燃智能化的变革性飞跃

NVIDIA Spectrum-X 以太网硅光交换机系统可将能效和持续运行时间提高 5 倍。全新 NVIDIA 推理上下文记忆存储平台搭载 NVIDIA BlueField-4 存储处理器,为 AI 推理提供强大动力支持。

NVIDIA BlueField-4 推动 AI 前沿发展

NVIDIA BlueField-4 为 NVIDIA 推理上下文记忆存储平台提供支持,这是一种新型 AI 原生存储基础设施,用于加速和扩展超大规模代理式推理。

NVIDIA Spectrum-X 以太网交换机助力 Meta 和 Oracle 加速网络性能

超大规模企业广泛采用 NVIDIA 网络解决方案,驱动十亿瓦级 (Giga-Scale) 高性能 AI 数据中心。

利用 Spectrum-XGS 以太网将多个数据中心连接在一起,实现 Gigascale AI

Spectrum-XGS 以太网可将分布式数据中心整合成 AI 超级工厂,使 NVIDIA 集合通信库 (NCCL) 的性能提升 1.9 倍。

资源

继续探索 NVIDIA 网络