网络定义 AI 数据中心
用于高性能、可扩展且安全的超大规模 AI 工厂的新一代网络。
概览
专为 AI 工厂时代打造的网络
AI 工厂如今已连接数万个 GPU,并将很快扩展至数百万个,作为一个分布式计算引擎运行。为了充分发挥加速器的性能,AI 工作负载需要确定性延迟、无损吞吐量和稳定的迭代时间,以及既能在数据中心内部扩展、又能跨多个站点扩展的能力。
NVIDIA 网络提供实现全栈网络架构,NVIDIA NVLink™ 纵向扩展、NVIDIA Quantum InfiniBand 和 Spectrum-X™ 以太网 横向扩展、Spectrum-XGS 多数据中心跨区域扩展、用于基础设施服务的 NVIDIA BlueField™ DPU 和 DOCA™ ,以及新一代硅光平台,为全球领先的 AI 工厂提供支撑。
面向 AI 智能体的可信任基础
NVIDIA Sentry 和 BlueField™ 基于 NVIDIA OpenShell 参考架构,提供在芯片内实现的带外智能体安全防护。
技术
引领 NVIDIA AI 网络的创新
NVIDIA 将网络作为集成 AI 平台的重要部分,通过深度协同设计,将 GPU、SuperNIC™、DPU(数据处理器)、交换机、光学器件和软件整合为统一架构,以实现大规模下无妥协、可预测的性能。
优势
面向 AI 工厂的加速网络
新闻
及时了解网络的最新动态。
NVIDIA 网络常见问题解答
NVIDIA 网络是专为 AI 工厂打造、加速优化全栈网络架构,融合了 NVLink 纵向扩展技术、Spectrum-X 以太网和 Quantum InfiniBand 横向扩展技术、Spectrum-XGS 跨区域扩展技术、用于基础设施服务的 BlueField DPU(包括全局互连网络和面向 KV 缓存的上下文扩展),以及硅光平台。这些技术共同提供 AI 工作负载在跨越数万到数百万 GPU 的部署中所需的创新特性和性能特征。
AI 工厂如今已连接数万个 GPU,协同作为一个分布式计算引擎运行,使网络成为每项 AI 工作负载的关键路径。NVIDIA 网络提供确定性延迟、无损吞吐能力和稳定的迭代时间,使 GPU 在各种规模的训练、推理和 RAG 工作负载中得到充分利用。
NVIDIA 为 AI 工厂提供四大主要网络平台:Spectrum-X 以太网面向超大规模 AI 云网络,性能达到通用以太网的 1.6 倍;Quantum-X800 InfiniBand 具备网络计算能力,适用于低延迟 AI 训练和科学计算;BlueField DPU (数据处理器) 用于基础设施服务、安全和存储卸载;CPO 用于在百万级 GPU 规模下实现节能高效的网络交换。Spectrum-XGS 以太网将各项能力扩展至多个站点,构建统一的 AI 超级工厂。
NVIDIA Spectrum-X 以太网是专为 AI 打造的网络平台,网络性能达到通用以太网的 1.6 倍。为多租户 AI 工作负载提供加速的 RoCE 性能、确定性延迟和性能隔离,并通过 Spectrum-XGS 跨区域扩展技术实现跨多个数据中心扩展,将分布式设施整合为统一的高性能 AI 网络。
NVIDIA Quantum InfiniBand 是一个高性能网络平台,可为 AI 和科学计算工作负载提供超低延迟、网内计算能力,以及新一代 CPO 系统。Quantum InfiniBand 通过 SHARP 网络计算加速集合运算,并借助自修复网络,将链路故障恢复速度提升至传统网络的 1,000 倍,为 AI 训练集群和科学超级计算机提供高速、高扩展性的网络。
NVIDIA BlueField 平台带来前所未有的性能、效率和创新,赋能 AI 工厂,专为 AI 打造的新型数据中心提供强大支撑。BlueField 凭借强大的计算能力,以及面向网络、存储和安全的软件定义硬件加速器,可为各种环境中的多种工作负载打造安全的加速基础设施,开启智能体 AI 新时代。让自主智能体能够大规模地进行推理、协作和行动。
NVIDIA Spectrum-XGS 以太网是一种跨区域扩展的网络技术,可将分布式数据中心连接为统一的 AI 超级工厂。与通用以太网相比,Spectrum-XGS 可将多站点 AI 部署的 NCCL 性能提升至 1.9 倍,使 AI 工厂突破单个建筑的供电和物理容量限制,实现更大规模扩展,同时保持与设施内 Spectrum-X 部署相同的高性能网络特性。
NVIDIA 硅光网络将光学组件直接与交换机 ASIC 集成,无需可插拔收发器,与传统可插拔设计相比,功耗和正常运行时间提升 5 倍。 光电一体封装是一种物理层技术,可支持百万级 GPU 规模及多站点 AI 工厂的网络连接,降低插入损耗,显著提升信号完整性和可靠性。
NVIDIA DOCA 是一个统一的软件平台,可充分释放 NVIDIA BlueField 和 NVIDIA ConnectX™ 在智能体 AI 应用中的全部潜能。DOCA 提供 SDK 、库、可用于企业环境的微服务和编排框架,涵盖网络、AI 原生存储、运行时安全、遥测及生命周期管理,助力加速生产环境中的 AI 工作负载、保障其安全并实现规模扩展。DOCA 是用于构建和运行智能、高性能 AI 工厂基础设施的软件基础。
