网络定义 AI 数据中心

用于高性能、可扩展且安全的超大规模 AI 工厂的新一代网络。

概览

专为 AI 工厂时代打造的网络

AI 工厂如今已连接数万个 GPU,并将很快扩展至数百万个,作为一个分布式计算引擎运行。为了充分发挥加速器的性能,AI 工作负载需要确定性延迟、无损吞吐量和稳定的迭代时间,以及既能在数据中心内部扩展、又能跨多个站点扩展的能力。

NVIDIA 网络提供实现全栈网络架构,NVIDIA NVLink™ 纵向扩展、NVIDIA Quantum InfiniBand 和 Spectrum-X™ 以太网 横向扩展、Spectrum-XGS 多数据中心跨区域扩展、用于基础设施服务的 NVIDIA BlueField™ DPU 和 DOCA™ ,以及新一代硅光平台,为全球领先的 AI 工厂提供支撑。

NVIDIA 发布 Minerva,为 AI 工厂带来端到端可观测性

全新 AIOps 平台连接基础设施与工作负载遥测,以帮助运营商增加正常运行时间并更大限度地提高 AI 工厂产出。

以 AI 智能体速度实现芯片内安全

基于 NVIDIA OpenShell 参考架构,NVIDIA Sentry 在 NVIDIA BlueField 上运行,提供芯片级带外安全——即使主机遇到入侵,也能持续监控智能体行为,并在数毫秒内隔离威胁。

NVIDIA DOCA 企业级库和微服务生态系统

面向 AI 智能体的可信任基础

NVIDIA Sentry 和 BlueField™ 基于 NVIDIA OpenShell 参考架构,提供在芯片内实现的带外智能体安全防护。

技术

引领 NVIDIA AI 网络的创新

NVIDIA 将网络作为集成 AI 平台的重要部分,通过深度协同设计,将 GPU、SuperNIC™、DPU(数据处理器)、交换机、光学器件和软件整合为统一架构,以实现大规模下无妥协、可预测的性能。

专为 AI 加速的以太网

NVIDIA Spectrum-X 以太网平台专为 AI 打造,其网络性能达到通用以太网的 1.6 倍。Spectrum-XGS 以太网跨区域扩展技术,实现跨机架、楼宇乃至整个园区的高性能 AI 网络。

适用于 AI 和科学计算的 InfiniBand 网络

NVIDIA Quantum InfiniBand 架构凭借超低延迟、网络计算和新一代 CPO 系统,为 AI 和科学计算提供高速、可扩展性的网络。

面向数据中心基础架构的加速计算

NVIDIA BlueField 将高性能 AI 网络与强大计算相结合,为代理式 AI 工厂提供支持。 BlueField 提供高达 800 Gb/s 的连接、具备针对 AI 智能体实时威胁检测和策略执行的芯片内安全,以及 AI 原生存储加速,从而为任何环境中的任何工作负载打造安全、加速的基础设施。

优势

面向 AI 工厂的加速网络

经过加速的性能

NVIDIA 网络提供对加速器优化的全栈网络架构,可最大限度降低尾延迟、保持迭代时间稳定,并确保 GPU 在训练和推理过程中得到充分利用。

超大规模

NVIDIA 网络通过高基数交换、CPO 和 Spectrum-XGS 以太网技术,将多个设施连接为统一的高性能 AI 网络,支持超大规模扩展。

芯片内安全

NVIDIA Sentry 和 NVIDIA BlueField 为智能体 AI 提供实时的芯片级带外安全,作为 NVIDIA OpenShell 参考架构的一部分,持续监控智能体行为,并在数毫秒内隔离威胁。

编排

NVIDIA Minerva、UFM 和 DOCA 等可扩展的现代网络运维框架利用网络遥测,提供 AI 驱动的网络智能分析,确保您的 AI 网络架构稳定运行。

仿真

利用 NVIDIA DSX Air 构建数据中心网络的数字孪生。NVIDIA DSX Air 平台提供云端托管的虚拟环境,可用于设计、测试和验证网络配置、自动化及安全策略。

基础设施效率

NVIDIA 加速网络通过节能设计、CPO 技术优化连接,以及智能网络处理,实现高效的基础设施。

新闻

及时了解网络的最新动态。

NVIDIA 推出 Rubin 平台,推动 AI 工业革命中的智能变革和飞跃

NVIDIA Spectrum-X 以太网硅光交换机系统将能效和正常运行时间提升 5 倍。全新 NVIDIA 推理上下文内存存储平台,采用 NVIDIA BlueField-4 存储处理器,以助力 AI 逻辑推理。

NVIDIA Sentry 利用 NVIDIA OpenShell 参考架构,助力智能体安全

NVIDIA Sentry 是 NVIDIA OpenShell 参考架构的一部分,为智能体提供芯片级安全。NVIDIA OpenShell 参考架构是一套支持工业级规模的全栈开放架构,为 NVIDIA 开放智能体安全平台提供基础。

NVIDIA Spectrum-X 以太网助力 Meta、微软和 Oracle 加速网络

超大规模云服务提供商采用 NVIDIA 开放网络平台,提升超大规模 AI 数据中心的性能

NVIDIA 发布 Minerva,为 AI 工厂带来端到端可观测性

全新 AIOps 平台整合基础设施与工作负载的遥测数据,帮助运维人员延长正常运行时间,并最大限度提升 AI 工厂的产出。


NVIDIA 网络常见问题解答

NVIDIA 网络是专为 AI 工厂打造、加速优化全栈网络架构,融合了 NVLink 纵向扩展技术、Spectrum-X 以太网和 Quantum InfiniBand 横向扩展技术、Spectrum-XGS 跨区域扩展技术、用于基础设施服务的 BlueField DPU(包括全局互连网络和面向 KV 缓存的上下文扩展),以及硅光平台。这些技术共同提供 AI 工作负载在跨越数万到数百万 GPU 的部署中所需的创新特性和性能特征。

AI 工厂如今已连接数万个 GPU,协同作为一个分布式计算引擎运行,使网络成为每项 AI 工作负载的关键路径。NVIDIA 网络提供确定性延迟、无损吞吐能力和稳定的迭代时间,使 GPU 在各种规模的训练、推理和 RAG 工作负载中得到充分利用。

NVIDIA 为 AI 工厂提供四大主要网络平台:Spectrum-X 以太网面向超大规模 AI 云网络,性能达到通用以太网的 1.6 倍;Quantum-X800 InfiniBand 具备网络计算能力,适用于低延迟 AI 训练和科学计算;BlueField DPU (数据处理器) 用于基础设施服务、安全和存储卸载;CPO 用于在百万级 GPU 规模下实现节能高效的网络交换。Spectrum-XGS 以太网将各项能力扩展至多个站点,构建统一的 AI 超级工厂。

NVIDIA Spectrum-X 以太网是专为 AI 打造的网络平台,网络性能达到通用以太网的 1.6 倍。为多租户 AI 工作负载提供加速的 RoCE 性能、确定性延迟和性能隔离,并通过 Spectrum-XGS 跨区域扩展技术实现跨多个数据中心扩展,将分布式设施整合为统一的高性能 AI 网络。

NVIDIA Quantum InfiniBand 是一个高性能网络平台,可为 AI 和科学计算工作负载提供超低延迟、网内计算能力,以及新一代 CPO 系统。Quantum InfiniBand 通过 SHARP 网络计算加速集合运算,并借助自修复网络,将链路故障恢复速度提升至传统网络的 1,000 倍,为 AI 训练集群和科学超级计算机提供高速、高扩展性的网络。

NVIDIA BlueField 平台带来前所未有的性能、效率和创新,赋能 AI 工厂,专为 AI 打造的新型数据中心提供强大支撑。BlueField 凭借强大的计算能力,以及面向网络、存储和安全的软件定义硬件加速器,可为各种环境中的多种工作负载打造安全的加速基础设施,开启智能体 AI 新时代。让自主智能体能够大规模地进行推理、协作和行动。

NVIDIA Spectrum-XGS 以太网是一种跨区域扩展的网络技术,可将分布式数据中心连接为统一的 AI 超级工厂。与通用以太网相比,Spectrum-XGS 可将多站点 AI 部署的 NCCL 性能提升至 1.9 倍,使 AI 工厂突破单个建筑的供电和物理容量限制,实现更大规模扩展,同时保持与设施内 Spectrum-X 部署相同的高性能网络特性。

NVIDIA 硅光网络将光学组件直接与交换机 ASIC 集成,无需可插拔收发器,与传统可插拔设计相比,功耗和正常运行时间提升 5 倍。 光电一体封装是一种物理层技术,可支持百万级 GPU 规模及多站点 AI 工厂的网络连接,降低插入损耗,显著提升信号完整性和可靠性。

NVIDIA DOCA 是一个统一的软件平台,可充分释放 NVIDIA BlueField 和 NVIDIA ConnectX™ 在智能体 AI 应用中的全部潜能。DOCA 提供 SDK 、库、可用于企业环境的微服务和编排框架,涵盖网络、AI 原生存储、运行时安全、遥测及生命周期管理,助力加速生产环境中的 AI 工作负载、保障其安全并实现规模扩展。DOCA 是用于构建和运行智能、高性能 AI 工厂基础设施的软件基础。

资源

继续探索 NVIDIA 网络