NVIDIA Quantum InfiniBand 交换机和一体机

InfiniBand 是一个高性能互连标准，专为在计算节点之间实现低延迟、高带宽的通信而设计。对于将计算分布在数百或数千个 GPU 上的 AI 训练和科学计算工作负载，网络延迟直接影响作业完成时间。NVIDIA Quantum InfiniBand 也是唯一支持网络计算的互连平台，它可将 AllReduce 等集合运算卸载到交换机结构本身，从而释放 GPU 周期用于实际计算。

传统的交换机设计使用可插拔的光学收发器将交换机 ASIC 连接到光纤。每个收发器都是一个分立元件，会消耗电力、产生热量，并可能出现故障。在集群规模下，这意味着在部署的生命周期内需要管理和更换数千个独立的收发器。

NVIDIA Quantum-X InfiniBand Photonics 交换机将光学引擎直接与交换机芯片集成，彻底省去了可插拔收发器。这缩短了芯片和光纤之间的电气路径，从而可降低功耗和延迟，而分立元件数量的减少提高了可靠性，并简化了长期运维。

网络计算是指 NVIDIA Quantum 交换机能够在网络内执行数据处理运算，无需主机 CPU 或 GPU 参与。关键能力是 NVIDIA SHARP，它可将 AllReduce 等集合运算直接卸载到交换机上。对于分布式 AI 训练，这可以减少节点间通信所花费的时间，并释放 GPU 周期用于计算。SHARP 可加速大多数并行仿真代码核心的集合运算，从而降低延迟和 CPU 开销。对于利用 NCCL、OpenMPI、UCX 或其他符合标准的 MPI 栈的应用，只需更改极少代码即可获益，使网络计算在从 AI 训练到分子动力学和气候建模的各个领域中都能发挥作用。

对于新的大规模 AI 部署，最佳选择是 NVIDIA Quantum-X800 InfiniBand。它具备 800Gb/s XDR 连接能力，专为新一代 AI 工厂而设计，可提供其需要的最大横向扩展带宽、低延迟、自适应路由、拥塞控制以及面向 AI 和科学计算集合通信的 SHARP 网络计算技术。对于 Hopper 代际或成本优化的部署而言，Quantum-2 NDR 400Gb/s 仍然是一个不错的选择，但对于新的 Blackwell 规模集群，Quantum-X800 可提供最佳的长期性能提升空间。Q3200 是 Quantum-X800 2U 风冷交换机平台，非常适合需要高端口密度和实用迁移路径的大型或混合代际环境。

NVIDIA Unified Fabric Manager (UFM) 是用于 NVIDIA Quantum InfiniBand 部署的网络管理平台。UFM (作为集成设备以及独立软件提供) 处理网络中的调配、实时监控、诊断和主动故障排除。NVIDIA UFM Cyber-AI 是一款专用设备，用于在可能预示安全威胁或硬件问题的异常网络行为影响到作业之前将其检测出来。

这是组织在扩展现有集群或分阶段建设时的一个常见考虑因素。一般来说，NVIDIA Quantum InfiniBand 的设计是向前兼容的：在不同代际的 InfiniBand 上运行的适配器和交换机将自动协商到适当的共同速度。对于需要连接 Quantum-X800 (XDR，800 Gb/s) 和 Quantum-2 (NDR，400 Gb/s) 环境的部署，NVIDIA 推荐 Q3200，这是一款专为桥接这两代产品而设计的多速率交换机。NVIDIA InfiniBand 交换机文档中介绍了使用 Q3200 时拓扑、端口映射和网络配置的特定设计考虑事项。

是的。NVIDIA Skyway™ 设备专为这类用例设计，提供 InfiniBand 到以太网网关。Skyway 允许 InfiniBand 计算集群与以太网连接的存储系统、管理网络或其他以太网基础设施进行通信，而无需对任何一种环境进行更改。随着跨网络带宽需求的增长，可以增量部署和扩展多台 Skyway 设备。