加速和优化网络性能。
概览
NVIDIA 网络软件提供全面的产品系列,通过最大限度地提高代理式 AI 的性能并简化其运营,优化端到端网络平台。它能够加速和卸载网络工作负载,同时增强端到端可见性,从而缩短首个 Token 生成时间并提高投资回报率。
产品
全面的产品系列可确保十亿瓦级 AI 工厂的高效持续运营。
NVIDIA DOCA™ 是一个统一的软件平台,可充分发挥 NVIDIA® BlueField® 和 NVIDIA® ConnectX® 在代理式 AI 方面的潜力。它提供 SDK、库、企业级微服务和编排框架,涵盖网络、AI 原生存储、运行时安全、遥测和生命周期管理等方面,从而加速、保护和扩展生产级 AI 工作负载。DOCA 是构建和运行智能、高性能 AI 工厂基础设施的软件基础。
借助 DSX Air,企业组织可以对其数据中心基础设施进行全栈仿真。通过提供一个云端托管的虚拟环境,DSX Air 可以在硬件设备开箱之前实现 Day 0 操作。这包括网络配置、自动化、安全策略等方面的设计、测试和验证。
NVIDIA NetQ™ 是一款高度可扩展的网络运营工具集,可实时提供 NVIDIA NVLink™ 交换机和 NVIDIA Cumulus® 网络的可视化、故障排除、关联分析和验证。NetQ 利用遥测技术提供关于数据中心网络运行状况的可执行洞察,确保 AI 网络结构平稳运行。
NVIDIA UFM® 平台将增强的实时网络遥测与 AI 赋能的网络安全智能和分析相结合,以支持大规模 InfiniBand 互连数据中心,从而提供了全新的数据中心网络管理方式。
NVIDIA Cumulus Linux 架构是业界最具创新性的开放网络操作系统。它遵循易于实施和管理、可定制化和可扩展性的指导原则开发而成。
NVIDIA 提供原生社区版 SONiC,这是一款由社区开发的开源 Linux 网络操作系统,已在一些大型云服务提供商的数据中心得到实战检验。
发布版本
使用 NVIDIA DSX Air 仿真一个完全自动化的网络拓扑。
网络在很大程度上决定 AI 性能,充当数据中心的骨架,以发挥生成式 AI 的强大功能。
Spectrum-X 以太网平台专为提升基于以太网的 AI 基础设施的性能和效率而设计。