NVIDIA Grace CPU 超级芯片

云和数据中心解决方案

NVIDIA CPU 平台

专为 AI 工厂打造。

概览

新一代数据中心的引擎

NVIDIA CPU 平台为现代 AI 基础设施AI 工厂奠定了基础。NVIDIA Vera 专为代理式 AI 和强化学习而设计,可运行工具调用、沙盒代码执行、数据工作流、分析和编排,以确保大规模 AI 工厂正常运行。NVIDIA Grace™ 将 NVIDIA 的 CPU 平台扩展到加速计算、超大规模云、边缘端和电信环境,共同构筑起 AI 工厂的 CPU 基石。

NVIDIA Vera CPU

NVIDIA Vera 专为代理式 AI 和 AI 工厂的 CPU 密集型工作而设计,这些工作包括工具调用、沙盒代码执行、编排、分析、云服务和存储。Vera 与 NVIDIA GPU 配合使用,作为加速系统的主机 CPU,或者在数据中心独立运行,确保 AI 工作流高效运转。

优势

技术突破

利用 NVIDIA NVLink-C2C 加速 CPU 到 GPU 的连接

NVIDIA Vera 使用第二代 NVIDIA NVLink™ 芯片到芯片 (C2C) 连接 CPU 和 GPU,双向带宽达 1.8 TB/s,比 PCIe Gen 6 快 7 倍,可实现高效的数据传输并降低内存管理复杂性。

利用 LPDDR5X 发挥高能效 CPU 内存的优势

NVIDIA CPU 使用带纠错码的 LPDDR5X 内存,将服务器级可靠性与高能效的数据移动相结合。在 NVIDIA Vera 中,LPDDR5X 提供高达 1.2 TB/s 的内存带宽,帮助满足代理式 AI、分析和编排工作负载的需求,同时降低 AI 工厂基础设施的内存功耗。

利用先进的 CPU 架构提升性能和效率

NVIDIA Vera 采用定制的 NVIDIA Olympus Arm® 兼容 CPU 核心和第二代 NVIDIA 可扩展一致性结构 (SCF),在负载下提供出色的单线程性能、海量的数据移动和可预测的吞吐量。NVIDIA Grace 采用高性能、基于 Arm 的 CPU 核心以及 NVIDIA SCF,为加速计算、云、边缘端和数据中心工作负载提供高效性能。

多种配置,适用于加速负载和 CPU 工作负载

NVIDIA CPU 平台支持灵活的 AI 工厂设计,从 NVIDIA Vera Rubin 和 NVIDIA Grace Blackwell 等紧密集成的 CPU–GPU 架构,到独立的单插槽和双插槽 CPU 服务器。Vera 将平台扩展到代理式 AI、强化学习、分析、编排和存储,而 Grace 为加速计算和高能效计算提供经过验证的 CPU 基础。

产品

浏览 CPU 产品阵容

NVIDIA Grace CPU

为现代数据中心带来突破性的 CPU 性能和效率。

NVIDIA Grace CPU 超级芯片

Grace CPU 超级芯片由两个 Grace CPU 组成,这两个 CPU 通过 NVIDIA NVLink-C2C 以 900 GB/s 的速度耦合连接。它将 144 个 Arm Neoverse V2 核心封装到单个模块中,并配备服务器级 LPDDR5X 显存,可提供高达 1 TB/s 的显存带宽。

NVIDIA Grace CPU C1

NVIDIA Grace CPU C1 是一个单插槽高性能服务器平台,在性能和带宽方面无损兼顾。它针对包括超大规模云、内容交付网络 (CDN)、存储、电信以及其他高性能边缘平台在内的可扩展平台和边缘平台进行了优化。


NVIDIA CPU 和 GPU

连接 NVIDIA CPU 和 GPU,实现大规模 AI 和 HPC 应用。

NVIDIA GH200 Grace Hopper 超级芯片

NVIDIA Grace Hopper™ 超级芯片通过 NVLink-C2C 将 Grace CPU 与 Hopper GPU 架构相结合,为加速 AI 和 HPC 工作负载提供统一的内存空间。

NVIDIA GB200 NVL4

NVIDIA GB200 NVL4 开辟了融合式 HPC 和 AI 的未来,通过四个由 NVLink 桥连接的 NVIDIA Blackwell GPU 和两个由 NVLink-C2C 连接的 NVIDIA Grace CPU,提供革命性的性能。它与液冷 NVIDIA MGX™ 模块化服务器兼容,在科学计算、科学 AI 训练和推理应用方面的性能比上一代产品提升 2 倍。

资源

详细了解 NVIDIA CPU 平台

面向新工业革命的 AI 工厂

了解 AI 工厂如何生成 Token 来助力构建充满无限可能的未来——由人类的智慧和 NVIDIA 加速推进。

NVIDIA Grace CPU 超级芯片

面向现代数据中心的突破性 CPU,与领先的传统 CPU 相比,在相同功耗下提供两倍的性能。

NVIDIA 首席执行官黄仁勋的 GTC24 主题演讲

观看 NVIDIA 首席执行官黄仁勋的 GTC 主题演讲,掌握 AI 进展的最新动态,洞见未来发展趋势。

探索更多资源

后续步骤

及时了解 NVIDIA 新闻

注册即可获取 NVIDIA 的最新资讯、更新及更多内容。