NVIDIA Rubin 平台

Rubin 平台采用了全新的 Transformer 引擎，该引擎通过硬件加速的自适应压缩技术，在保持精度的同时提升 NVFP4 性能，支持高达 50 PFLOPS 的 NVFP4 推理能力。该 Transformer 引擎与 NVIDIA Blackwell 完全兼容，确保无缝升级，使之前经过优化的代码能够轻松迁移到 Rubin 平台。

第六代 NVLink 实现了 NVIDIA 高速 GPU 互连结构的重大飞跃，该结构将 72 个 NVIDIA Rubin GPU 整合为一个统一的性能域。与 NVIDIA Blackwell 相比，Rubin 的性能翻倍，为每个 GPU 提供每秒 3.6 万亿字节 (TB/s) 的带宽，以及低延迟的 260TB/s 的连接能力，以实现更快的通信。结合 NVIDIA® Scalable Hierarchical Aggregation and Reduction Protocol (SHARP)，可将聚合运算的网络拥塞率降低高达 50%，从而大规模且无损地加速全球大型模型的训练和推理。

NVIDIA Vera CPU 专为跨加速系统的数据移动和代理式推理而设计，并提供全面的机密计算支持。它与 NVIDIA GPU 无缝搭配，或独立运行于分析、云计算、编排、存储和高性能计算 (HPC) 工作负载。Vera 结合了 88个NVIDIA 设计的内核、高达 1.2TB/s 的 LPDDR5X 内存带宽以及 NVIDIA 可扩展一致性结构，为数据密集型和内存密集型工作负载提供可预测且节能的性能，同时完全兼容 Arm® 架构。集成的 NVLink-C2C 连接可实现高带宽、一致的CPU-GPU内存访问，以最大化系统利用率和效率。