NVIDIA DGX Cloud 基准测试

对 NVIDIA AI 基础设施上的 AI 工作负载性能进行优化

概览

借助 DGX Cloud 基准测试对重要指标进行衡量

NVIDIA DGX™ Cloud 基准测试是一套能够消除猜测因素、精准衡量 AI 工作负载与基础设施性能的工具、方案和服务。作为 NVIDIA DGX Cloud 的重要组成部分,DGX Cloud 基准测试为跨平台性能的评估提供了一种客观的标准化方法,这对于优化 AI 工作负载和加速实现结果具有重要意义。

您的基础设施在应对最新的 AI 工作负载时表现如何?

通过一整套工具、方案和服务,提高 NVIDIA AI 基础设施和 AI 工作负载的性能。

探索 DGX Cloud 性能基准测试方案

通过性能方案优化您的 AI 工作负载,并在您的环境中快速设置和运行标准化基准测试方法。

什么是 DGX Cloud 基准测试?

借助 DGX Cloud 基准测试的整套工具、服务和方案,对任意 NVIDIA 基础设施上的 AI 工作负载性能进行优化。

利用 Performance Explorer,用户可以确定理想的 GPU 数量,从而尽可能缩短训练总时长,降低成本。其目的是确定与给定工作负载适配的 GPU 数量,从而使跨不同项目和团队的吞吐量实现最大化,同时尽可能降低成本。

特性

借助 DGX Cloud 基准测试优化您的 AI 工作负载

优化 AI 工作负载的要素

探索性能方案,这些即用型模板可用于评估特定 AI 工作负载在各个软硬件组合中的性能。

充分发挥 AI 基础设施的潜能

利用 Performance Explorer 确定与给定工作负载适配的资源,从而使跨不同项目和平台的吞吐量实现最大化,同时尽可能降低成本。

与我们的专家联系

当您加入 DGX Cloud 基准测试计划时,即可在 AI 工作负载的比较测试与优化方面获得 NVIDIA 顾问的指导。

NVIDIA Exemplar Clouds

NVIDIA Exemplar Clouds 计划将安全性、易用性、性能及弹性标准全面提升至与我们的 DGX Cloud 参考架构相匹配的水平

优势

优化 AI 工作负载在各个平台上的性能表现

借助 DGX Cloud 基准测试,最大限度发挥 AI 工作负载环境的作用,释放 AI 基础设施的全部潜力。

衡量真实的 AI 工作负载 TCO

利用实时和端到端性能数据确定哪个平台能够提供最快的训练速度或所需的 GPU 扩展,以及成本如何。

加速 AI 结果的实现

根据为现代生成式 AI 应用性能量身定制的端到端指标,对 AI 工作负载进行微调和优化。

基准测试指标不仅限于 FLOPS

评估范围不局限于 GPU,而是扩展至基础设施软件、云平台及应用配置等维度,以便全面了解工作负载的性能。

与“良好”的定义相匹配

获得标准化且客观的平台性能衡量方法,了解给定工作负载或用例的预期性能。

资源

详细了解关于 DGX Cloud 基准测试的信息

后续步骤

准备好开始了吗?

借助 DGX Cloud 基准性能方案,大幅加速 NVIDIA AI 基础设施上的 AI 工作负载。

连接全球 GPU 计算资源

跨多个云平台发现、获取、开发、定制和部署 AI 应用以及其他 GPU 加速工作负载。

在 DGX Cloud 上进行训练、调优和部署

探索全托管平台与服务,在代理式 AI 与物理 AI 时代对任务关键型工作负载进行从开发到部署的全流程迁移。