概览
NVIDIA DGX™ Cloud 基准测试是一套能够消除猜测因素、精准衡量 AI 工作负载与基础设施性能的工具、方案和服务。作为 NVIDIA DGX Cloud 的重要组成部分,DGX Cloud 基准测试为跨平台性能的评估提供了一种客观的标准化方法,这对于优化 AI 工作负载和加速实现结果具有重要意义。
借助 DGX Cloud 基准测试的整套工具、服务和方案,对任意 NVIDIA 基础设施上的 AI 工作负载性能进行优化。
利用 Performance Explorer,用户可以确定理想的 GPU 数量,从而尽可能缩短训练总时长,降低成本。其目的是确定与给定工作负载适配的 GPU 数量,从而使跨不同项目和团队的吞吐量实现最大化,同时尽可能降低成本。
借助 DGX Cloud 基准测试,最大限度发挥 AI 工作负载环境的作用,释放 AI 基础设施的全部潜力。
利用实时和端到端性能数据确定哪个平台能够提供最快的训练速度或所需的 GPU 扩展,以及成本如何。
根据为现代生成式 AI 应用性能量身定制的端到端指标,对 AI 工作负载进行微调和优化。
评估范围不局限于 GPU,而是扩展至基础设施软件、云平台及应用配置等维度,以便全面了解工作负载的性能。
获得标准化且客观的平台性能衡量方法,了解给定工作负载或用例的预期性能。
跨多个云平台发现、获取、开发、定制和部署 AI 应用以及其他 GPU 加速工作负载。
探索全托管平台与服务,在代理式 AI 与物理 AI 时代对任务关键型工作负载进行从开发到部署的全流程迁移。