概览
NVIDIA 企业参考架构使企业组织能够利用经过验证、可重复的基础设施来设计、部署和扩展高性能 AI 工厂。 这些设计方案结合了经认证的计算能力、高速的东西向和南北向网络、可观测性工具以及软件,确保从四节点集群到企业级环境都能实现可扩展的性能。
企业参考架构
关于在数据中心设置集群的全套说明现已推出。
优势
利用经过验证、合作伙伴就绪的配置,解锁可扩展的高性能 AI 基础设施。
通过确保多节点集群间 GPU 充分利用及性能一致性的架构,满足 AI 推理、微调和训练的严苛需求。
简化部署流程和高效设计,降低复杂性和总体拥有成本 (TCO),同时缩短实现价值的时间。
遵循特定的、标准化的设计模式,实现不同安装之间的一致操作,减少频繁支持的需求,并实现更快的解决时间。
合作伙伴
我们很荣幸能与领先的合作伙伴合作,将企业参考架构和 AI 工厂解决方案推向市场。这些合作伙伴的认可设计已通过我们的设计评审委员会,提供的指南在以下一个或多个领域赢得了我们的认可:基础设施、网络逻辑和软件。
Palantir 主权 AI 操作系统参考架构基于 NVIDIA 企业参考架构构建,经过测试与认证,可在 NVIDIA AI 基础设施上与我们全球的系统合作伙伴一起运行 Palantir 的完整软件套件。这种主权 AI 架构对于具有延迟敏感型工作流程、数据所有权要求以及高地理分布需求的客户至关重要。该架构为企业提供了对其数据、AI 模型和应用的完全控制权。
资源
NVIDIA 构建了一个统一的 AI 工厂,将生成式 AI 和智能体工作流扩展至整个企业,确保安全性、性能和一致性。该平台支持数百个 AI 智能体,能够加速创新、简化软硬件工程流程并优化供应链运营——将规划时间缩短 95% 以上,一年内完成了相当于数十年的工程工作量。