什么是 AI 工厂？

AI 工厂是一种专业计算基础设施，通过管理整个 AI 生命周期 (从数据采集到训练、微调和大量 AI 推理），从数据中创造价值。其主要产品是智能，通常以 Token 吞吐量来衡量，用于推动决策制定、自动化流程以及新的 AI 解决方案。

数据中心能处理各领域的通用计算任务，而 AI 工厂则专门针对人工智能工作负载进行优化，尤为注重 AI 推理性能和能源效率。

AI 工厂通过一系列相互关联的流程和组件开展运行，其中每个环节都用于优化 AI 模型的创建和部署。下面来深入了解一下 AI 工厂如何工作：

数据工作流为构建智能、安全和可扩展的大语言模型 (LLM) 奠定了战略基础。这些工作流对于大语言模型的成功至关重要，因为它们将原始的非结构化数据转化为模型可高效学习的高质量结构化 Token，而高质量数据是现代智能的基础。精心设计的数据工作流可确保在数据集之间保持数据的整洁性和一致性，并最终大规模影响模型行为。

AI 推理是贯穿 AI 生命周期的关键迭代过程，通过推理，经过训练的模型会实时生成预测和决策。在 AI 工厂中，这一流程支持从实时推荐、欺诈检测到自主导航和生成式应用等各类功能。全栈 AI 推理基础设施支持在云端、混合和本地环境中实现低延迟、经济高效的响应。由于 AI 推理模型需要迭代推理，因此需要更多的计算，AI 工厂通过不断优化吞吐量、延迟和效率来适应这一需求。推理输出也会反馈到系统，形成一个数据飞轮，随着时间的推移提高模型精度，并支持各行业的可扩展智能自动化。

AI 工厂数字孪生使团队能够在施工开始之前在统一的虚拟环境中对设施的各个方面进行设计、模拟和优化。通过将跨系统的 3D 数据整合到单个仿真中，工程团队可以实时协作，立即测试设计变更，对故障场景建模并验证冗余。这种方法可简化规划，降低风险，并加速新一代 AI 基础设施的部署。

所需的 AI 基础设施包括硬件和软件，以确保 AI 的无缝部署和运行。硬件组件包括高性能 GPU、CPU、网络、存储和高级冷却系统。软件组件采用模块化、可扩展和 API 驱动的设计，将所有部分整合成一个紧密协作的系统。这种采用企业验证的设计和参考架构构建的集成生态系统，支持持续更新和可扩展性，助力企业与 AI 的发展保持同步。

自动化工具用于减少人工操作，并在从超参数调优到部署工作流程的整个 AI 生命周期中保持一致性。这可确保 AI 模型保持高效、可扩展且不断改进，而不会因人为干预而减慢速度。自动化工具对于保持大规模 AI 运营所需的高吞吐量和可靠性至关重要。

AI 工厂带来诸多优势，使企业能够更有效地利用数据和 AI 来保持竞争力：

1. 将原始数据转化为收益：AI 工厂将原始数据转化为可操作的智能，以推动业务决策并创造收益。

2. 优化整个 AI 生命周期：从数据采集到大规模推理，AI 工厂简化并优化 AI 开发过程的每一步。

3. 提高功效：AI 工厂专为加速计算而打造，专为处理计算密集型任务而设计，为代理式 AI 和物理 AI 工作负载提供显著的性能和能效改进。

4. 高效扩展 AI 部署：AI 工厂可实现主权 AI 基础设施和企业 AI 基础设施的高效纵向扩展和横向扩展。

5. 提供安全且适应性强的生态系统：AI 工厂提供了一个支持持续更新和扩展的安全环境，使企业能够和 AI 的发展保持同步。

AI 工厂的多功能性意味着几乎任何行业都可以借助其实现 AI 驱动的创新并提升效率。其中，公共部门、汽车、医疗健康、电信和金融行业的 AI 举措尤为突出。

AI 将成为国家基础设施的一部分，就像水、道路或电信等其他公用设施是国家基础设施的一部分一样。通过投资主权 AI 工厂，政府可以创造经济机会、推动科学突破、应对社会挑战、利用地区特定的数据集培育本土语言模型，并在全球 AI 领域处于领先地位。

AI 工厂通过提供高性能计算和实时数据处理能力，支持制造先进的机器人和智能汽车，这对于训练复杂的 AI 模型和做出快速、准确的决策至关重要。它们还支持持续学习和优化，确保这些系统随着时间的推移变得越来越安全可靠。此外，AI 工厂通过自动化优化制造流程，缩短生产时间并降低成本。

在医疗健康领域，AI 工厂通过分析大量数据集来识别新的药物候选方案并为个别患者定制治疗，为药物研发和个性化医疗提供支持。生成式 AI 在这一过程中发挥着至关重要的作用，它能够创造新型药物分子和治疗方案。这可以带来更有效、更个性化的医疗健康解决方案，并在降低成本的同时改善患者的治疗效果。

电信公司正在利用 AI 工厂提高网络效率和客户服务水平。例如，挪威的 Telenor 启动了一家 AI 工厂来加速 AI 采用，重点提升员工技能并促进可持续发展。AI 工厂还可以帮助优化网络性能和减少停机时间，并通过 AI 应用 (包括使用 LLM) 提供更个性化、响应更快的客户服务。

AI 工厂整合了金融机构生成智能所需的所有组件，结合了用于金融服务行业 AI 应用的硬件、软件、网络和开发工具。

凭借强大的基础设施和端到端平台，AI 工厂可确保提供必要的计算能力以支持金融行业的 AI 赋能用例，包括支付中的交易欺诈检测、银行业务的客户支持以及资本市场中的算法交易。

AI 工厂可以部署在多种环境：

这些解决方案提供对数据和性能的完全控制，因此非常适合需要高安全性和特定性能标准的企业组织。

基于云的解决方案提供可扩展性和灵活性，使企业组织能够根据需要调整资源，并随时随地访问 AI 功能。

混合解决方案使企业组织能够平衡安全性并控制与云的可扩展性。通过将本地 AI 架构与云资源整合，企业可以优化成本、增强性能并确保合规性，同时保持对高级 AI 功能的访问。

为了推动 AI 时代的下一波创新浪潮，NVIDIA 提供了一个完全集成和优化的平台来构建 AI 工厂。

NVIDIA Enterprise AI Factory 是一个全栈验证设计，供企业构建和部署自己的本地 AI 工厂。

这些 GPU 提供了训练复杂 AI 模型所需的计算能力。

NVIDIA® NVLink™ 和 NVLink 交换机互连产品可实现多个 GPU 之间的高速通信，这对于处理大规模 AI 工作负载至关重要。

NVIDIA Quantum InfiniBand 和 Spectrum-X™ 以太网确保强大且高效的网络，这对于 AI 工厂内的数据传输和通信至关重要。

这包括用于高性能深度学习推理的 NVIDIA® TensorRT™ 生态系统、用于优化 AI 工作流的 NVIDIA Dynamo、用于简化部署的 NVIDIA NIM™ 微服务，以及用于持续定制和学习的数据飞轮。

NVIDIA Omniverse™ 数字孪生平台有助于使用数字孪生设计、测试和优化新一代智能制造业数据中心。