数据中心解决方案

了解 IT 领导者如何扩展和管理数据中心以快速采用 NVIDIA AI。

从 AI 和数据分析,到高性能计算 (HPC),再到渲染,数据中心都是攻克某些重要挑战的关键。端到端的 NVIDIA 加速计算平台对硬件和软件进行了集成,可为企业构建强大而安全的基础设施蓝图,支持在所有现代化工作负载中实施开发到部署的操作。

AI 和元宇宙时代的盛会

开发者大会 3 月 20-23 日 | 主题演讲 3 月 21 日

请勿错过 GTC 上的这些前沿 AI 应用会议

李星澜:一个基于实时智能交互系统打造的“真实”数字生命

智能 NPC 和数字人的概念长期以来一直应用于娱乐行业和社交媒体平台,包括人工智能驱动的主持人、评论员和网红。但开发具有高视觉保真度的逼真智能 AI 通常需要大量时间,而且成本很高,很难扩大规模。 在科幻生存游戏《星球重启》项目中,我们提出了一个 GPU 驱动的系统,包括文本到语音模块、音频到全身动画模块、视频分析模块、渲染模块和聊天机器人模块,基于这些模块可以构建一个逼真的实时交互数字人。在 NVIDIA Omniverse 的支持下,我们可以实时高效地渲染李星澜,而且其中的动画模块将根据后端聊天机器人的输出自动驱动角色模型的运动。动画模块和后台聊天机器人都是基于自定义开发的深度神经网络。使用 NVIDIA Omniverse ACE,我们能够在两天内完全训练 audio2motion 和 text2speech 模型,并在 5 天内训练超大参数的 Chatbot 神经网络模型,我们使用了超过 10tb 的训练数据。 在本次演讲中,我们将介绍如何利用 NVIDIA Omniverse 和 NVIDIA GPU,利用计算机图形学和人工智能功能构建李星澜数字人项目。

飞桨深度学习平台高效支持大模型生产及应用

源于百度业务对人工智能技术的广泛应用,飞桨深度学习平台结合应用持续创新,研发了业界领先的大规模分布式训练技术。飞桨先后发布了4D混合并行训练、端到端自适应分布式训练、超大规模图训练引擎等核心技术,并基于这些技术支持文心大模型的训练和部署。目前,文心大模型已经覆盖基础大模型、任务大模型、行业大模型的三级体系,飞桨+文心大模型赋能千行百业的智能化升级。

GPU 加速大规模向量索引构建

大规模向量检索引擎在腾讯诸多业务中有所应用,在百亿级召回场景中提供低延迟、高召回率的在线服务。但随着索引规模的增加,向量索引的构建已经成为日常索引更新瓶颈。离线向量 IVF 索引构建,在引入 GPU 优化之前,索引构建工作依托 Hadoop 平台进行,引入 NVIDIA GPU 改造后索引构建成本降低 60%。索引构建的优化工作主要由两部分组成: 1. IVF KMeans 聚类。在百亿规模向量索引场景下索引构建需要产出千万级的聚类中心。与 NVIDIA 深入合作,集成开源的 RAPIDS Raft 计算库中分层 Kmeans 算法代替原有的 CPU 聚类方法,使用 cutlass 加速向量矩阵运算,使得 Kmeans 训练耗时压缩 90%。 2. 百亿向量在海量聚类中心上的 FIT 过程。百亿级的向量在千万级聚类中心的 FIT 在原有的索引构建方案中是耗时最大的步骤。通过引入 GPU cutlass 加速,FIT 耗时压缩 75%。

点播观看所有激发灵感的 GTC 大会会议。

AI 与元宇宙时代的开发者大会

聆听创新者、思想领袖和决策者的分享,了解他们如何利用 AI、高性能计算、虚拟化、数据科学等的强大功能塑造现代数据中心。

  • 从开发到规模化生产:适用于现代应用的 IT 手册

    • Justin Boitano,NVIDIA 企业和边缘计算副总裁

    数据分析、人工智能、3D 设计和仿真领域的现代应用正在转变每个企业和组织,但也给 IT 团队带来了新的挑战,使得他们需要在维护现有企业应用的同时运行并扩展这些新的工作负载。我们将探索现代数据密集型应用的端到端工作流及其软硬件基础设施要求:从连接大型数据集到加速计算资源,到管理和扩展核心原生云工作负载,再到在边缘安全部署新创建的应用,以及深入观察所有活动来实时检测和解决异常情况。在这个日趋复杂的时代,除了已经蓬勃发展的应用之外,您还有必要学习一些新的方法,以便能够在熟悉的基础设施上运行、管理、扩展和保护现代工作负载。

    查看详情 >

  • 深入了解 NVIDIA AI Enterprise 软件套件的新功能

    • Emily Apsey,NVIDIA 技术营销经理
    • Anne Hecht,NVIDIA 企业产品高级营销总监

    IDC 最近的一项研究显示,预计到 2024 年,全球企业 2000 强中的 60% 将在其所有关键业务职能中使用 AI。然而,实施 AI 并非易事。Gartner 指出,事实上,近一半的 AI 项目从未投产过。NVIDIA AI Enterprise 软件套件可帮助企业组织在其数据中心和公有云中成功部署 AI。欢迎加入我们的技术深度探讨,了解如何开发、扩展和管理 AI 工作负载。我们将讨论最新的增强功能,包括 NVIDIA 主要合作伙伴相关资讯,并分享客户如何使用这些增强功能加速其 AI 之旅。

    查看详情 >

  • 持续不断的计算演变

    • Michael Kagan,NVIDIA 首席技术官

    NVIDIA 首席技术官 Michael Kagan 介绍了云计算架构、连接、优化和管理方式的持续变化和新突破。参加此会议,了解为什么计算的演变永远不会停滞不前,以及为什么计算中唯一不变的是计算方式的持续变化。加速计算掀起了 AI 革命的浪潮,推动了人们对于数据驱动型服务的需求。这些新型服务在数据中心和边缘推动了算法、芯片、网络、软件、能效、散热管理和设备的创新,而这些都通过云进行连接。新款智能手机、最新的应用,以及开发新药和自动驾驶领域的竞赛,似乎是所有这些创新的推动因素。这就是持续不断的计算演变。计算的执行位置及其分布和管理方式都在不断发生转变。压力无处不在,推动着计算变得更快捷、更轻松、更高效且更安全。这一切都需要对芯片、互连产品、系统设计、数据中心设计、不同级别的功耗、散热管理、软件以及算法等进行自上而下的优化。

    查看详情 >

gtc22-fall-cio-data-center-gtc-promo-blade-3speaker-2c50-d-1@2x

NVIDIA 统一平台

借助基于 GPU、DPU 和 CPU 三种新一代架构构建的 NVIDIA 加速计算平台,重塑 AI 时代的数据中心。凭借涵盖性能、安全性、网络等领域的前沿技术,这些架构可以应对现代数据中心的各种挑战。

加速计算解决方案

适用于现代数据中心的架构

Hopper GPU 架构

Hopper GPU 架构

NVIDIA Hopper 架构凭借出色的性能、可扩展性和安全性,为各数据中心的新一代加速计算提供助力。从小型企业到百亿亿次级高性能计算 (HPC) 和万亿个参数的 AI,Hopper 可安全扩展各种工作负载,让出色的创新者能够以更快的速度完成其毕生工作。

Grace CPU 架构

Grace CPU 架构

NVIDIA Grace 架构专为新兴的数据中心类型,即 AI 工厂而设计,AI 工厂处理和提炼大量数据以产生智能。这些数据中心可运行各种工作负载,包括 AI 训练和推理、高性能计算 (HPC)、数据分析、数据孪生、云图形和游戏,以及数千款云应用。

BlueField DPU 架构

BlueField DPU 架构

NVIDIA® BlueField® DPU(数据处理器)为数据中心和超级计算基础设施带来了非凡的创新。通过对各种高级网络、存储和安全业务进行卸载、加速和隔离,BlueField DPU 可为云端、数据中心或边缘计算等环境中的各种工作负载提供安全加速的基础设施。

了解数据中心的完美协调

 

了解由 NVIDIA 加速计算平台精心协调并在 NVIDIA Omniverse 中变为现实的现代数据中心。

开发到部署

基于云的 GPU 解决方案

从云……

借助基于云的 GPU 解决方案,企业可以随时随地访问高密度计算资源和功能强大的虚拟工作站,而无需构建实体数据中心。

GPU 加速的 AI 和数据分析

到办公室……

无论是通过虚拟桌面、应用、工作站,还是云端的优化容器,数据科学家、研究人员和开发者都可以在自己的办公桌上为经 GPU 加速的 AI 和数据分析提供支持。

GPU 加速数据中心可为计算和图形工作负载提供高性能

到数据中心……

GPU 加速的数据中心可凭借更少的服务器,为各种规模的计算和图形工作负载提供出色性能,从而让您能更快地获取见解并大幅降低成本。这类数据中心不仅可以存储、处理和分析敏感数据,还能维护操作的安全性。

边缘 AI 平台助力推动实时决策

再到边缘端

边缘 AI 需要一个可扩展的加速平台,该平台能够实时推动决策,并让各个行业都能在行动层面(商店、制造工厂、医院和智慧城市)实现自动化智能。

使用 NVIDIA LaunchPad 让您的企业驶入发展快车道

从搭载 NVIDIA Triton 推理服务器的 AI 赋能聊天机器人,到使用 TensorFlow 进行图像分类,您可以通过各种免费的实操实验,即刻使用 NVIDIA 企业解决方案。

构筑未来的安全加速数据中心

NVIDIA 首席技术官 Michael Kagan 分享在现代数据中心中结合 GPU、CPU 和 DPU 将如何改变计算。

NVIDIA Ampere 架构

高性能数据中心的核心。

NVIDIA Ampere 架构专为弹性计算时代而设计,无论计算规模如何,此架构都能提供卓越的加速性能,从而助力创新者实现终身事业。

适用于各类工作负载

  • 分析
  • 训练
  • 推理
  • 高性能计算
  • 渲染
  • 虚拟化
NVIDIA GPU 加速的分析

数据分析

企业每天都在产生和收集远胜以往的海量数据,而缺少 GPU 加速分析则会错失海量信息所蕴含的机遇。掌握的数据越多,了解的信息就越多。借助 NVIDIA 数据中心平台,企业将能比以往更快地从其数据中获得可行见解。

NVIDIA 数据中心平台

AI 训练

深度学习数据集正变得愈发庞大而复杂,诸如对话式 AI、推荐系统和计算机视觉之类的工作负载已在整个行业中变得越来越常见。NVIDIA 数据中心平台(包括硬件和软件)可大幅加速 AI 训练,从而打造高效的数据科学团队,显著节约成本,并缩短投资回报时间。

NVIDIA 多实例 GPU (MIG)

AI 推理

如要加速数据中心中的推理工作负载,则需要使用灵活且有弹性的基础设施,这样的基础设施可以横向扩展并能充分利用所有可用的计算资源。采用多实例 GPU (MIG) 等新技术,NVIDIA 解决方案的独特之处就是加速推理工作负载(例如图像识别、推荐系统和自然语言处理),提供应用 AI 所需的更高吞吐量和实时响应能力。

高性能计算数据中心

高性能计算

HPC 是推动数据中心中相关科学发展的重要工具之一。NVIDIA GPU 是现代 HPC 数据中心的引擎,已在多个领域中累计优化超过 700 个应用。NVIDIA 数据中心平台利用更少的服务器提供突破性性能,从而更快地获得见解并大幅降低成本,为科学发现铺平了道路。

NVIDIA RTX 服务器

渲染

各行各业的设计师和艺术家均需以远超以往的速度制作更优质的内容,但基于 CPU 的低效渲染解决方案限制了工作效率。NVIDIA RTX 服务器突破了昂贵 CPU 渲染场的局限,其拥有高度灵活的参考设计,可与 NVIDIA 软件和领先的第三方软件共同配置使用,进而可加速超复杂的渲染工作负载。

适用于图形丰富的虚拟桌面和工作站的 NVIDIA 虚拟 GPU 解决方案

虚拟化

NVIDIA 虚拟 GPU 解决方案可为现代化虚拟数据中心提供支持,并可通过 NVIDIA 虚拟 GPU (vGPU) 软件提供具有丰富图形的可扩展虚拟桌面和工作站。这些解决方案不仅能够在虚拟机上运行计算密集型的服务器工作负载(包括 AI、深度学习、数据科学和 HPC),还可充分发挥经提升的可管理性和安全性所带来的优势。

资源

NVIDIA 深度学习培训中心探索 AI 和 GPU 计算

NVIDIA 深度学习培训中心 AI 入门课程

NVIDIA 深度学习培训中心 (DLI) 打造的线上自主课程专为企业 IT 人员而设计,不仅涵盖 AI、GPU 计算、NVIDIA AI 软件架构的相关知识,还将教您如何在数据中心中实施并扩展 AI 工作负载。

AI 平台助力解决业务挑战

各行业的 AI 实施解决方案

通过这本电子书,您将了解不同行业如何通过将强大的 AI 平台集成到现有工作流中,进而攻克所面临的业务挑战并提高投资回报率。

具备高性能企业级软件的数据中心基础设施

利用经 GPU 优化的软件实现加速

为保持竞争力,业内领导者需要从他们的数据中快速获得可行见解。但随着数据集规模的不断扩大,以及对话式 AI 和计算机视觉等计算密集型工作负载的愈发常见,企业需要使用高性能的企业级软件为其数据中心基础设施提供支持,以便获得这些见解。

加速工作负载

立即试用超快速的 GPU 加速器
或 NVIDIA DGX 系统。

购买渠道

通过我们的 NVIDIA 合作伙伴网络 (NPN) 找到 NVIDIA 加速计算合作伙伴。