适用于边缘计算的 NVIDIA EGX 平台

企业现在正在边缘运营,无论是工厂车间、商店、城市街道还是紧急护理设施都不乏企业的运营足迹。在边缘,数据从数十亿个 IoT 传感器传入边缘服务器进行处理,从而在需要时推动实时决策。如今,NVIDIA EGX 平台可将加速人工智能 (AI) 的强大功能引入边缘服务器,这使得智能零售智能医疗保健智能制造智能运输智慧城市 等一切任务皆有可能实现。

将实时 AI 引入边缘服务器

NVIDIA EGX 平台可凭借易于部署的云原生软件堆栈、一系列经过验证的服务器和设备,以及在其产品和服务中提供 EGX 的广泛合作伙伴生态系统,将加速 AI 计算的强大功能引入边缘服务器。

运行 AI 容器

NGC 注册表包含广泛的适用于 EGX 的 GPU 加速软件,包括要在 Kubernetes 上的部署的 Helm Chart。NGC 容器涵盖卓越的 AI 和数据科学软件,这些软件已由 NVIDIA 进行调整、测试和优化。该注册表还可让用户访问特定于第三方域的、预先训练的模型以及支持 Kubernetes 的 Helm Chart,以便轻松部署功能强大的软件或构建自定义解决方案。

云原生,边缘优先

NVIDIA EGX 是一款云原生、边缘优先且可扩展的平台,可让 IT 快速轻松地调配 GPU 服务器。EGX 的一个主要组件是 NVIDIA GPU Operator,它能够对所有必要组件的部署进行标准化和自动化,以调配支持 GPU 的 Kubernetes 集群。

支持 EGX 的服务器

EGX 硬件产品系列首先包含小型 NVIDIA® Jetson Nano™,它可以为图像识别等任务提供每秒 0.5 万亿次运算 (TOPS) 的处理速度,而功耗只有几瓦。该平台可以一直扩展为一套完整的 NVIDIA T4 服务器,可提供超过 10,000 TOPS 的处理速度,为数百名用户提供实时语音识别和其他复杂的 AI 体验。

更强大、更安全的边缘 AI

NVIDIA Ampere 架构具备强劲性能,而 Mellanox ConnectX-6 Dx SmartNIC 可增强安全性并降低延迟。NVIDIA EGX A100 将两者结合使用,从而在边缘提供更加安全的实时 AI 处理。

从边缘到数据中心的 AI 可扩展性

从边缘到数据中心的 AI 可扩展性

NVIDIA EGX 平台包括一系列可扩展的 NGC-Ready for Edge 验证服务器:从智慧城市中用于处理交通摄像头的 Jetson Nano,到在零售商店里屋中安装了 NVIDIA GPU 的单个边缘服务器,再到构成一个电信运营微数据中心的全套服务器,不一而足。无论是哪种外形尺寸,NVIDIA EGX 堆栈都全面兼容,让企业能够快速高效地将边缘操作从摄像头和设备扩展到远程大规模数据中心。

借助 AI 和 5G,加速物联网 (IoT) 革命

借助 AI 和 5G,加速物联网 (IoT) 革命

5G 即将迎来无线通信的新时代,将使延迟降低 10 倍,宽带速度提升 1000 倍。它还引入了网络切片的概念,网络切片允许电信公司为客户动态提供独特的服务。随着电信公司向 5G 过渡,他们将寻求在电信边缘运行一系列软件定义的应用程序(从 AI 和增强现实到虚拟现实和游戏)。有了 NVIDIA EGX 和新型 NVIDIA Aerial SDK,GPU 加速的和软件定义的虚拟无线接入网 (vRAN) 的到来将比您想象得要快。

NVIDIA EGX Stack

简化 IT 流程,助力边缘部署

使用 NVIDIA EGX 堆栈,在远程系统上安装软件时遇到的传统 IT 问题可迎刃而解。通过使用 Helm Chart、容器、持续集成和持续交付 (CI/CD),组织现在可以在几分钟内轻松部署更新的 AI 容器。

基于 Kubernetes 的 NVIDIA GPU Operator 解决了在 GPU 和 CPU 节点之间需要独特操作系统 (OS) 映像的问题。GPU Operator 将您需要的所有内容(驱动程序、容器运行时、设备插件以及对通过 Helm Chart 进行的部署的监控功能)捆绑在一起,以为 Tesla GPU 提供支持。现在,单个黄金主映像既包括 CPU 节点,也包括 GPU 节点。

Hybrid Cloud Management

与 Kubernetes 管理平台兼容

部署、扩展和管理生产级、企业级 Kubernetes 集群的能力至关重要。 领先的混合云平台合作伙伴 Canonical、Cisco Container Platform (CCP)、Nutanix、Microsoft Azure、Red Hat 和 VMware 都支持 EGX 堆栈架构。他们支持 GPU Operator,也就能确保这些集群是针对 GPU 工作负载配置的,而且这些集群能按更佳的统一方式运行。

跨越各个领域的边缘计算

NVIDIA EGX 平台为行业领先的边缘 AI 应用程序和框架提供一个统一的基础。

零售行业

零售行业

制造

制造

电信行业

电信行业

智慧城市

智慧城市

适用于 EGX 的企业级软件堆栈

适用于 EGX 的企业级软件堆栈

NVIDIA EGX 是经过优化的软件堆栈,其中包含 NVIDIA 驱动程序、Kubernetes 插件和容器运行时,并充当部署和管理容器化 AI 框架与应用程序(包括 NVIDIA TensorRT™、TensorRT 推理服务器和 DeepStream)的基础。NVIDIA EGX 堆栈已针对 NGC-Ready for Edge 服务器进行优化,并且您可以在 NVIDIA NGC 注册表 中获取用于安装的 Helm Chart。

EGX 合作伙伴

  • 边缘服务器制造商
  • 混合云平台合作伙伴
  • Jetson Micro 边缘服务器合作伙伴
Acer
Advantech
ASRock Rack
Asus
Atos
Cisco
Dell EMC
Fujitsu
Gigabyte
Hewlett Packard Enterprise
Inspur
Ineventec
Lenovo
Mitac
Quanta Cloud Technology
Supermicro
Tyan
wiwynn
Canonical
Cisco
Microsoft Azure
Nutanix
Red Hat
VMware
Aaeon
Adlink
Advantech
AIMobile
Auvidea
AverMedia
CTI
Diamond Systems
Leopard Imaging
MiiVii
RealTimes

NVIDIA EGX 的实际运行情况

注册以详细了解 NVIDIA EGX 边缘计算平台。