高等教育/研究
CYRAN AI 利用 NVIDIA DGX Spark 在边缘解码 Gigapixel 卫星图像
目标
CYRAN AI 解决方案是一家从 IIT 德里的 NVM 和神经形态硬件研究集团衍生出来的 AI 原生深度技术初创公司,为地理空间情报、安全和工业 4.0 应用构建传感器融合平台。其 SpatialFuse 平台将来自轨道、空中和地面的数据融合为实时地理空间情报 —— 但对于在轨道边缘和气隙环境中依赖该数据的分析师和工程师来说,工作流的速度取决于其最慢的步骤。该步骤已被解码。
通过将 NVIDIA DGX Spark™ 的统一内存体系架构与通过其全新的 PixelFlux 库进行的 GPU 加速 JPEG 2000 处理相结合,CYRAN 将 26 GB 卫星场景的解码时间从 5 分钟以上缩短至仅 2 分钟多一点 —— 在本地硬件上提供真正交互式的地理空间分析,完全无需云端支持。
要点
速度提升 3 倍
- JPEG 2000 解码与 CPU 基线 —— 26 GB 卫星场景从 5 分钟以上缩短至刚刚超过 2 分钟。
速度提升 2 倍
- 相比在大图像尺寸下的离散 GPU 工作站,通过消除 DGX Spark 体系架构完全解决的硬件级内存瓶颈。
零云
- 交互式大场景分析完全在本地硬件上运行,从而实现物理隔离和主权智能部署。
解码海量数据
卫星、无人机和地面传感器正在生成地理空间数据,其速度超过了专为处理这些数据而设计的工具。CYRAN 的 SpatialFuse 平台可在边缘提供智能 —— 在前沿运营中心、气隙安全环境,并最终在太空平台上 —— 工作流的每个阶段都必须高效运行。AI 模型不是瓶颈。解码步骤才是。
JPEG 2000 是地球观测领域的主要压缩格式,被 Sentinel-2、USGS、Maxar 和几乎所有主要卫星数据源使用。单个场景通常超过 10 GB 未压缩。在标准 CPU 工作流中,解码 26 GB 的卫星场景需要超过 5 分钟。这可不是小麻烦。它是一个工作流阻塞,可打破迭代分析工作流,使交互式大场景探索实际上无法实现。
同样的瓶颈也困扰着数字病理学和数字电影 —— 任何以 JPEG 2000 为标准的领域,且数据量增长速度超过围绕它们构建的工具。对于 CYRAN 在国防和主权智能领域的工业 4.0 领域的客户,无法选择云端往返传输数据,唯一的出路是能够以交互式速度解码千兆像素图像的本地硬件解决方案。它需要的是能够与传感器保持同步的硬件。
Cyran AI Solutions
在 NVIDIA DGX Spark 上使用 Cyran SpatialFuse 对卫星图像进行边缘 AI 推理。
利用 PixelFlux 消除隐藏瓶颈
答案来自 NVIDIA DGX Spark 的架构。DGX Spark 基于 GB10 平台构建,配备 NVIDIA Blackwell GPU 和 NVIDIA Grace™ CPU,共享统一的 LPDDR5X 内存库,为这种工作负载提供了两项独立 GPU 工作站无法比拟的属性。
第一个是 GPU 加速的 JPEG 2000 解码。NVIDIA nvJPEG2000 将图像解码中要求最苛刻的阶段从 CPU 迁移到 GPU,实现基于 CPU 的流水线在地球观测数据规模上无法比拟的吞吐量。
第二个是统一内存。在离散 GPU 配置上 (即使是高端 NVIDIA RTX™ A6000 Ada),解码的图像缓冲区必须在 GPU 处理后通过 PCIe 复制回托管内存。在 NVIDIA DGX Spark 上,GPU 和 CPU 共享同一内存库,因此解码的图像数据可立即使用,无需任何传输步骤。随着图像尺寸的增加,这种用度 (代替花销) 的去除会变得越来越有价值 —— 这正是对于千兆像素地理空间工作负载至关重要的机制。
CYRAN 实现了这一能力栈在 PixelFlux 中的应用,这是一个基于 NVIDIA nvJPEG2000 构建的 GPU 加速的 JPEG 2000 解码库。PixelFlux 完全取代了基于 CPU 的解码路径,返回可立即使用的解码图像数据,且在 DGX Spark 上无需传输用度 (代替花销)。
对于机器学习训练流水线,PixelFlux 与 NVIDIA DALI 集成,以保持 GPU 持续从本地存储中获取数据,从而避免 CPU 预处理成为瓶颈。整个解决方案基于标准 NVIDIA 硬件和软件运行,无需第三方基础设施。
从工作流终止符到交互式分析
结果是明确的。一个 26 GB 卫星场景之前需要超过 5 分钟的 CPU 解码时间,现在在 NVIDIA DGX Spark 上仅需两分钟多即可完成,该系统足够紧凑,可在前沿运营中心或物理隔离的安全环境中部署。
基准测试结果 (3 频段 uint16 RGB,平均 ± std dev,N=10 次运行)
“NVIDIA DGX Spark 的统一内存体系架构是一项革命性改进,消除了地理空间处理流水线中硬件层的基本计算瓶颈。将 CYRAN 的本土化 SpatialFuse 平台与 Spark 进一步捆绑,为端到端 GeoAI 处理释放出全新的经优化的全栈解决方案,涵盖从轨道到地面站。”
— Vivek Parmar 博士,CYRAN AI 解决方案 CTO
| Image (HxW) | Compressed | Uncompressed | CPU | A6000 Ada | DGX Spark | vs CPU | vs A6000 Ada |
|---|---|---|---|---|---|---|---|
| 2,654 x 6,152 | 38 MB | 93 MB | 1.39s | 0.53s | 0.56s | 2.42x | 1.15x |
| 2,654 x 34,816 | 179 MB | 528 MB | 4.86s | 2.74s | 1.57s | 3.12x | 1.92x |
| 34,816 x 34,816 | 2,862 MB | 6,936 MB | 65.67s | 35.44s | 16.32s | 2.41x | 2.02x |
| 117,504 x 39,168 | 1,333 MB | 26,335 MB | 298.56s | 210.77s | 115.11s | 2.33x | 1.59x |
所有时间均以秒计。DGX Spark 在各个规模上均处于领先地位。
性能差距随着图像大小而扩大,这是重点。与 NVIDIA RTX 6000 Ada 架构 相比,NVIDIA DGX Spark 在最小的测试场景中以 1.15 倍的优势胜出。从半吉字节开始,优势增加到超过 2 倍,并持续扩展。图片越大,传统工作站花在数据传输上的时间就越多,DGX Spark 的统一内存体系架构可完全消除这一需求。
业务影响不仅限于原始吞吐量。以前需要云基础设施或多 GPU 服务器的开发和调试周期,现在在桌面上运行。CYRAN 的分析师和机器学习工程师首次能够在本地硬件上执行真正交互式的大场景分析。对于工业 4.0、国防和主权智能客户而言,如果云基础设施不是一种选择,那么这种能力就不是一种便利,而是一项要求。这些结果为更大规模的项目提供了依据。
边缘扩展到轨道
CYRAN 现在基于 PixelFlux 所演示的内容构建。nvJPEG2000 库在基于 NVIDIA Blackwell 的云和数据中心部署中具有便携性,这意味着在 NVIDIA DGX Spark 上本地开发并验证的流水线无需返工即可扩展到云和数据中心环境 —— 这是从边缘设备原型到生产的直接路径。
据创始人 Manan Suri 教授称,除了地面智能,CYRAN 正在探索将边缘 AI 能力移植到卫星和高级太空有效负载,用于在轨推理。随着基于太空的传感器数量快速增长,轨道中的计算约束甚至比边缘上的计算约束更严重,使 NVIDIA DGX Spark 在轨道上高效运行的架构原则直接适用:快速的本地处理、高效的内存使用,以及专为受限环境打造的硬件。
作为 NVIDIA 初创加速计划的持续成员,CYRAN 正在地理空间 AI、边缘计算和空间智能的前沿运行,PixelFlux 背后的体系架构是其构建的基础。一开始是一个五分钟的解码问题,现已证明地理空间情报 (从传感器到洞察) 的全栈可以在任何地方运行。
CYRAN AI 解决方案是 NVIDIA 初创加速计划成员,也是 IIT 德里分拆公司。在 cyran.in 了解详情。
探索 NVIDIA DGX Spark 如何改变地理空间工作流。
