NVIDIA Holoscan

NVIDIA Holoscan

将传感器数据传输到 GPU,以便进行实时推理,无论是在边缘还是云端,加速边缘 AI 开发。

Moon Surgical

概览

什么是 NVIDIA Holoscan?

Holoscan 是一个多模态计算平台,可提供加速的全栈基础设施,以便对运行在边缘的流数据进行可扩展、软件定义的实时处理。

利用动态流量控制轻松构建边缘 AI 应用

在边缘实现高效的 AI 工作负载处理,适用于医疗影像、机器人开发和工业传感器。

借助 NVIDIA Isaac 推动医疗健康领域的 AI 机器人开发

借助 NVIDIA 打造手术机器人的未来。

软件定义硬件

了解 Holoscan 平台

Holoscan 平台涵盖了硬件和软件组件,通过优化的库、工具和容器将传感器与边缘服务器、网络、本地数据中心和云计算连接起来,用于数据处理。它还包括用于快速原型设计的模板应用、用于快速入门训练的样本 AI 模型,以及用于运行流媒体、成像和其他应用的核心微服务。

Holoscan SDK

利用 Holoscan 的无缝 I/O、AI 推理、BYO 传感器支持和生产就绪工具构建端到端传感器处理工作流。

Holoscan Sensor Bridge

将各种传感器数据 (如视频或超声波) 无缝集成到 GPU 中,以实现低延迟的同步实时 AI 处理。

NVIDIA IGX

部署在 NVIDIA IGX,可加速生产就绪型工业级硬件的 AI 开发,同时 Holoscan SDK 确保可在目标平台上灵活部署。

优势

用于无缝边缘设备 AI 解决方案的实时传感器处理

低延迟实时性能

获得优化的性能,以超低延迟处理高吞吐量传感器数据 (视频、音频、超声等),实现快速 AI 推理和即时决策制定。

模块化工作流体系架构

利用基于图形的 SDK 和即插即用运算符进行 I/O、预处理、推理、后处理和可视化,可使用 Python 或 C++ 构建灵活、可重复使用的工作流,从而加速开发和实验速度。

从边缘到云端的可扩展性

从 NVIDIA Jetson™ (嵌入式) 到 IGX (工业边缘) 再到 NVIDIA AGX™ 开发工具和 DGX 数据中心等各种目标设备上运行相同的工作流,无需重写代码。Holoscan 对硬件进行抽象化处理,同时最大化 GPU 加速性能。

生产级、软件定义的硬件

轻松集成关键工具和库,例如用于快速 I/ O 的 NVIDIA®®® GPUDirect®、用于 AI 的 Holoscan Sensor Bridge 和用于医学成像的 NVIDIA MONAI。这样不仅可以节省时间,并且还可以避免将不同的系统拼接在一起。

用例

利用实时边缘设备 AI 推动行业转型

Holoscan 可支持前沿 AI 解决方案,从医疗设备到医疗健康、机器人开发和科学计算等领域。

医疗设备

Holoscan 可为医疗设备开发者提供实时边缘设备 AI 功能。企业现在可以探索全新 AI 赋能功能,加速上市速度,并降低医疗级设备的开发和维护成本。

Atlas Meditech

医疗健康机器人

Virtual Incision 使用 NVIDIA Holoscan 平台为其微型手术机器人 MIRA 提供支持,实现低延迟、高性能的 AI 工作流,用于进行实时控制和可视化。通过使用 Holoscan SDK、传感器桥接、NVIDIA® CUDA®  以及配备了 6000 个 NVIDIA Ada GPU 的 IGX ORIN,他们将系统延迟降低了 3 倍,使机器人响应更流畅,并增强手术工作流。NVIDIA Isaac Sim™ 还支持虚拟测试和合成数据生成,以加速仿真中的 AI 技能开发,确保微创手术的可靠性和效率。

Virtual Incision

科学计算:NVIDIA Holoscan 用于边缘高性能计算

Holoscan 是一款通用传感器处理平台,专为提供高性能而设计,同时满足边缘设备的尺寸、重量和功耗 (SWaP) 限制。该平台在通用的高性能硬件和软件平台上提供灵活的软件堆栈,以加速边缘的数据分析和可视化工作流程。

SETI Institute

开始选项

准备好开始了吗?

开发

面向开发者

查看文档并开始构建边缘 AI 应用。

部署

面向企业

获取免费许可证,使用现有基础设施在生产环境中试用 NVIDIA AI Enterprise 90 天。

后续步骤

利用 NVIDIA Holoscan SDK 解锁实时 AI