NVIDIA Holoscan
将传感器数据传输到 GPU,以便进行实时推理,无论是在边缘还是云端,加速边缘 AI 开发。
Moon Surgical
概览
什么是 NVIDIA Holoscan?
Holoscan 是一个多模态计算平台,可提供加速的全栈基础设施,以便对运行在边缘的流数据进行可扩展、软件定义的实时处理。
软件定义硬件
了解 Holoscan 平台
Holoscan 平台涵盖了硬件和软件组件,通过优化的库、工具和容器将传感器与边缘服务器、网络、本地数据中心和云计算连接起来,用于数据处理。它还包括用于快速原型设计的模板应用、用于快速入门训练的样本 AI 模型,以及用于运行流媒体、成像和其他应用的核心微服务。
优势
用于无缝边缘设备 AI 解决方案的实时传感器处理
低延迟实时性能
获得优化的性能,以超低延迟处理高吞吐量传感器数据 (视频、音频、超声等),实现快速 AI 推理和即时决策制定。
模块化工作流体系架构
利用基于图形的 SDK 和即插即用运算符进行 I/O、预处理、推理、后处理和可视化,可使用 Python 或 C++ 构建灵活、可重复使用的工作流,从而加速开发和实验速度。
从边缘到云端的可扩展性
从 NVIDIA Jetson™ (嵌入式) 到 IGX (工业边缘) 再到 NVIDIA AGX™ 开发工具和 DGX 数据中心等各种目标设备上运行相同的工作流,无需重写代码。Holoscan 对硬件进行抽象化处理,同时最大化 GPU 加速性能。
生产级、软件定义的硬件
轻松集成关键工具和库,例如用于快速 I/ O 的 NVIDIA®®® GPUDirect®、用于 AI 的 Holoscan Sensor Bridge 和用于医学成像的 NVIDIA MONAI。这样不仅可以节省时间,并且还可以避免将不同的系统拼接在一起。
用例
利用实时边缘设备 AI 推动行业转型
Holoscan 可支持前沿 AI 解决方案,从医疗设备到医疗健康、机器人开发和科学计算等领域。
-
医疗设备
-
医疗健康机器人
-
科学计算
医疗设备
Holoscan 可为医疗设备开发者提供实时边缘设备 AI 功能。企业现在可以探索全新 AI 赋能功能,加速上市速度,并降低医疗级设备的开发和维护成本。
Atlas Meditech
医疗健康机器人
Virtual Incision 使用 NVIDIA Holoscan 平台为其微型手术机器人 MIRA 提供支持,实现低延迟、高性能的 AI 工作流,用于进行实时控制和可视化。通过使用 Holoscan SDK、传感器桥接、NVIDIA® CUDA® 以及配备了 6000 个 NVIDIA Ada GPU 的 IGX ORIN,他们将系统延迟降低了 3 倍,使机器人响应更流畅,并增强手术工作流。NVIDIA Isaac Sim™ 还支持虚拟测试和合成数据生成,以加速仿真中的 AI 技能开发,确保微创手术的可靠性和效率。
Virtual Incision
科学计算:NVIDIA Holoscan 用于边缘高性能计算
Holoscan 是一款通用传感器处理平台,专为提供高性能而设计,同时满足边缘设备的尺寸、重量和功耗 (SWaP) 限制。该平台在通用的高性能硬件和软件平台上提供灵活的软件堆栈,以加速边缘的数据分析和可视化工作流程。
SETI Institute
开始选项
准备好开始了吗?
后续步骤
