将传感器数据传输到 GPU,以便进行实时推理,无论是在边缘还是云端,加速边缘 AI 开发。
Moon Surgical
概览
Holoscan 是一个多模态计算平台,可提供加速的全栈基础设施,以便对运行在边缘的流数据进行可扩展、软件定义的实时处理。
软件定义硬件
Holoscan 平台涵盖了硬件和软件组件,通过优化的库、工具和容器将传感器与边缘服务器、网络、本地数据中心和云计算连接起来,用于数据处理。它还包括用于快速原型设计的模板应用、用于快速入门训练的样本 AI 模型,以及用于运行流媒体、成像和其他应用的核心微服务。
优势
获得优化的性能,以超低延迟处理高吞吐量传感器数据 (视频、音频、超声等),实现快速 AI 推理和即时决策制定。
利用基于图形的 SDK 和即插即用运算符进行 I/O、预处理、推理、后处理和可视化,可使用 Python 或 C++ 构建灵活、可重复使用的工作流,从而加速开发和实验速度。
从 NVIDIA Jetson™ (嵌入式) 到 IGX (工业边缘) 再到 NVIDIA AGX™ 开发工具和 DGX 数据中心等各种目标设备上运行相同的工作流,无需重写代码。Holoscan 对硬件进行抽象化处理,同时最大化 GPU 加速性能。
轻松集成关键工具和库,例如用于快速 I/ O 的 NVIDIA®®® GPUDirect®、用于 AI 的 Holoscan Sensor Bridge 和用于医学成像的 NVIDIA MONAI。这样不仅可以节省时间,并且还可以避免将不同的系统拼接在一起。
用例
Holoscan 可支持前沿 AI 解决方案,从医疗设备到医疗健康、机器人开发和科学计算等领域。
Holoscan 可为医疗设备开发者提供实时边缘设备 AI 功能。企业现在可以探索全新 AI 赋能功能,加速上市速度,并降低医疗级设备的开发和维护成本。
Atlas Meditech
Virtual Incision 使用 NVIDIA Holoscan 平台为其微型手术机器人 MIRA 提供支持,实现低延迟、高性能的 AI 工作流,用于进行实时控制和可视化。通过使用 Holoscan SDK、传感器桥接、NVIDIA® CUDA® 以及配备了 6000 个 NVIDIA Ada GPU 的 IGX ORIN,他们将系统延迟降低了 3 倍,使机器人响应更流畅,并增强手术工作流。NVIDIA Isaac Sim™ 还支持虚拟测试和合成数据生成,以加速仿真中的 AI 技能开发,确保微创手术的可靠性和效率。
Virtual Incision
Holoscan 是一款通用传感器处理平台,专为提供高性能而设计,同时满足边缘设备的尺寸、重量和功耗 (SWaP) 限制。该平台在通用的高性能硬件和软件平台上提供灵活的软件堆栈,以加速边缘的数据分析和可视化工作流程。
SETI Institute
开始选项
后续步骤