仿真、测试和验证基于物理 AI 的机器人和多机器人集群。
Fraunhofer IML
概览
物理 AI 赋能的机器人和机器人集群需要在现实世界中自主感知、规划和执行复杂任务。这包括在动态且不可预测的环境中安全高效地运输和操控物体。
要实现这种水平的自主性,需采用“仿真优先”的方法。
机器人仿真让机器人开发者能够通过虚拟机器人学习和测试,来训练、仿真和验证这些先进的系统。这种仿真优先的方法同样适用于多机器人集群测试,并使自主系统能够基于实时生产数据、传感器输入和推理来理解工业设施并与之交互。这一切都发生在部署之前的物理精准的数字孪生环境中,例如仓库和工厂。
当现实世界数据有限或受限制时,使用从数字孪生环境生成的合成数据来加速 AI 模型训练。
在各种条件和配置下实时测试单个机器人或工业机器人集群。
优化机器人性能,减少测试和验证所需的实体原型数量。
安全测试具有潜在危险的场景,而不会危及人身安全或造成设备损坏。
技术运用
仿真可以通过引导基础模型和机器人策略模型的训练,开启新的用例。现实世界的训练还可以使用 NVIDIA Omniverse™ NuRec 库进行重建和渲染,并通过合成数据生成 (SDG) 进行增强。这些数据可以包括视觉和非视觉频谱的文本、2D 或 3D 图像,甚至是运动或轨迹数据,它们可以与现实世界数据结合,用于训练多模态物理 AI 模型。
域随机化是 SDG 工作流中的关键步骤,通过改变场景中的多个参数来生成多样化的数据集。这些参数可以包括物体的位置、颜色、纹理和光照等各个方面。在后处理阶段,利用 NVIDIA Cosmos™ 世界基础模型 (WFM) 进行增强,可以进一步多样化生成的数据,并添加必要的真实感,以缩小仿真与现实的差距。生成的数据随后可以使用 Cosmos Reason 进行整理和标注。
机器人学习对于确保自主机器能在现实世界中稳健、高效地重复执行技能至关重要。高保真仿真为机器人提供了一个虚拟训练场,让它们可以通过试错或模仿来磨练自己的技能。这可以确保机器人在仿真中学到的行为能够更容易地转移到现实世界中。
NVIDIA Isaac™ Lab 是一个基于 NVIDIA Isaac Sim™ 构建的开源、统一、模块化机器人训练框架,它简化了机器人开发领域的常见工作流,例如强化学习、从演示中学习以及运动规划。
开发者还可以利用 Newton 这一基于 NVIDIA Warp 构建的开源 GPU 加速物理引擎,用于高速、物理精准、可微分的仿真。
NVIDIA Isaac GR00T-Mimic 和 GR00T-Dreams 蓝图基于 NVIDIA Cosmos 构建,可生成用于训练的大型、多样化合成运动数据集。这些数据集随后可用于在 Isaac Lab 内训练 Isaac GR00T N 开放基础模型,从而实现通用的人形机器人推理和稳健的技能习得。
软件在环 (SIL) 是为物理AI机器人系统进行软件开发过程中关键的测试和验证阶段。在 SIL 中,控制机器人的软件是在仿真环境而非真实硬件中进行测试。
结合仿真的 SIL 确保了真实世界物理特性的精准建模,包括传感器输入、执行器动力学和环境交互。Isaac Sim 为开发者提供了必要的功能,以测试机器人软件栈在仿真中的行为是否与在真实机器人上一致,从而提高测试结果的有效性。
合成数据生成、机器人学习和机器人测试是高度相互依存的工作流,需要在异构基础设施中仔细编排。机器人工作流还需要对开发者友好的规范,以简化基础设施设置,提供便捷的数据和模型溯源方式,以及安全、简化的工作负载部署方式。
NVIDIA OSMO 是一个云原生编排平台,用于在本地、私有云和公有云中扩展复杂、多阶段和多容器的机器人工作负载。借助 OSMO,您可以编排、可视化和管理一系列任务。这涵盖了从生成合成数据、训练模型、进行强化学习,到为人形机器人、自主移动机器人 (AMR) 和工业机械手臂实现软件在环系统等所有方面。
快速链接
常见问题解答
仿真优先的方法是指在物理 AI 机器人接触真实硬件之前,主要在虚拟环境中进行训练、测试和验证。这些仿真在仓库、工厂等设施的物理精准数字孪生中运行,因此机器人可以学习在复杂、动态的环境中安全地感知、规划和行动。
合成数据使用 NVIDIA Omniverse NuRec 和合成数据生成 (SDG) 工作流等工具从数字孪生环境中生成。 这包括文本、2D 和 3D 图像,以及运动或轨迹数据,它们可以用来增强有限的真实世界数据,用于训练多模态物理 AI 和机器人策略模型。
域随机化通过系统性地改变物体位置、颜色、纹理和光照等场景参数,来创建多样化的数据集。 这种多样性,结合使用 NVIDIA Cosmos 基础世界模型进行的后处理增强,有助于缩小仿真与现实之间的差距,从而更好地将经过训练的策略迁移到物理机器人上。
基于 Isaac Sim 构建的 NVIDIA Isaac Lab 为机器人的强化学习、从演示中学习和运动规划提供了一个统一的框架。开发者还可以使用基于 NVIDIA Warp 的 GPU 加速物理引擎 Newton 进行快速、可微分且物理精准的仿真。
在软件在环仿真中,机器人控制软件在一个高保真仿真环境中运行,该仿真模拟了传感器、执行器和环境动态,以便在真实机器人上运行之前验证其行为。对于机器人集群而言,NVIDIA 的 Mega Omniverse 蓝图支持在数字孪生中开发、测试和优化大型机器人集群,协调机器人活动和传感器数据,以提高复杂设施的运营效率。
NVIDIA RTX Blackwell 系列 GPU 可加速各种工业数字化、机器人仿真和合成数据生成工作负载。