仿真、测试和验证基于物理 AI 的机器人和多机器人集群。
Fraunhofer IML
概述
实体 AI 机器人和机器人集群需要具备感知、规划和自主行动的能力,以执行复杂的现实世界任务,例如在繁忙的设施环境中移动,并在不断变化的条件下安全地处理物体。
仿真优先的方法可帮助团队更快地实现这一自主能力。通过机器人仿真,开发者可以在物理精准的数字孪生环境中训练、测试和验证机器人的行为——其中可包括仓库和工厂等场景的数字化表示,并在部署之前,通过机器人学习和可重复的测试场景进行验证。同样的方法也可以扩展到多机器人集群,使其能够基于实时生产数据、传感器输入以及推理能力,理解并与工业设施进行交互。
当现实世界数据有限或受限制时,使用从数字孪生环境生成的合成数据来加速 AI 模型训练。
在各种条件和配置下实时测试单个机器人或工业机器人集群。
优化机器人性能,减少测试和验证所需的实体原型数量。
安全测试具有潜在危险的场景,而不会危及人身安全或造成设备损坏。
技术运用
仿真提供了一个安全且一致的虚拟环境,使基础模型和机器人策略模型能够在其中练习任务、从反馈中学习,并在投入真实世界运行之前持续改进行为。借助 NVIDIA Omniverse™ NuRec库,可以在 NVIDIA Isaac Sim™ 中重建并渲染高度逼真的训练环境,并结合合成数据生成 (SDG) 进一步增强。这些数据可以包括视觉和非视觉频谱的文本、2D 或 3D 图像,甚至是运动或轨迹数据,它们可以与现实世界数据结合,用于训练多模态物理 AI 模型。
域随机化是 SDG 工作流中的关键步骤,通过改变场景中的多个参数来生成多样化的数据集。这些内容可以涵盖对象的各个方面,例如位置、颜色、纹理以及光照等。借助 Physical AI Data Factory,开发者可以利用 NVIDIA Cosmos™ 世界基础模型大,对训练数据进行进一步增强并开展大规模评估。Cosmos Transfer 可为现有数据添加逼真的变化,而 Cosmos Evaluator 和 Cosmos Reason 则会自动对结果进行验证、筛选和标注,以确保只有高质量数据用于模型训练。
机器人学习对于确保自主机器能在现实世界中稳健、高效地重复执行技能至关重要。高保真仿真为机器人提供了一个虚拟训练场,让它们可以通过试错或模仿来磨练自己的技能。 这可以确保机器人在仿真中学到的行为能够更容易地转移到现实世界中。
NVIDIA Isaac™ Lab 是一个基于 NVIDIA Isaac Sim™ 构建的开源、统一、模块化机器人训练框架,它简化了机器人开发领域的常见工作流,例如强化学习、从演示中学习以及运动规划。
开发者还可以利用 Newton 这一基于 NVIDIA Warp 构建的开源 GPU 加速物理引擎,用于高速、物理精准、可微分的仿真。
NVIDIA Isaac GR00T-Mimic 和 GR00T-Dreams blueprints 基于 NVIDIA Cosmos 构建,可生成用于训练的大型、多样化合成运动数据集。这些数据集随后可用于在 Isaac Lab 内训练 Isaac GR00T N 开放基础模型,从而实现通用的人形机器人推理和稳健的技能习得。
软件在环 (SIL) 是为物理 AI 赋能的机器人系统软件开发过程中的关键测试与验证阶段。在 SIL 中,控制机器人的软件会在仿真环境中进行测试,而不是在实际的物理硬件上运行。
结合仿真的 SIL 确保了真实世界物理特性的精准建模,包括传感器输入、执行器动力学和环境交互。Isaac Sim 为开发者提供了必要的功能,以测试机器人软件栈在仿真中的行为是否与在真实机器人上一致,从而提高测试结果的有效性。
合成数据生成、机器人学习和机器人测试是高度相互依存的工作流,需要在异构基础设施中仔细编排。机器人工作流程还需要对开发者友好的规范,以简化基础设施部署,提供可无缝追踪数据与模型来源的方式,并支持安全、高效地部署工作负载。
NVIDIA OSMO 是一个云原生编排平台,用于在本地部署、私有云和公有云之间扩展和管理复杂的多阶段、多容器机器人工作负载。借助 OSMO,您可以编排、可视化和管理一系列任务。这涵盖了从生成合成数据,到训练模型、进行强化学习,以及实现软件在环系统等方方面面,对象包括仿人机器人、自主移动机器人 (AMR) 和工业机械臂。
快速链接
常见问题解答
仿真优先的方法是指在物理 AI 机器人接触真实硬件之前,主要在虚拟环境中进行训练、测试和验证。 这些仿真在具有高物理精度的设施数字孪生环境中运行,例如仓库和工厂,使机器人能够在复杂、动态的环境中学习如何安全地进行感知、规划和行动。
合成数据使用 NVIDIA Omniverse NuRec 和合成数据生成 (SDG) 工作流等工具从数字孪生环境中生成。 这包括文本、2D 和 3D 图像,以及运动或轨迹数据,它们可以用来增强有限的真实世界数据,用于训练多模态物理 AI 和机器人策略模型。
域随机化通过系统性地改变物体位置、颜色、纹理和光照等场景参数,来创建多样化的数据集。 这种多样性,结合使用 NVIDIA Cosmos 基础世界模型进行的后处理增强,有助于缩小仿真与现实之间的差距,从而更好地将经过训练的策略迁移到物理机器人上。
基于 Isaac Sim 构建的 NVIDIA Isaac Lab 为机器人提供了统一框架,用于强化学习、示教学习以及运动规划。开发者还可以使用 Newton——一款基于 NVIDIA Warp 的 GPU 加速物理引擎,实现快速、可微分且具备高物理精度的仿真。
在软件在环仿真中,机器人控制软件在一个高保真仿真环境中运行,该仿真模拟了传感器、执行器和环境动态,用于在部署到真实机器人之前验证其行为。对于机器人集群而言,NVIDIA 的 Mega Omniverse Blueprint 支持在数字孪生中开发、测试和优化大型机器人集群,协调机器人活动和传感器数据,以提高复杂设施的运营效率。
NVIDIA RTX Blackwell 系列 GPU 可加速各种工业数字化、机器人仿真和合成数据生成工作负载。