在仿真环境中训练机器人策略,提升现实世界适应性。
仿真/建模/设计
机器人
制造业
医疗健康和生命科学
零售/消费品
智能城市/空间
创新
投资回报
NVIDIA Omniverse
NVIDIA Isaac
NVIDIA Jetson
概览
虽然预编程机器人可能适用于特定的重复性任务,但它们有一个关键缺点。它们在设定的环境中使用固定的指令运行,这限制了它们对意外变化的适应性。
AI 驱动的机器人通过基于仿真的学习克服了这些限制,使它们能够在动态条件下自主感知、规划和行动。它们可以运用习得的策略 (导航、操作等行为模式) 来获取并完善新技能,从而在部署到现实世界之前,提升在各种情况下的决策能力。
快速链接
使用仿真优先的方法并行训练数百或数千个机器人实例,结合 AMR、机械臂和人形机器人的真实机器人数据和合成数据。
在物理精准的仿真环境中训练机器人,帮助它们适应新的任务变化,并缩小仿真与现实的差距。
测试潜在的危险场景,而不会危及人员安全或损坏设备
通过生成大量合成数据、在仿真环境中验证经过训练的机器人策略并加速在机器人上部署,避免现实世界中高昂的数据采集和标记成本。
技术运用
典型的端到端机器人工作流包括数据处理、模型训练、在仿真环境中验证以及在真实机器人上部署。
数据处理:为了填补数据空白,使用多样化的高质量数据集,该数据集结合了互联网规模的数据、合成数据和真实机器人数据。开发者可以使用物理 AI Blueprint 大规模管理、增强和评估合成数据,这些数据可用于 Isaac Lab-Arena 中的微调和策略评估。
在仿真环境中进行训练和验证:机器人需要针对任务定义的场景进行训练和部署,并且需要真实世界状况的精确虚拟表示。NVIDIA Isaac™ Lab 是一个开源的机器人学习框架,它采用模块化方式,运用强化学习和模仿学习技术来帮助训练机器人策略。
Isaac Lab 与 NVIDIA Isaac Sim™ 原生集成,后者是一个基于 NVIDIA Omniverse™ 库构建的开放式参考机器人仿真应用,使用 GPU 加速的 NVIDIA PhysX® Physics 和 RTX™ 渲染进行高保真验证。借助该统一框架可以在轻量级仿真环境中快速设计策略原型,然后再部署到生产系统。
Isaac Lab-Arena 是一个基于 Isaac Lab 构建的开源框架,用于在仿真环境中进行可扩展的策略评估,从而提供简洁的 API 以简化任务管理和多样化。
在真实机器人上部署:经过训练的机器人策略和 AI 模型可以部署到 NVIDIA Jetson™ 机器人计算机上,提供自主操作所需的性能和功能安全性。
虽然模仿学习让人形机器人能够通过复制专家示范来发展新技能,但收集现实世界数据集通常成本高昂且耗费人力。
为了克服这一挑战,开发者可以使用基于 NVIDIA Cosmos™ 构建的 NVIDIA Isaac GR00T-Mimic 和 GR00T-Dreams blueprints,生成大型、多样化的合成运动数据集用于训练。
这些数据集随后可用于在 Isaac Lab 内训练 Isaac GR00T N 开放基础模型,从而实现通用的人形机器人推理和稳健的技能。
使用 Isaac Lab 进行高保真物理仿真、执行奖励计算,并在模块化、可定制的环境中实现感知驱动的强化学习 (RL)。
首先在多种环境中配置各种机器人、定义 RL 任务,并使用 GPU 优化的库,例如 RSL RL、RL-Games、SKRL 和 Stable Baselines3 (均获得 Isaac Lab 原生支持) 训练模型。
Isaac Lab 提供灵活的任务工作流 (可以是直接的或基于管理器的),让您能够控制训练工作的复杂性和自动化程度。
您还可以使用 Newton 这一基于 NVIDIA Warp 构建的开源 GPU 加速物理引擎,进行高速、物理精准、可微分的仿真。
此外,NVIDIA OSMO (云原生编排平台) 能够跨多 GPU 和多节点系统高效地扩展和管理复杂、多阶段和多容器的机器人工作负载。这可以显著加速机器人学习策略的开发和评估。
快速链接
合作伙伴生态系统
传统机器人通常使用固定脚本控制,由工程师手动编写分步指令和规则。例如,“移动到这个确切位置,如果这个传感器值高于阈值,则闭合夹爪。”而仿真环境中的机器人学习会训练 AI 策略,将传感器输入 (如摄像头图像和关节状态) 映射到动作。这使得机器人能够在部署之前在虚拟环境中自主地感知、规划和行动,并适应未明确编程的变化。
基于仿真的学习适用于多种应用场景,包括自主移动机器人、自动驾驶汽车、机械臂和人形机器人。典型任务包括导航、移动、物体操作,以及工厂、仓库、医院和零售空间中的协同工作流。
Isaac Sim 提供高保真物理和传感器仿真,而开源的 Isaac Lab 将其扩展到数千个并行的 GPU 加速环境。它们共同生成海量的合成数据,以微调 Isaac GR00T N 开放式视觉-语言-动作模型。这使得开发者能够在现实世界部署之前,在仿真环境中教授机器人任务和机器人特定技能。
一个常见的工作流从处理来自真实机器人、合成数据和互联网规模来源的多样化数据开始。然后在 Isaac Lab 和 Isaac Sim 中训练并验证策略,最后部署在 NVIDIA Jetson 等机器人计算机上进行实际操作。
在物理精准的仿真环境中训练并验证策略,让团队能够安全地测试极端情况、危险场景和罕见事件。这减少了对大量机器人实验的需求,降低了硬件损耗和风险,并有助于更可靠地将策略转移到真实环境中。
快速链接
NVIDIA RTX Blackwell 系列 GPU 可加速各种工业数字化、机器人仿真和合成数据生成工作负载。