人形机器人

加快先进 AI 机器人开发。

Apptronik

工作负载

机器人
仿真/建模/设计

行业

硬件/半导体
医疗健康和生命科学
制造业
零售/快速消费品
智能城市/空间

业务目标

创新
投资回报

产品

NVIDIA Isaac Lab
NVIDIA Isaac Sim
NVIDIA Isaac GROOT
NVIDIA Jetson Thor
NVIDIA Omniverse

概览

物理 AI 的新时代

通用人形机器人专为快速适应现有的以人类为中心的城市和工业工作空间而构建,用以承担枯燥、重复性或对体力要求高的工作任务。 

这些机器人正在从工厂车间走向医疗健康机构,通过自动化帮助人类工作,缓解劳动力短缺问题。

图 02 宝马工厂的人形机器人

Figure

但是,构建人形机器人涉及多层复杂性并面临艰巨的工程挑战。这些挑战涵盖模拟人类的感知、自由度、灵巧性、移动性、认知功能和全身协调控制等方面。

这需要加快机器人研究领域和技术的发展,推动人工智能 (AI)、机器学习、基于物理仿真、传感器技术和机电一体化等关键技术的突破。

NVIDIA 以云端至机器人计算平台驱动人形机器人革新

全新 NVIDIA Isaac™ GR00T 开放模型与 GR00T-Dreams Blueprint 合成数据生成正在推动人形机器人推理与行为进化。

快速链接


技术运用

推进人形机器人开发

NVIDIA 正在开发加速系统、blueprints、工具、服务、算法和其他机器人技术,以构建符合人类形态规格的通用机器人。

三台计算机解决方案

人形机器人需具备在特定环境中自主感知、规划与行动的能力,这要求其能实时处理海量数据。这需要训练支撑机器人大脑的基础模型,对机器人大脑进行模拟和验证,并最终将优化后的大脑和相关软件部署到实体机器人上。 

这三种 AI 系统为: 

物理 AI 由三台计算机加速:NVIDIA DGX、Omniverse 和 AGX

NVIDIA Isaac GR00T

GR00T 是一个专注于通用机器人基础模型和数据工作流的研究计划和开发平台,可加速人形机器人开发进程。

机器人基础模型

人形机器人需要不同的技能来完成各种任务,传统上需要单独的、昂贵的 AI 模型。机器人基础模型通过基于广泛数据进行训练、开发通用技能来解决这一问题。这使得机器人能够适应不同的任务和环境。

NVIDIA Isaac GR00T N 是全球首个用于通用人形机器人推理和技能的开源基础模型。这种跨具身本体模型接受包括语言和图像在内的多模态输入,在不同环境中执行操作任务。GR00T N 基于庞大的人形数据集上训练,该数据集由真实捕获的数据、使用 NVIDIA Isaac GR00T-Mimic blueprint 组件生成的合成数据和互联网级视频数据组成。它可以通过后训练针对特定实施、任务和环境进行调整。

机器人学习和仿真框架

仿真对于开发者来说至关重要,在将人形机器人部署到现实世界中之前,能够在各种物理精确的环境和条件下对其进行训练。

机器人学习和仿真框架,比如 NVIDIA Isaac SimNVIDIA Isaac Lab — 基于 Omniverse 平台构建 — 实现物理精确仿真,以并行训练和验证多个人形机器人智能体。 

Isaac Lab 是一个基于 Isaac Sim 构建的开源统一机器人学习框架,为机器人策略训练提供高效的学习技术支持。然后,训练后的机器人策略可以在 Isaac Sim 中进行验证,Isaac Sim 是一个基于物理的虚拟环境平台,专用于构建、模拟和测试人形机器人参考应用。

Agility Robotics 在仿真环境中完成任务

Agility Robotics

GR00T 工作流

数据生成和处理

收集大量高质量的真实数据集可能极具挑战性,成本高昂且耗时。基于物理精确仿真生成的合成数据可以加速数据收集,并提供泛化机器人学习模型所需的多样性,从而应对这一挑战。

NVIDIA Isaac GR00T-Dreams blueprint 帮助生成大量合成运动,可以教会机器人新的行为以及如何适应不断变化的环境。

开发人员可以先为他们的机器人进行 Cosmos Predict 2 世界基础模型 (WFM) 的后训练。然后,使用单张图片作为输入,GR00T-Dreams 可以帮助生成机器人在新环境中执行新任务的多个视频。之后,该 blueprint 会提取动作 token ——这些经过压缩、易于理解的数据片段,用于教导机器人如何执行这些新任务。

GR00T-Dreams blueprint 是对 Isaac GR00T-Mimic blueprint 的补充。GR00T-Mimic 使用 NVIDIA Omniverse 和 Cosmos 增强现有数据,而 GR00T-Dreams 则使用 Cosmos 生成全新数据。

灵巧操作

人形机器人抓取功能需具备类似人类的灵巧操作技能,能够同时执行粗略抓取和精细操作任务。GR00T-Dexterity 是一套基于强化学习的全面模型和策略框架,通过与参考工作流深度结合,可实现这些高级灵巧功能的开发。

移动性

在复杂且动态环境中实现通用导航功能需要进行大量广泛调整。借助 GR00T-Mobility 参考工作流,您可以构建一个通用移动工作流,可在不同设置和机器人具身之间实现无缝导航。

全身控制

在人形机器人中实现全身控制具有挑战性,需同时满足稳定操作和强劲运动要求。GR00T-Control 通过一整套先进运动规划和控制模型、策略和参考工作流来解决这一问题,从而简化高效控制系统的开发。

通过使用模仿学习和远程操作数据集,GR00T-Control 有助于训练强大的全身运动策略,从而使人形机器人能够学习灵巧的操作和运动技能。

展示四个具有多功能控制功能的人形机器人的 HOVER 策略

基于 AI 的机器人感知

为了提高态势感知和交互效率,人形机器人需具备长期记忆,对事件、空间、个性化设置和上下文感知做出精确响应。 

GR00T-Perception 借助基于 Isaac Sim 和 Isaac ROS 构建的强大感知库、基础模型和参考工作流实现这一目标。这些工具集成了视觉语言模型和检索增强内存等先进技术,能提升人形机器人的感知、认知和适应能力。

新一代机器人本机计算平台

机器人硬件对于运行多模态 AI 模型集群也至关重要,这些模型可在不同条件下为人形机器人提供所需的性能、低延迟和功能安全保障。 

基于 NVIDIA Blackwell GPU 架构的 NVIDIA Jetson AGX Thor 可提供卓越 AI 计算性能并搭载新型 Transformer 引擎。这为边缘计算提供必要的 AI 超级能力,从而实现新一代人形机器人开发。


生态系统

在我们人形机器人开发合作伙伴帮助下开启使用旅程

1x
Agility Robotics
Apptronik
波士顿
Field AI
Fourier
银河通用
Mentee Robotics
Sanctuary
Skild AI
宇树

开始使用

开发人形机器人

通过访问教程、论坛、版本说明和全面文档,借助 GR00T 基础技术推动人形机器人开发。

新闻

资源

Synthetic data for training computer vision models

合成数据

通过创建物理精准的虚拟场景和对象来训练 AI 模型,从而缩小仿真与现实的差距,同时节省训练时间和成本。

Learn more about Robot Learning

机器人学习

将强化学习和模拟学习技术应用于任何类型的机器人实施例,并使用开源机器人学习框架 NVIDIA Isaac Lab 构建机器人策略。

A robot simulation framework built on top of NVIDIA Omniverse

仿真

Isaac Sim 是一个基于 NVIDIA Omniverse 构建的机器人仿真框架,用于为人形机器人训练提供高保真的真实感仿真环境。

Apply Now for NVIDIA Humanoid Robot Developer Program

机器人和边缘 AI

使用 NVIDIA 工具、库和三台计算机解决方案加速人形机器人开发 — 使用 NVIDIA DGX™ 进行 AI 训练,使用 OVX™ 进行仿真,使用 Jetson AGX 将多模态 AI 部署到人形机器人上。

 

相关用例