NVIDIA Isaac ROS 5.0推进智能体化、开源机器人开发
为构建和部署能够在动态环境中感知、推理并行动的复杂机器人应用,开发者需要新的物理AI模型和工具。
ROS开放框架是Open Robotics的一个项目,帮助人类构建机器人。NVIDIA Isaac ROS 5.0是基于ROS构建的一系列GPU加速软件包,于今日在加拿大多伦多举行的ROSCon大会上发布,帮助人类与AI智能体共同构建机器人。
此次发布引入了新的智能体工作流和平台支持,帮助开发者更快地构建、定制和部署机器人应用。
ROS为现代机器人开发的大部分工作提供了开源基础,为开发者提供通用工具、库和标准,用于构建和连接机器人应用。
NVIDIA Isaac ROS为近130万名ROS用户带来NVIDIA加速计算、物理AI模型和可用于生产环境的库,帮助开发者使用免费、熟悉的开源工具构建高性能机器人应用。
将AI智能体引入机器人开发
AI智能体正在改变软件的构建方式,帮助开发者自动化重复性任务、浏览复杂的代码库,并更快地从想法走向可运行的应用。Isaac ROS 5.0将这些能力引入机器人开发。
Isaac ROS 5.0新增对ROS Lyrical和Ubuntu 24.04的支持,使开发者能够采用最新的ROS平台,同时继续借助NVIDIA加速计算来加速高要求的机器人工作负载。NVIDIA与Open Source Robotics Alliance合作,向ROS Lyrical贡献了一个标准数据处理接口,帮助机器人软件在包括GPU在内的不同计算硬件上高效运行。
该接口面向整个ROS社区开放,为开发者提供了一种一致的方式来加速高要求的机器人应用,并以CUDA作为GPU加速的示例。
用于设置和操作任务的全新NVIDIA Isaac技能提供了可复用的工作流,开发者和AI智能体可借助这些工作流完成机器人开发任务。面向智能体的文档也让AI智能体更容易理解Isaac ROS工具和工作流,从而更快地将开发者的意图转化为可运行的应用。
部分技能不仅限于辅助单个编码任务。全新的FoundationStereo微调技能使AI智能体能够帮助将立体感知模型适配到开发者的摄像头、环境和机器人应用中,使开发者能够针对给定的传感器配置更轻松地实现更精准的感知。
FoundationPose是一种用于物体姿态估计和跟踪的基础模型,现在提供了面向智能体的推理库,使机器人能够感知和跟踪物体的位置与朝向,速度最高可提升5.5倍。
此外,拣选与放置(pick and place)是一种常见工作流,它连接检测、深度估计和姿态输出,现在作为独立的、面向智能体的技能提供,使机器人开发者在Isaac ROS之外拥有更大的灵活性。
推动开源机器人生态系统发展
机器人生态系统已在将这种智能体方法扩展到开发工作流中。
AgenticROS是一个由3D感知技术公司RealSense赞助的开源项目,它将Isaac ROS与NVIDIA Nemotron开放模型和NVIDIA NemoClaw蓝图相连接,使AI智能体能够与基于ROS的机器人交互。RealSense还在优化其最新的AI原生3D立体深度相机(包括RealSense D585 Pro)以及面向Isaac ROS和NVIDIA Jetson Thor边缘AI平台的开源软件开发工具包,帮助开发者构建感知、导航和操作应用。
Intrinsic的Open Machine Tending Solution是数控机床上下料的参考应用,是新发布的Intrinsic Core的一部分。Intrinsic Core是一套开源的预配置运行时服务和能力套件,旨在加速工业机器人应用。该方案内置兼容NVIDIA FoundationPose,可开箱即用地实现物体注册、跟踪和姿态估计。借助FoundationPose感知流程,该方案使机器人能够动态检测和处理零件,同时减少对刚性、昂贵的物理夹具和专用系统集成的需求。
Intrinsic在其Open Machine Tending Solution中使用FoundationPose实现无缝的物体感知。
Seeed Studio正在将NVIDIA Isaac ROS与reBot Arm结合使用,在NVIDIA Jetson Thor上整合加速感知、空间理解和运动规划。这一集成为开发者提供了一个实用平台,用于构建适应性强的物理AI应用,涵盖从物体定位到碰撞感知操作以及自主拣选与放置。
Magna正在将NVIDIA Isaac ROS用作机器人感知、同步数据采集和NVIDIA Isaac GR00T模型部署的模块化、GPU加速基础,并将其与Isaac Sim硬件在环测试相结合,以更快速、风险更低的方式,将智能自动化从研究推进到真实世界的制造和出行领域。
Magna将Isaac ROS与Isaac Sim结合用于硬件在环测试,以实现更快速的部署。
Prefix.dev的Pixi包管理工具让创建可复现的机器人开发环境变得更加容易,将ROS与NVIDIA CUDA平台结合在一起,帮助开发者更轻松地搭建和共享加速机器人工作流。
作为Isaac ROS合作伙伴,Foxglove帮助开发者通过其Web和桌面工具可视化并调试实时ROS应用。这些工具已集成到Isaac ROS教程的各处,并支持3D话题、nvblox网格和rosbag等数据。
Flexiv正在将Isaac ROS与其Rizon 4自适应机器人集成,使开发者能够使用NVIDIA加速的机器人能力,并获得从在NVIDIA Isaac Sim中测试应用到将其部署到实体机器人上的简化路径。