NVIDIA推出基于Thor架构的T3000和T2000模块实现紧凑高效边缘AI
通用机器人和自主机器进入大规模部署市场的出现,为能够在边缘运行基础模型的紧凑、高效AI超级计算机创造了需求。为了满足这一需求,NVIDIA今天宣布了基于NVIDIA Thor架构的T3000和T2000模块,旨在实现大规模机器人和边缘AI应用。
Jetson AGX Thor平台正在推动下一代人形和机器人系统,在各行业中的采用不断增长。包括1X、Agile Robots、Amazon Robotics、Boston Dynamics、FANUC、Hitachi和Techman Robot在内的领先公司已经在该平台上进行开发。
Jetson和IGX T3000模块在紧凑的外形中提供865 FP4太瓦计算,大小和功耗约为T5000的一半。Jetson T3000集成了NVIDIA Blackwell GPU、八核Neoverse Arm CPU、32GB LPDDR5X内存和273GB/s内存带宽,以及25 GbE连接。IGX T3000提供相同的性能并具有集成功能安全性,同时运行NVIDIA Halos for Robotics全栈安全系统。尽管占地面积更小,T3000在包括大型语言模型、视觉语言模型、视觉语言动作模型和世界基础模型在内的多模态工作负载中实现了与T5000相似的推理性能,有助于在内存价格高企的情况下降低成本。
Jetson T2000将Thor架构引入更广泛的边缘AI系统,具有400 FP4太瓦计算和16GB内存,为开发视觉AI智能体、自主移动机器人、工业机械臂和其他智能机器的开发者提供了入门选项。通过这些新模块,NVIDIA现在提供了一个可扩展的边缘AI平台,性能范围从70 TOPS到2,000太瓦。
新发布的Jetson agent skills使开发者能够优化整个软件栈,在数天而非数周内实现显著的内存节省,支持整个Jetson产品组合,包括Jetson Thor和Jetson Orin。这使开发者能够在更低内存配置上运行更强大的工作负载,从而降低系统成本并加快部署速度。
各行业的公司通过软件优化展示了显著的内存节省。包括UBTech和Agile Robots在内的人形机器人领导者,以及工业解决方案提供商Connect Tech,将内存使用减少了最多15GB,实现了从NVIDIA Jetson AGX Orin 64GB到32GB模块的迁移。在智能零售领域,SandStar将内存使用减少了4GB,能够部署在NVIDIA Jetson Orin NX 8GB而不是16GB上。在伴侣机器人领域,LOVOT机器人的创建者GROOVE X利用Jetson的异构AI加速器优化工作负载分布并减少内存使用。在智能交通领域,NoTraffic在Jetson TX2 NX上实现了30%的内存减少,为增加更多AI功能而不增加硬件要求创造了空间。
NVIDIA还扩展了其NVIDIA Cosmos 3前沿开放世界基础模型家族,推出了Cosmos 3 Edge,这是一个与NVIDIA Thor平台兼容的轻量级40亿参数模型,设计用作具体系统的机器人基础模型。Cosmos 3 Edge帮助具体系统看到世界、实时对其进行推理,并通过设备上推理预测和生成动作。使用开放Cosmos框架,开发者可以在大约一天内对特定的具体化和传感器进行Cosmos 3 Edge的后训练,然后在Jetson Thor上部署以进行实时视觉分析和设备上机器人策略。
开发者可以在本月晚些时候通过JetPack 7.2.1开始使用T3000模拟模式,T2000模拟模式支持将在未来版本中推出。Jetson T3000和T2000模块计划在2027年第一季度推出。Jetson生态系统中的合作伙伴,包括ADLINK、Advantech、AAEON、Aetina、Auvidea、AVerMedia、Connect Tech、ForeCR、JWIPC、NEXCOM Robotic Solutions、Realtimes、Seeed Studio、Twowin、TZTEK和YUAN已经在提供基于Thor的解决方案,而Antmicro、Neurealm、REBOTNIX和RidgeRun等软件合作伙伴将提供模拟和迁移解决方案。