NVIDIA借投资者Sarah Guo演示凸显Jetson边缘AI平台便携性与强劲算力
作为重视风格与内涵的AI投资者,Conviction这家原生AI风险投资公司的创始人兼AI播客《No Priors》联合主持人Sarah Guo最近指出,本季最引人注目的配饰并非设计师手提包,而是其内部的技术。在最近的一段视频中,Guo解释了NVIDIA Jetson边缘AI和机器人平台如何在一个为物理世界和各行各业打造的、具备代理(agentic)就绪能力的AI平台中提供强大性能与便携性,且体积紧凑到足以放入手提包。这些模块和开发者套件为教室、实验室创客空间中的机器人、自主机器和现实世界AI项目提供动力,使开发人员能够以最高标准的安全性和安全性,利用变革行业的尖端开源模型进行构建。无论是使用Jetson Orin Nano Super运行首个机器人项目的学生,还是使用Jetson AGX Orin将前沿AI引入课程的高校教授,亦或是使用Jetson AGX Thor推动自主系统极限的研究人员,该平台都使得在每一间教室、每一个实验室和每个国家构建、学习和推出下一代智能机器人成为可能。正如Guo所展示的那样:带上包包,Jetson带来机器人的大脑。
读者在本周期间可关注一系列示例,从Jetson Orin Nano Super开始,帮助开发人员导航NVIDIA Jetson平台并着手实现下一次机器人突破。机器人值得拥有一个真正的大脑,显然还需要一个极其时尚的通勤方式。当Guo将Jetson Orin Nano Super放入她的Jacquemus Mini手袋时,她获得了整个AI堆栈,现在它还配有一个可爱的提手:手拿包!Jetson Orin Nano Super将桌面级生成式AI带入适合手提包的开发者套件,为初次构建者提供了一条学习计算机视觉、构建AI代理、原型设计边缘AI等的实用路径。凭借每秒67万亿次操作(TOPS)的AI性能,Jetson Orin Nano Super帮助开发人员着手解决他们一直想要解决的问题。为了帮助构建者从灵感走向实施,NVIDIA Jetson Device Skills和Jetson BSP Skills为学生、研究人员和开发人员提供了一种更简便的方式来利用编码AI代理,在边缘创建、优化和部署现实世界的AI。机器人构建者可以通过以下这些展示Jetson Orin Nano Super实际应用的创新示例激发灵感,开启他们的第一个或下一个梦想项目:自定义SidewalkPilot AI模型使用Jetson Orin Nano Super在玩具电动汽车中自主执行机动动作;Reachy Mini Jetson Assistant作为由NVIDIA Jetson Orin Nano Super驱动的Reachy Mini Lite的低延迟、完全设备端语音和视觉助手,在运行时本地运行所有内容并利用GPU加速,无需云端、API密钥或互联网连接;Coding with Lewis使用Mistral这一开放权重模型构建了AI驱动机器人,表明首次接触机器人的开发人员可以使用Jetson Orin Nano Super从头开始构建;以及Asier Arnaz使用Jetson Orin Nano Super构建了基于Yocto的机器人AI视频播客,其中两个AI模型实时讨论话题,并突出展示了边缘创客正在创造的内容。是否受到启发?通过加入我们的直播系列开始行动。在三个模块中,开发人员可以学习运行生成式AI、构建爪形代理(claw agents),并将视觉-语言及视觉-语言-动作模型应用于驱动现实世界的物理AI应用,所有操作均在NVIDIA Jetson上完成。
随着工作负载变得更加复杂,拥有275 TOPS AI性能的Jetson AGX Orin便派上用场。对Guo来说很简单:TOPS越多,托特包越大。对于更高级的创客而言,Jetson AGX Orin将AI的全部力量带入课程作业、毕业设计项目和应用研究中,为先进机器人、自主机器和边缘AI提供动力,证明严肃的AI不再必须存在于服务器机房,也不再仅限于那些负担得起的人。Jetson AGX Orin让构建者能够在真实环境中测试真实想法,然后将整套设备带到课堂、实验室、演示桌或第一次投资者会议上。凭借适用于高级机器人课程和严肃初创项目的多功能性,Jetson AGX Orin可以支持计算机视觉、生成式AI、自主导航等,使其成为改造 virtually 每个行业的理想选择,无论是创建配送机器人、智能视觉功能还是工业自动化。通过这些展示Jetson AGX Orin实际应用的创新示例迈向更高水平:基于浏览器的界面在Jetson AGX Orin上流式传输实时的视觉语言模型推理,让用户通过摄像头 feed 实时与VLM交互;卡内基梅隆大学机器人团队的自主系统在时间紧迫的救援场景中搜索幸存者的同时构建环境的3D地图。
学校放假了,机器人构建者们正认真做事。最大的工作负载需要最大的大脑,Jetson AGX Thor名副其实,提供高达2070 FP4 teraflops的AI计算能力和128GB内存。听专家的:Guo说要么大包上阵,要么回教室。当然,更大的大脑意味着更大的包。作为下一代人形机器人和需要在边缘进行复杂实时推理的自主系统的终极平台,这是每个机器人都在等待的大脑。Jetson AGX Thor为实验室、工厂和野外最具挑战性的工作负载提供服务器级计算和AI代理能力,覆盖全球各个角落的各行各业。有了Jetson AGX Thor,未来正式被装进包里。大胆尝试,看看这些展示Jetson AGX Thor实际应用的创新示例:伊利诺伊大学厄巴纳-香槟分校SIGRobotics团队的首奖黑客松参赛作品使用两支机械臂在Jetson AGX Thor上运行NVIDIA Isaac GR00T N1.5模型,自主完成倒茶、准备和搅拌抹茶的动作;Jetson AGX Thor上的创意开发环境结合了视觉、音频和语言输入, enabling rich multimodal AI experimentation at the edge(在边缘实现丰富的多模态AI实验)。任何人都能让机器人动起来。Jetson让它思考,将前沿AI交到每一位构建者手中,无论身在何处。那么,哪款NVIDIA Jetson模块最合适?从合适的一款开始,然后在准备好时升级。不是吗,Guo?