NVIDIA는 컴팩트하고 전력 효율적인 엣지 AI를 가능하게 하기 위해 Thor 아키텍처 기반의 T3000과 T2000 모듈을 소개했다.
범용 로봇과 자율 주행 기기가 대량 시장으로 진출하면서, 엣지에서 파운데이션 모델을 실행할 수 있는 컴팩트하고 전력 효율적인 AI 슈퍼컴퓨터에 대한 수요가 발생했습니다. 이러한 요구를 충족하기 위해 NVIDIA는 오늘 대량 시장용 로봇 및 엣지 AI 애플리케이션을 대규모로 구현할 수 있도록 설계된 NVIDIA Thor 아키텍처 기반의 T3000 및 T2000 모듈을 발표했습니다.
Jetson AGX Thor 플랫폼은 산업 전반에서 채택이 확대되면서 차세대 휴머노이드 및 로봇 시스템의 핵심 동력이 되고 있습니다. 1X, Agile Robots, Amazon Robotics, Boston Dynamics, FANUC, Hitachi, Techman Robot 등 주요 기업들은 이미 이 플랫폼을 기반으로 제품을 개발하고 있습니다.
Jetson 및 IGX T3000 모듈은 T5000 대비 크기와 전력 소모가 약 절반 수준인 컴팩트한 폼 팩터 내에서 865 FP4 테라플롭스의 AI 연산 성능을 제공합니다. Jetson T3000은 NVIDIA Blackwell GPU, 8코어 Neoverse Arm CPU, 32GB LPDDR5X 메모리, 273GB/s의 메모리 대역폭, 그리고 25 GbE 연결성을 결합했으며, IGX T3000은 동일한 성능을 제공하면서도 내장 기능 안전성(Funtional Safety)을 갖추고 NVIDIA Halos for Robotics 풀스택 안전 시스템을 실행합니다. 작은 설치 공간을 차지함에도 불구하고 T3000은 대형 언어 모델(LLM), 비전-언어 모델(VLM), 비전-언어-액션 모델(VLA), 월드 파운데이션 모델 등 다중 모달 워크로드에 대해 T5000과 유사한 추론 성능을 달성하여 높은 메모리 가격 환경에서도 비용 절감을 지원합니다.
Jetson T2000은 400 FP4 테라플롭스의 연산 성능과 16GB 메모리를 탑재하여 더 넓은 범위의 엣지 AI 시스템에 Thor 아키텍처를 도입했습니다. 이는 시각적 AI 에이전트, 자율 이동 로봇(AMR), 산업용 매니퓰레이터 및 기타 지능형 기계를 구축하는 개발자들을 위한 진입점을 제공합니다. 이러한 신규 모듈들로 인해 NVIDIA는 이제 70 TOPS에서 2,000 테라플롭스에 이르는 성능 범위를 아우르는 확장 가능한 엣지 AI 플랫폼을 제공하고 있습니다.
최근 출시된 Jetson 에이전트 스킬(Agent Skills)을 통해 개발자는 전체 소프트웨어 스택을 최적화하고 주가 아닌 일주일 단위로 상당한 메모리 절감 효과를 얻을 수 있으며, 이는 Jetson Thor와 Jetson Orin을 포함한 전체 Jetson 포트폴리오를 지원합니다. 이를 통해 개발자는 낮은 메모리 구성으로도 더 강력한 워크로드를 실행할 수 있어 시스템 비용을 낮추고 배포 속도를 높일 수 있습니다.
다양한 산업 분야의 기업들은 소프트웨어 최적화를 통해 상당한 메모리 절감 성과를 입증했습니다. UBTech와 Agile Robots 같은 휴머노이드 로봇 선도 기업들과 산업 솔루션 제공업체 Connect Tech는 최대 15GB의 메모리 사용량을 줄여 NVIDIA Jetson AGX Orin 64GB에서 32GB 모듈로의 마이그레이션을 가능하게 했습니다. 스마트 리테일 분야에서는 SandStar가 메모리 사용량을 4GB 절감하여 16GB 대신 NVIDIA Jetson Orin NX 8GB에서 배포할 수 있게 되었습니다. 동반 로봇 분야에서는 LOVOT 로봇의 제작사 GROOVE X가 Jetson의 이종 AI 가속기를 활용하여 워크로드 분배를 최적화하고 메모리 사용량을 줄였습니다. 지능형 교통 분야에서는 NoTraffic이 Jetson TX2 NX에서 메모리 사용량을 30% 절감하여 하드웨어 요구 사항을 증가시키지 않고도 더 많은 AI 기능을 추가할 수 있는 여유 공간을 확보했습니다.
NVIDIA는 또한 Cosmos 3 Edge를 추가로 공개하며 NVIDIA Cosmos 3 프론티어 오픈 월드 파운데이션 모델 패밀리도 확장했습니다. Cosmos 3 Edge는 신체화된 시스템(Bodied Systems)을 위한 로봇 파운데이션 모델로 설계된 경량의 40억 파라미터 모델로, NVIDIA Thor 플랫폼과 호환됩니다. Cosmos 3 Edge는 신체화된 시스템이 세상을 인식하고 실시간으로 추론하며, 온디바이스 추론을 통해 행동을 예측하고 생성할 수 있도록 지원합니다. 오픈 Cosmos 프레임워크를 사용하면 개발자는 약 하루 만에 특정 신체 구조와 센서에 맞게 Cosmos 3 Edge를 사후 학습(Post-training)한 후, 실시간 비전 분석 및 온디바이스 로봇 정책 실행을 위해 Jetson Thor에서 배포할 수 있습니다.
개발자들은 이번 달 말 JetPack 7.2.1을 통해 T3000 에뮬레이션 모드를 사용하기 시작할 수 있으며, 향후 릴리스에서 T2000 에뮬레이션 모드 지원이 이어질 예정입니다. Jetson T3000 및 T2000 모듈은 2027년 1분기에 공급될 예정입니다. ADLINK, Advantech, AAEON, Aetina, Auvidea, AVerMedia, Connect Tech, ForeCR, JWIPC, NEXCOM Robotic Solutions, Realtimes, Seeed Studio, Twowin, TZTEK, YUAN을 포함한 Jetson 생태계 파트너들은 이미 Thor 기반 솔루션을 제공하고 있으며, Antmicro, Neurealm, REBOTNIX, RidgeRun과 같은 소프트웨어 파트너들은 에뮬레이션 및 마이그레이션 솔루션을 제공할 예정입니다.