스타트업이 쉬운 운반을 위한 핸들이 있는 폼팩터에 4개의 H200 GPU를 탑재한 휴대용 AI 서버 모듈을 개발했습니다.

하드웨어 제조업체 Odinn이 이번 주 CES에서 Omnia 시스템을 선보이고 있습니다. 이는 AMD EPYC 9965 CPU와 최대 4개의 Nvidia H200 NVL GPU, 6TB의 메모리를 결합한 휴대형 인클로저로, 23.8인치 디스플레이와 손잡이를 갖추고 있습니다. 이 시스템의 무게는 77파운드(35kg)이며, Odinn은 이를 "대략 기내 수하물 크기"라고 설명하지만, 무게 때문에 실제 항공사 수하물로는 비현실적입니다. Odinn은 Omnia를 휴대용 PC나 모바일 워크스테이션으로 포지셔닝하는 대신 "휴대형 데이터센터"로 표현하며, 웹사이트에서 "노트북이 데스크톱을 해방했듯이, Omnia는 데이터센터를 해방한다"고 주장합니다.

이러한 주장은 신뢰성에 의문의 여지가 있습니다. 대부분의 데이터센터에는 수백 개 또는 수천 개의 서버가 포함되어 있으며, 단일 AI 서버는 일반적으로 Omnia가 수용할 수 있는 최대 GPU 수의 2배를 수용합니다. 그러나 이 시스템은 내장 냉각과 Platinum 등급 유닛을 갖춘 중복 전원 공급 장치 구성을 포함하여 서버 등급의 사양을 갖추고 있습니다.

Odinn은 AI, Creator, Search, Omnia X(가장 강력한 변형)의 4가지 잠재적 구성을 제시합니다. 회사는 이를 미션 크리티컬 엣지 추론, 독립형 모바일 워크스테이션이 필요한 영화 제작팀 및 포스트프로덕션 업체, 군사 AI 임무, 엔터프라이즈급 시뮬레이션을 목표로 합니다. 더 큰 규모가 필요한 고객을 위해 Odinn은 여러 Omnia 유닛이 클러스터를 형성하여 Infinity Racks을 만들고, 현장에서 대규모 GPU 클러스터를 제공할 수 있다고 명시합니다.

단일 Nvidia H200의 예상 비용은 약 $32,000으로, 시스템의 가치와 도난 위험을 높이지만, Odinn은 가격 정보를 공개하지 않았습니다. Omnia의 내장 화면과 플립다운 키보드는 Osborne 1이나 Compaq Portable과 같은 초기 휴대용 컴퓨팅 장치를 연상시키는데, 이들은 역사적으로 진정한 휴대용 기기가 아닌 "luggables"로 간주되었습니다. Omnia는 훨씬 더 강력하지만, 진정한 휴대성보다는 이동성을 위해 설계된 팔을 벌려야 하는 무거운 시스템의 범주에 유사하게 속할 수 있습니다.