Supermicro가 16-랙 블루프린트로 총 1,152개 가속기를 갖춘 NVIDIA Vera Rubin NVL72 랙 출하를 시작했으며, 대규모 학습 및 추론을 지원합니다.

수퍼마이크로는 이제 NVIDIA Vera Rubin NVL72 랙을 자사의 데이터 센터 빌딩 블록 솔루션(DCBBS)과 직접 액체 냉각 스택(DLC-2)과 통합하여 배송하고 있습니다. 이번 발표는 대규모 AI 인프라 배포에서 수퍼마이크로의 엔드-투-엔드 능력을 강조합니다.

"우리는 이 순간을 위해 정확히 액체 냉각 스택, 제조 역량, 그리고 배포 팀을 구축하는 데 수년을 들였습니다," 수퍼마이크로의 회장 겸 CEO인 찰스 리앙이 말했습니다. "우리의 고객은 이제 스케일러블 유닛을 주문할 수 있으며, 엔드-투-엔드 통합이 된 프로덕션 레디 시스템을 받을 수 있습니다. 왜냐하면 우리는 콜드 플레이트와 냉각탑 사이의 모든 계층을 설계하고 구축하기 때문입니다. 우리의 DLC-2 기술 개발이 수퍼마이크로를 차별화하고 NVIDIA Vera Rubin 플랫폼을 위한 가장 완전한 솔루션을 제공할 수 있게 해줍니다."

NVIDIA Vera Rubin 플랫폼은 공기 냉각만으로는 달성할 수 없는 AI 처리량당 와트 효율 수준을 달성하기 위해 직접 액체 냉각용으로 특별히 설계되었습니다. 수퍼마이크로는 배포 일정을 단축하기 위해 콜드 플레이트부터 매니폴드를 거쳐 냉각탑까지 전체 액체 냉각 스택을 통해 모든 랙을 테스트하고 검증합니다.

각 Vera Rubin NVL72 랙에는 72개의 NVIDIA Rubin GPU와 36개의 NVIDIA Vera CPU가 포함되어 있으며, 이들은 단일 액체 냉각 머신으로 작동합니다. 각각 4개의 Rubin GPU와 2개의 Vera CPU로 장착된 18개의 1U 컴퓨트 트레이는 9개의 6세대 NVIDIA NVLink 스위치 트레이를 통해 연결되어 216 TB/s의 스케일-업 대역폭을 제공합니다. 각 랙은 20.7 TB의 HBM4 메모리와 최대 54 TB의 LPDDR5X를 제공합니다.

통합 냉각 솔루션에는 CDU당 1.8 MW로 평가되는 수퍼마이크로 인-로우 냉각 분배 장치, N+1 중복성으로 배포되는 장치, 잔여 열 포집을 위한 선택적 후면 도어 열교환기, 그리고 NVIDIA 참조 아키텍처를 기반으로 한 네트워킹 통합이 포함됩니다. 수퍼마이크로의 포괄적인 액체 냉각 포트폴리오(콜드 플레이트, 매니폴드, 호스 킷, 랙 전원 셀프, 인-로우 및 인-랙 CDU, 사이드카 CDU, 후면 도어 열교환기, 그리고 냉각탑)는 자사에서 제조됩니다.

수퍼마이크로의 DCBBS 블루프린트는 5 MW에서 기가와트 규모까지의 주어진 전력 환경에 대한 균형잡힌 자재 명세서를 정의하여 배포를 단순화합니다. 단일 Vera Rubin NVL72 스케일러블 유닛에는 16개의 컴퓨트 랙에 분산된 331 TB의 HBM4 메모리가 있는 1,152개의 NVIDIA Rubin GPU가 포함되어 있으며, 일치하는 냉각 용량, 전력 공급, 스토리지, 컨텍스트 메모리, 그리고 네트워킹을 갖추고 있습니다. 전담 수퍼마이크로 팀이 현장 조사, 설계, 통합, 테스트, 납품, 배포, 그리고 지속적인 지원을 포함한 전체 참여 과정을 담당합니다.