Supermicro가 AI 추론 워크로드용 NVIDIA Vera Rubin NVL72 GPU 랙을 배송합니다.

Super Micro Computer, Inc.는 현재 NVIDIA Vera Rubin NVL72 랙을 Supermicro의 데이터센터 빌딩블록 솔루션(DCBBS)과 직접 액체냉각 스택(DLC-2)과 통합하여 출시하고 있습니다. Supermicro의 DCBBS는 이제 NVIDIA Vera Rubin NVL72 배포의 온라인 시간을 단축하기 위해 모든 핵심 컴퓨팅 인프라를 지원합니다.

"우리는 이 순간을 위해 정확히 액체냉각 스택, 제조 역량, 배포 팀을 구축하는 데 수년을 보냈습니다"라고 Supermicro의 회장 겸 최고경영자인 Charles Liang이 말했습니다. "고객들은 이제 확장 가능한 유닛을 주문할 수 있고 완전한 통합으로 생산 준비가 완료된 시스템을 받을 수 있습니다. 왜냐하면 우리는 냉판과 냉각탑 사이의 모든 계층을 설계하고 구축하기 때문입니다. DLC-2 기술의 개발이 Supermicro를 차별화하는 것이고 NVIDIA Vera Rubin 플랫폼을 위한 가장 완전한 솔루션을 제공할 수 있게 합니다."

NVIDIA Vera Rubin 플랫폼은 공기냉각만으로는 달성할 수 없는 효율 수준에서 와트당 AI 처리량을 제공하기 위해 직접 액체냉각 기술과 함께 설계되었습니다. 훨씬 더 큰 초당 AI 연산이 발생하면 그에 비례하는 더 큰 열 부하가 발생합니다. 열은 냉판에서 매니폴드를 거쳐 냉각탑까지 전체 유체 분배 루프를 통해 이동해야 합니다. Supermicro는 전체 액체냉각 스택으로 모든 랙을 테스트하고 검증하여 배포 시 온라인 시간을 단축합니다.

Supermicro의 생산 경로는 개별 시스템 노드의 기계 공학부터 액체냉각 랙의 대규모 제조 및 NVIDIA 참조 아키텍처 기반 클러스터의 현장 배포까지 걸쳐 있습니다. 회사의 DCBBS는 비교할 수 없는 열 전문성과 냉판, 매니폴드, 호스 키트, 랙 전원 셀프, 행 내 냉각 분배 장치(CDU), 랙 내 CDU, 액체-공기 사이드카 CDU, 후면 도어 히트 익스체인저, 시설측 냉각탑을 포함하는 포괄적인 자체 액체냉각 부품 포트폴리오를 제공합니다.

Supermicro의 NVIDIA Vera Rubin NVL72용 DCBBS 솔루션에는 다음이 포함됩니다:

• NVIDIA Vera Rubin NVL72 랙: 72개의 NVIDIA Rubin GPU와 36개의 NVIDIA Vera CPU가 단일 액체냉각 랙에 포함되어 하나의 기계로 작동합니다. 4개의 Rubin GPU와 2개의 Vera CPU를 각각 포함하는 18개의 1U 컴퓨팅 트레이는 216 TB/s의 확장 대역폭을 제공하는 9개의 6세대 NVIDIA NVLink 스위치 트레이를 통해 연결됩니다. 각 랙은 20.7 TB의 HBM4 메모리와 최대 54 TB의 LPDDR5X를 제공합니다.

• 행 내 냉각 분배 장치는 CDU당 1.8 MW로 평가되며 N+1 중복성으로 배포됩니다

• 남은 열 부하의 포획을 보장하기 위한 선택적 Supermicro 후면 도어 히트 익스체인저

• AI 컴퓨팅 패브릭, 수렴된 패브릭, 대역 외 관리 케이블링을 포함한 NVIDIA 참조 아키텍처 기반 네트워킹 통합 및 케이블링 서비스

배포를 용이하게 하기 위해 Supermicro의 DCBBS 블루프린트는 5 MW에서 기가와트 규모까지 주어진 전력 범위에 대해 균형잡힌 자재 명세서를 정의합니다. 하나의 Vera Rubin NVL72 확장 가능한 유닛을 기반으로 한 블루프린트는 16개의 컴퓨팅 랙 전체에 걸쳐 1,152개의 NVIDIA Rubin GPU와 331 TB의 HBM4 메모리를 제공하며 균형잡힌 냉각 용량, 전력 공급, 고성능 저장소, 컨텍스트 메모리 저장소, 네트워킹을 갖추고 있습니다. Supermicro 팀은 사이트 조사, 설계, 통합, 테스팅, 납품, 배포, 지속적인 지원 전반에 걸쳐 전체 프로젝트를 관리합니다.