Supermicro이 대량 배포용 새로운 4U 및 2-socket OCP 액냉식 Blackwell 서버 출시
슈퍼마이크로컴퓨터(Super Micro Computer, Inc.)는 새로운 4U 및 2-OU(OCP) 액체 냉각 NVIDIA HGX B300 시스템의 출시와 출하 가능 여부를 발표하며 NVIDIA Blackwell 아키텍처 포트폴리오를 확대했다고 밝혔다. 이러한 최신 추가 제품들은 초대규모 데이터 센터와 AI 팩토리 배포를 위해 전례 없는 GPU 밀도와 전력 효율성을 제공하는 슈퍼마이크로의 데이터센터 빌딩 블록 솔루션(Data Center Building Block Solutions)의 핵심 부분이다. 슈퍼마이크로의 회장兼 CEO인 찰스 리앙(Charles Liang)은 "전 세계적으로 AI 인프라 수요가 가속화됨에 따라, 우리의 새로운 액체 냉각 NVIDIA HGX B300 시스템은 초대규모 기업과 AI 팩토리가 오늘날 필요로 하는 성능 밀도와 에너지 효율성을 제공한다. 우리는 업계에서 가장 컴팩트한 NVIDIA HGX B300 솔루션을 제공하여 단일 랙당 최대 144개의 GPU를 달성하고, 검증된 직접 액체 냉각 기술을 통해 전력 소비와 냉각 비용을 절감하고 있다."라고 말했다.
21인치 OCP 오픈 랙 V3(ORV3) 사양에 맞춰 구축된 2-OU(OCP) 액체 냉각 NVIDIA HGX B300 시스템은 공간 효율적인 랙이 필요한 초대규모 및 클라우드 제공업체에게 서비스성능을 저하시키지 않으면서 최대 GPU 밀도를 제공하기 위해 랙당 최대 144개의 GPU를 지원한다. 이 시스템은 각기 최대 1,100W TDP를 가진 8개의 NVIDIA Blackwell Ultra GPU로 AI 워크로드를 추진한다. 단일 ORV3 랙은 총 144개의 GPU를 갖춘 최대 18개의 노드를 지원하며, NVIDIA Quantum-X800 InfiniBand 스위치와 슈퍼마이크로의 1.8MW 인로우 쿨런트 분배 장치(CDU)와 원활하게 확장된다. 결합하면 8개의 NVIDIA HGX B300 컴퓨팅 랙, 3개의 NVIDIA Quantum-X800 InfiniBand 네트워킹 랙, 그리고 2개의 슈퍼마이크로 인로우 CDUs가 함께 1,152개의 GPU를 갖춘 SuperCluster 확장 단위를 형성한다.
2-OU 모델과 보완되는 4U 프론트 I/O HGX B300 액체 냉각 시스템은 대규모 AI 팩토리 배포를 위해 전통적인 19인치 EIA 랙 폼 팩터에서 동일한 컴퓨팅 성능을 제공하며, 랙당 최대 64개의 GPU를 지원한다. 4U 시스템은 슈퍼마이크로의 DLC-2(직접 액체 냉각) 기술을 활용하여 시스템에서 발생하는 열의 최대 98%를 액체 냉각을 통해 포착함으로써, 높은 밀도의 학습 및 추론 클러스터를 위한 낮은 소음과 향상된 서비스성능으로 우수한 전력 효율성을 달성한다. DLC-2 기술 스택을 사용하면 데이터 센터는 최대 40%의 전력 절감을 달성하고, 45°C 온수 운영을 통해 물 소비를 줄이며, 데이터 센터 내 차가운 물과 압축기를 제거할 수 있다.
2-OU(OCP)와 4U 플랫폼 모두 시스템당 2.1TB의 HBM3e GPU 메모리를 제공하여 더 큰 모델 크기를 처리하고, NVIDIA Quantum-X800 InfiniBand 또는 NVIDIA Spectrum-4 Ethernet과 함께 사용할 때 통합 NVIDIA ConnectX-8 SuperNIC을 통해 컴퓨팅 파이프라인 네트워크 처리량을 800Gb/s로 두 배로 늘려 클러스터 수준에서 상당한 성능 향상을 제공한다. 이러한 개선 사항들은 AI 팩토리에서의 에이전트형 AI 애플리케이션, 파운데이션 모델 학습, 다중 모달 대규모 추론과 같은 무거운 AI 워크로드를 가속화한다. 슈퍼마이크로는 이러한 플랫폼을 완전히 검증되고 테스트된 랙으로 개발하여 출하 전에 L11 및 L12 솔루션으로 준비함으로써, 초대규모, 기업, 연방 고객들의 온라인까지 소요 시간을 단축했다.
새로운 시스템들은 NVIDIA GB300 NVL72, NVIDIA HGX B200, NVIDIA RTX PRO 6000 Blackwell Server Edition을 포함한 슈퍼마이크로의 광범위한 NVIDIA Blackwell 플랫폼 포트폴리오를 확장한다. 슈퍼마이크로의 각 NVIDIA 인증 시스템은 NVIDIA 네트워킹 및 NVIDIA AI 소프트웨어(NVIDIA AI Enterprise 및 NVIDIA Run:ai 포함)와 함께 광범위한 AI 애플리케이션과 사용 사례에 대한 최적의 성능을 검증하기 위해 테스트되며, 이를 통해 고객들은 단일 노드부터 풀 스택 AI 팩토리까지 확장 가능한 AI 인프라를 구축할 수 있는 유연성을 얻게 된다.