Supermicro가 NVIDIA Blackwell GPU에 최적화된 직접 액냉 인프라 솔루션을 제공한다.

Total IT Solution Provider for AI, Cloud, Storage, and 5G/Edge인 Supermicro, Inc. (NASDAQ: SMCI)가 11월 19일 San Jose (California)와 Atlanta (Georgia)의 Supercomputing Conference에서 조 단위 규모의 생성형 AI 시대를 위한 NVIDIA Blackwell 플랫폼을 특징으로 하는 엔드-투-엔드 AI 데이터센터 솔루션인 최고 성능의 SuperCluster를 발표했습니다. 새로운 SuperCluster는 액체 냉각 랙 내 NVIDIA HGX B200 8-GPU 시스템의 수를 대폭 증가시켜 Supermicro의 현재 업계 최고 수준의 액체 냉각 NVIDIA HGX H100 및 H200 기반 SuperCluster 대비 GPU 컴퓨팅 밀도가 크게 향상되었습니다. Supermicro는 또한 HPC 애플리케이션 및 주류 엔터프라이즈 AI의 가속 컴퓨팅 급속 채택에 대응하기 위해 NVIDIA Hopper 시스템의 포트폴리오를 강화하고 있습니다.

Supermicro의 회장 겸 CEO인 Charles Liang은 "Supermicro는 100,000개의 GPU를 포함하는 세계 최대 규모의 액체 냉각 AI 데이터센터 프로젝트를 배포할 수 있는 전문성, 전달 속도 및 용량을 갖추고 있으며, Supermicro와 NVIDIA가 기여하고 최근 배포한 프로젝트들이 있습니다"라고 말했습니다. 그는 이러한 SuperCluster가 DLC 효율성으로 인한 전력 수요를 줄이며, Supermicro의 Building Block 접근 방식이 액체 냉각 및 공기 냉각 구성 모두에서 NVIDIA HGX B200 8-GPU를 탑재한 서버를 신속하게 설계할 수 있음을 강조했습니다. "당사의 SuperCluster는 전례 없는 밀도, 성능 및 효율성을 제공하며, 향후 더욱 높은 밀도의 AI 컴퓨팅 솔루션으로의 나아갈 길을 제시합니다. Supermicro 클러스터는 직접 액체 냉각을 사용하여 더 높은 성능, 전체 데이터센터의 낮은 전력 소비, 그리고 감소된 운영 비용을 실현합니다."

업그레이드된 SuperCluster는 랙당 증가된 컴퓨팅 노드를 허용하는 혁신적인 수직 냉각제 분배 매니폴드(CDM)를 갖춘 랙 규모 설계를 특징으로 합니다. 새로운 Supermicro NVIDIA HGX B200 8-GPU 시스템은 열 관리 및 전력 공급의 개선사항을 포함하며 DDR5 MRDIMM을 8800 MT/s로 지원하는 2개의 500W Intel Xeon 6 프로세서 또는 AMD EPYC 9005 Series 프로세서를 지원합니다. 새로운 공기 냉각 10U 폼 팩터 시스템은 8개의 1000W TDP Blackwell GPU를 수용하는 재설계된 섀시를 특징으로 합니다. 이들 시스템은 NVIDIA BlueField-3 SuperNIC 또는 NVIDIA ConnectX-7 NIC을 지원하는 1:1 GPU-to-NIC 비율을 채용하며, 시스템당 2개의 NVIDIA BlueField-3 데이터 처리 장치(DPU)가 연결된 고성능 AI 스토리지에 대한 데이터 처리를 간소화합니다.

Supermicro의 NVIDIA MGX 설계 라인업은 NVLink로 연결된 4개의 NVIDIA Blackwell GPU와 2개의 NVIDIA Grace CPU를 NVLink-C2C를 통해 통합하여 과학 컴퓨팅, 그래프 신경망(GNN) 훈련 및 추론 애플리케이션을 위해 최대 2배의 성능을 제공하는 NVIDIA GB200 Grace Blackwell NVL4 Superchip을 지원합니다. 포괄적인 모니터링 및 관리를 위한 SuperCloud Composer(SCC) 소프트웨어를 갖춘 Supermicro의 엔드-투-엔드 액체 냉각 솔루션과 함께 제공되는 NVIDIA GB200 NVL72 SuperCluster는 단일 랙에서 엑사스케일 슈퍼컴퓨터를 제공합니다. 이 구성은 5세대 NVIDIA NVLink 및 NVLink Switch를 통해 연결된 72개의 NVIDIA Blackwell GPU와 36개의 NVIDIA Grace CPU를 포함하며, 130TB/s의 총 GPU 통신 대역폭을 제공합니다.

Supermicro의 5U PCIe 가속 컴퓨팅 시스템은 이제 저전력 공기 냉각 엔터프라이즈 랙 설계를 위한 NVIDIA H200 NVL과 함께 이용할 수 있습니다. 이들 시스템은 이전 세대 대비 최대 1.7배 더 빠른 LLM 추론 성능을 제공하며, HBM3e를 사용하여 1.5배의 메모리 용량 증가 및 1.2배의 대역폭 증가로 몇 시간 내에 LLM의 미세 조정을 가능하게 합니다. X14 및 H14 5U PCIe 시스템은 NVLink 기술을 통해 최대 2개의 4-way NVIDIA H200 NVL 시스템을 지원하며 시스템당 총 8개의 GPU를 제공하고 900GB/s의 GPU-to-GPU 상호 연결 및 4-GPU NVLink 도메인당 564GB의 HBM3e 메모리 풀을 제공합니다. 이들 시스템은 최대 10개의 PCIe GPU를 지원하며 최신 Intel Xeon 6 또는 AMD EPYC 9005 Series 프로세서를 특징으로 하며, 각 H200 NVL은 NVIDIA AI Enterprise에 대한 5년 구독을 포함합니다.