ASRock Rack이 COMPUTEX 2024에서 NVIDIA Blackwell 아키텍처를 지원하는 새 서버를 출시했습니다.
ASRock Rack Inc.는 COMPUTEX 2024에서 NVIDIA Blackwell 아키텍처를 활용한 여러 규모 확장 서버를 출시했으며, Hall 1의 L0818 부스에 전시했습니다. 주요 제품으로는 액체 냉각식 랙인 ORV3 NVIDIA GB200 NVL72와 칩 직접 냉각식 GPU 서버인 6U8X-GNR2/DLC NVIDIA HGX B200이 있습니다. ASRock Rack은 또한 가속 컴퓨팅을 위한 NVIDIA MGX™ 모듈식 참조 아키텍처 기반 GPU 서버들을 선보이고 있습니다.
ORV3-NVIDIA GB200 NVL72는 NVIDIA의 GB200 NVL72 규모 확장 시스템을 기반으로 하며, 36개의 NVIDIA Grace™ CPU와 72개의 NVIDIA Blackwell Tensor Core GPU를 NVIDIA NVLink™ 기술로 연결하여 단일의 거대한 GPU를 만들어 더 빠른 실시간 대규모 언어 모델(LLM) 추론을 더 낮은 총 소유 비용(TCO)으로 제공합니다. 또한 ASRock Rack은 각각 NVIDIA HGX™ B100 8-GPU 시스템 또는 NVIDIA HGX B200 8-GPU 시스템이 장착된 6U8X-EGS2 NVIDIA HGX B100과 6U8X-GNR2/DLC NVIDIA HGX B200을 출시했습니다. NVIDIA HGX B100은 기존 NVIDIA HGX H100 인프라의 직접 대체 제품으로 기능합니다. 6U8X-GNR2/DLC는 칩 직접 액체 냉각 기술을 특징으로 하여 6U 랙마운트 설계 내에서 열설계 전력(TDP) 한계를 극대화하며, 액체 냉각 인프라가 없는 고객을 위해 에어쿨 8U8X-GNR2 NVIDIA HGX B200 변형이 조 단위 매개변수 모델에 대한 더 빠른 실시간 추론을 제공합니다.
모든 ASRock Rack NVIDIA HGX 서버는 최대 8개의 NVIDIA BlueField®-3 SuperNIC을 지원하여 NVIDIA Spectrum™-X라는 엔드투엔드 AI 최적화 이더넷 플랫폼을 활용할 수 있으며, NVIDIA AI Enterprise 소프트웨어 플랫폼의 일부로서 NVIDIA NIM 추론 마이크로서비스를 포함한 풀 스택 NVIDIA AI 및 가속 컴퓨팅 플랫폼에 대해 인증될 예정입니다. ASRock Rack은 스케일 아웃 구성을 제공하고 기존 데이터센터 인프라와의 원활한 통합을 용이하게 하기 위해 NVIDIA GB200 NVL2를 기반으로 한 새로운 제품을 개발 중입니다.
"우리는 가장 까다로운 LLM 훈련 및 생성 AI 추론 워크로드를 위해 NVIDIA Blackwell 아키텍처로 구동되는 데이터센터 솔루션을 선보이고 있습니다"라고 ASRock Rack의 회장 Weishi Sa는 말했습니다. "우리는 NVIDIA Blackwell 아키텍처의 장점을 주류 LLM 추론 및 데이터 처리에 더욱 널리 제공하기 위해 우리의 포트폴리오를 계속 확장할 것입니다." NVIDIA의 GPU 제품 관리 부사장 Kaustubh Sanghani는 "ASRock Rack과의 협력을 통해 우리는 기업들에게 하드웨어와 소프트웨어를 원활하게 통합하여 획기적인 성능과 확장성을 제공하고 AI 및 고성능 컴퓨팅의 한계를 뛰어넘는 강력한 AI 생태계를 제공하고 있습니다"라고 말했습니다.
ASRock Rack은 또한 NVIDIA MGX 4U 호환이며 NVIDIA H200 NVL Tensor Core GPU와 같은 최대 8개의 FHFL 이중 슬롯 GPU를 지원하는 이중 소켓 GPU 서버인 4UMGX-GNR2를 제시합니다. 이는 5개의 FHHL PCIe 5.0 x16 슬롯과 1개의 HHHL PCIe 5.0 x16 슬롯을 제공하며 여러 200Gb/s 또는 400Gb/s 네트워크 연결을 위해 NVIDIA BlueField-3 DPU와 NVIDIA ConnectX®-7 NIC을 지원하며, E1.S(PCIe 5.0 x4) SSD용 16개의 핫스왑 드라이브 베이를 장착하고 있습니다. ASRock Rack 부스 L0818의 방문객들은 올해 초에 출시된 MECAI-NVIDIA GH200 Grace Hopper Superchip 서버도 볼 수 있습니다.