ASRock Rack在COMPUTEX 2024展会上推出了支持NVIDIA Blackwell架构的新服务器。
ASRock Rack Inc. 在 COMPUTEX 2024 展会的第1馆L0818展台展示了多款采用NVIDIA Blackwell架构的纵向扩展服务器。亮点产品包括ORV3 NVIDIA GB200 NVL72(液冷机架)和6U8X-GNR2/DLC NVIDIA HGX B200(直接芯片液冷GPU服务器)。ASRock Rack还展示了基于NVIDIA MGX™模块化参考架构的GPU服务器用于加速计算。
ORV3-NVIDIA GB200 NVL72基于NVIDIA的GB200 NVL72纵向扩展系统,该系统通过NVIDIA NVLink™技术连接36个NVIDIA Grace™CPU和72个NVIDIA Blackwell Tensor Core GPU,形成一个单一的庞大GPU,可实现更快的实时大语言模型(LLM)推理,并降低总体拥有成本(TCO)。此外,ASRock Rack推出了6U8X-EGS2 NVIDIA HGX B100和6U8X-GNR2/DLC NVIDIA HGX B200,分别配备NVIDIA HGX™ B100 8-GPU系统或NVIDIA HGX B200 8-GPU系统。NVIDIA HGX B100可作为现有NVIDIA HGX H100基础设施的即插即用替代品。6U8X-GNR2/DLC采用直接芯片液冷技术,在6U机架设计中突破热设计功耗(TDP)限制,而对于没有液冷基础设施的客户,风冷的8U8X-GNR2 NVIDIA HGX B200变体可在万亿参数模型上提供更快的实时推理。
所有ASRock Rack NVIDIA HGX服务器均支持最多8个NVIDIA BlueField®-3 SuperNIC,以利用NVIDIA Spectrum™-X(端到端AI优化以太网平台),并将通过完整堆栈NVIDIA AI和加速计算平台的认证,包括作为NVIDIA AI Enterprise生成式AI软件平台一部分的NVIDIA NIM推理微服务。ASRock Rack正在开发基于NVIDIA GB200 NVL2的新产品,以提供横向扩展配置,便于与现有数据中心基础设施的无缝集成。
"我们正在展示采用NVIDIA Blackwell架构驱动的数据中心解决方案,用于LLM训练和生成式AI推理中最苛刻的工作负载,"ASRock Rack总裁Weishi Sa表示。"我们将继续扩展产品组合,进一步将NVIDIA Blackwell架构的优势带到主流LLM推理和数据处理领域。"NVIDIA GPU产品管理副总裁Kaustubh Sanghani表示,"通过与ASRock Rack合作,我们为企业提供一个强大的AI生态系统,无缝整合硬件和软件,提供突破性的性能和可扩展性,帮助推动AI和高性能计算的边界。"
ASRock Rack还推出了4UMGX-GNR2,一款符合NVIDIA MGX 4U标准的双路GPU服务器,支持最多8个FHFL双插槽GPU,如用于主流企业服务器的NVIDIA H200 NVL Tensor Core GPU。它配备5个FHHL PCIe 5.0 x16插槽和1个HHHL PCIe 5.0 x16插槽,支持NVIDIA BlueField-3 DPU和NVIDIA ConnectX®-7网卡,可提供多个200Gb/s或400Gb/s网络连接,并配有16个热插拔硬盘槽用于E1.S(PCIe 5.0 x4)SSD。访问ASRock Rack展台L0818的参观者也可以看到MECAI-NVIDIA GH200 Grace Hopper Superchip服务器,该产品已于今年早些时候推出。