Supermicro推出针对NVIDIA Blackwell GPU优化的直接液冷基础设施方案。
超微公司(纳斯达克代码:SMCI)是为AI、云计算、存储和5G/边缘计算提供全面IT解决方案的提供商。公司在11月19日于加州圣何塞和乔治亚州亚特兰大的超级计算机大会上发布了性能最高的SuperCluster。这是一款端到端的AI数据中心解决方案,采用NVIDIA Blackwell平台,适应万亿参数级别生成式AI的时代。新型SuperCluster在液冷机架中显著增加了NVIDIA HGX B200 8-GPU系统的数量,相比超微当前业界领先的液冷NVIDIA HGX H100和H200基础SuperClusters,GPU计算密度大幅提升。超微还在优化其NVIDIA Hopper系统产品组合,以应对高性能计算(HPC)应用和主流企业AI加速计算的快速采用。
超微总裁兼首席执行官Charles Liang表示:"超微拥有专业技术、交付速度和能力来部署世界上最大的液冷AI数据中心项目,包含100,000个GPU,这是超微和NVIDIA共同贡献的成果,最近已部署完成。" 他强调这些SuperClusters由于直接液冷(DLC)的高效能而降低了功耗需求,并突出了超微的Building Block方法如何能够快速设计支持NVIDIA HGX B200 8-GPU的服务器,包括液冷和风冷两种配置。他表示:"我们的SuperClusters提供了前所未有的密度、性能和效率,为未来更高密度的AI计算解决方案铺平了道路。超微集群采用直接液冷技术,带来更高的性能、整个数据中心更低的功耗和更低的运营成本。"
升级后的SuperCluster采用机架级设计,配备创新的垂直冷却液分配装置(CDMs),可以在每个机架中容纳更多计算节点。新的超微NVIDIA HGX B200 8-GPU系统在热管理和电源传输方面有所改进,支持双路500W Intel Xeon 6处理器(配DDR5 MRDIMMs,速率为8800 MT/s)或AMD EPYC 9005系列处理器。新的风冷10U形态系统采用重新设计的机箱,可容纳八块1000W功耗的Blackwell GPU。这些系统采用1:1的GPU与网络接口卡(NIC)比例,支持NVIDIA BlueField-3 SuperNICs或NVIDIA ConnectX-7 NICs,每个系统配备两个NVIDIA BlueField-3数据处理单元(DPUs),以简化数据流向附属高性能AI存储的处理。
超微的NVIDIA MGX设计产品线支持NVIDIA GB200 Grace Blackwell NVL4超级芯片,该芯片通过NVLink连接四块Blackwell GPU,并通过NVLink-C2C与两块NVIDIA Grace CPU统一,为科学计算、图神经网络(GNN)训练和推理应用提供高达2倍的性能提升。NVIDIA GB200 NVL72 SuperCluster采用超微端到端液冷解决方案,在单个机架中实现了百亿亿级(Exascale)超级计算机,并配备SuperCloud Composer(SCC)软件用于全面监控和管理。此配置包括72块NVIDIA Blackwell GPU和36块NVIDIA Grace CPU,通过第五代NVIDIA NVLink和NVLink Switch连接,提供130TB/s的总GPU通信带宽。
超微的5U PCIe加速计算系统现已推出配备NVIDIA H200 NVL的版本,用于低功耗、风冷企业机架设计。这些系统相比上一代提供高达1.7倍的大语言模型(LLM)推理性能,支持在几小时内完成LLM微调,采用HBM3e内存提供1.5倍的内存容量增加和1.2倍的带宽增加。X14和H14 5U PCIe系统支持通过NVLink技术最多两个4路NVIDIA H200 NVL系统,每个系统共8个GPU,提供900GB/s的GPU间互连速率和每个4-GPU NVLink域564GB的HBM3e内存总池。这些系统支持最多10个PCIe GPU,并采用最新的Intel Xeon 6或AMD EPYC 9005系列处理器,每个H200 NVL包含NVIDIA AI Enterprise五年订阅。