NVIDIA推进直接芯片液冷技术,支持更高密度GPU部署,改进热管理。
数据中心因其能源密集型运营面临日益增加的批评。不断增长的计算需求产生大量热量,需要大量空气和水来维持最佳运行温度。这一冷却挑战因土地稀缺和经济激励而加剧,这些因素正将新的数据中心开发推向干旱易发地区,进一步给当地水资源造成压力。
随着AI硬件变得越来越密集,传统空气冷却已达到实际极限。认识到这一限制,英伟达开发了一种闭路液体冷却系统,旨在解决AI基础设施中的可持续性和性能问题。
该系统运行的冷却液温度为45°C(113°F)——约比热水浴温度高5-7°C——使冷却系统更简单,电力消耗减少。英伟达专有的冷却液配方使用75%的水和25%的甘油。在这种闭路设计中,冷却液持续在服务器中循环,直接从芯片上去除多余热量。温暖的冷却液随后通过外部干冷却器循环,几乎不产生水蒸发。
"英伟达AI工厂的DSX参考设计实现了零水耗——我们已经消除了大量电力使用和几乎所有水资源消耗,"英伟达数据中心冷却和基础设施总监Ali Heydari表示。与传统蒸发冷却塔相比,这种方法在适宜的气候条件下可将冷却相关水耗减少多达100%,甚至在典型日期可完全消除冷却塔。
该系统的主要优势源于直接芯片液冷,液体直接通过连接到CPU和GPU的冷板流动,在热源处捕获热量。这种方法的传热效率比空气冷却高数千倍,相比室级冷却方法提供了更优越的热效率。
性能优势超越了能源和水资源节约。独立测试显示,英伟达的H100系统采用水冷时的性能比空冷提高约17%。在持续AI工作负载下,采用水冷时GPU温度范围为41-50°C,而空冷时为54-72°C。更高的热效率也可能延长硬件寿命。
集成度改进同样显著。英伟达的Rubin系统现在可以放入两个机柜而不是六个,使数据中心运营商能够在每个机柜中添加更多GPU、提高机柜功率水平,并在现有建筑空间内部署更大的AI集群。"一旦每芯片功率超过一定水平,液体冷却就成为了必需的,"Motivair首席执行官Richard Whitmore指出。
英伟达计划从今年开始在即将推出的Rubin安装中部署这些更高温度的闭路水冷系统。