NVIDIA推出直接芯片液冷技术,改进性能密度和能源效率。
英伟达发表了一篇可能改变人工智能行业格局的博客文章。英伟达公司可持续发展主管乔什·帕克(Josh Parker)在文中透露,该公司新型闭环液冷系统可能解决了人工智能最紧迫的问题之一:将数据中心的耗水量减少至接近零,同时将冷却相关的能源消耗减少最多40%。
这一突破通过允许英伟达鲁宾(Rubin)架构服务器以高达45摄氏度(113华氏度)的温度运行冷却液而实现——这比典型热水浴缸的38-40摄氏度还高,但能效更高。通过消除大部分冷却机和风扇、减少对水的依赖,该系统为额外的计算能力释放了空间和电力,同时将设备温度保持在最优工作范围内。
帕克指出,鲁宾是"全球首个实现100%液冷的系统——每个芯片、每个网络组件都完全由闭环液体冷却,系统中任何地方都没有风扇"。冷却液是75%水和25%丙二醇的混合物,配方类似于防冻液。热量在芯片处直接被捕获,并通过在更高温度下运行的液体循环环路输送,使室外干式冷却器能够高效地散热,同时显著减少了冷却机、冷却风扇和用水需求。闭环设计一次性填充冷却液,在数据中心的整个运行期间保持密封。
在温和和寒冷气候中,这种架构可以将数据中心的年耗水量从大约每兆瓦260万加仑减少到接近零——节省100%。英伟达数据中心冷却与基础设施主任阿里·海达里(Ali Heydari)表示:"采用干式冷却器设计,这是一个闭环系统,没有蒸发冷却——除了可能一年中的1%时间,我们在某些较温暖的气候中可能需要冷却机。"
所解决的问题极为严峻。每个运行工作负载的人工智能芯片都会产生热量。图形处理器在重型工作负载期间可以达到105摄氏度(221华氏度)。随着英伟达黑威尔(Blackwell)机架架构扩展到每个机架100千瓦——以及AMD和超大规模硅芯片推高密度——冷却成为数据中心运营的限制因素。空气冷却无法大规模解决这个问题;液体冷却是满足所需机架密度的唯一成熟解决方案。
大型数据中心日耗水量高达500万加仑——相当于一个50,000人的城市的用水量。这给干旱易发地区的水供应造成压力。乔治亚州最近经历了中度到严重干旱,而位于费耶特维尔(亚特兰大外20英里)的一个数据中心园区从该地区抽取了近3000万加仑的水,没有支付费用,也没有让当地人意识到,直到居民经历了低水压。为了便于理解,3000万加仑可以填满44个奥运规格的游泳池。
电力需求同样惊人。环境和能源研究所估计,美国数据中心到2030年可能需要130吉瓦的年度电力——足以为大约1.14亿个家庭供电,相当于美国1.48亿个住房单位的很大一部分。高德纳预测,人工智能数据中心的电力需求将在2030年翻倍,从今天的448太瓦时上升到本十年末的980太瓦时,约占全球电力消费的3%。麦肯锡数据显示,数据中心的电力消耗中有高达40%目前仅来自冷却。
传统空气冷却造成了额外的运营挑战:冷却风扇达到85分贝,"冷通道"的温度在64.4华氏度,"热通道"在95-110华氏度之间,以及显著的空间低效率。英伟达的液体冷却不仅节省水和能源,还释放了物理空间,之前占用六个机架单元的系统现在可以装入两个。
需要说明的是:鲁宾仍在批量生产中,要到今年晚些时候才会发货。在实现有意义的数据中心采用之前还需要经过数年,这意味着现有基础设施将继续使用效率较低的冷却系统。此外,空气冷却数据中心将需要改造基础设施以适应液体冷却,需要进行芯片级液体冷却安装。