微软开发新的冷却技术,解决超大规模云提供商达到功率上限约束时的热瓶颈。
微软宣布了一项针对AI芯片的新冷却技术,采用微流体技术在硅芯片内部直接输送液体。在硅芯片背面直接蚀刻微小通道,形成沟槽,使冷却液能够直接流向芯片并更有效地散热。微软基于AI的系统能识别芯片上的独特热特征,并精确地引导冷却液流向。该公司通过冷却运行模拟Teams会议的服务器来验证该设计。实验室规模测试表明,微流体技术在散热方面的性能比冷板高达三倍,并根据芯片类型的不同,将GPU内硅的最高温升降低了65%。该团队期望这项技术能改善电源利用效率并降低运营成本。在原型设计方面,微软与瑞士初创公司Corintis合作,利用AI优化受生物启发的设计,以比传统的上下直线通道更高效地冷却芯片的热点。
AI工作负载和高性能计算对数据中心基础设施造成了前所未有的压力,热耗散成为最棘手的瓶颈之一。空气流动和冷板等传统方法越来越无法跟上新一代硅芯片的步伐。根据灰狗研究公司(Greyhound Research)首席执行官兼首席分析师Sanchit Vir Gogia的说法,"现代加速器产生的热负荷是空气系统无法承受的,即使是先进的水冷循环系统也在吃力。眼前的问题不仅是GPU的功率上升(TDP)飙升,还有电网延迟、水资源短缺,以及传统风冷机房无法吸收运行功率达80或100千瓦的机架。"他指出,"冷板和浸没式冷却已经延长了运行时间,但只是略微延长。它们仍然受到热界面阻力的困扰,这些热界面在芯片处阻止散热。摩擦损失出现在热路径的最后一米处,即结点和封装之间,性能就在那里被浪费了。"
热散热挑战具有重大经济意义。根据Fab Economics首席执行官Danish Faruqui的说法,按照2025年AI基础设施建设总体拥有成本(TCO)分析,数据中心电力预算的45%-47%以上通常用于冷却,如果冷却方法效率没有提高,这一比例可能会扩大到65%-70%。GPU功率需求已大幅增长:2024年,英伟达Hopper H100每个GPU需要700瓦,2025年扩展到Blackwell B200的1000瓦和Blackwell Ultra B300的1400瓦。展望2026年,Rubin GPU预计需要1800瓦,Rubin Ultra GPU需要3600瓦。Faruqui指出,基于微流体的直接硅冷却可将冷却费用限制在数据中心电力预算的20%以下,微流体冷却可能是Rubin Ultra GPU每个GPU 3.6kW TDP预算的唯一实现方式,尽管这需要在微流体结构尺寸、放置和微通道非层流分析等方面进行重大技术开发优化。
这一挑战是普遍的,包括AWS、Google、Meta和Oracle在内的超大规模云计算公司都在与极端芯片热量进行斗争。Counterpoint Research副董事Brady Wang表示,"新一代AI硅产生的不断升级的热负荷意味着,依赖当今的解决方案(如冷板)可能在短短五年内就会对进展造成'硬性天花板'。"然而,实施障碍仍然很大。根据TechInsights分析师Manish Rawat的说法,"制造微米级通道会增加工艺复杂性,由于晶圆脆性可能会增加良率损失。超可靠的密封至关重要,因为即使轻微泄漏或颗粒污染也可能降低芯片性能。与可更换的冷板不同,硅集成冷却使芯片更换成为唯一的维护选择,这增加了服务成本和物流复杂性。此外,长期接触冷却液(即使是介电液体)也可能诱发化学和机械应力,需要进行广泛的资格认证以确保5-10年的可靠性。"为了使微流体技术扎根,该方法需要精心管理制造、可靠性和维护风险,并必须成为整个生态系统的标准实践。