行业分析详细介绍了AI就绪基础设施中的关键电力和冷却挑战,突出了支持系统的供应不足。
大型 GPU 投资、云计算容量和尖端芯片一直推动着 AI 竞赛,但企业数据中心正面临一项新的挑战。大规模部署 AI 的 IT 领导者必须确保基础设施能够支撑这样的规模。
根据 Gartner 的预测,2026 年全球数据中心电力需求将增长 26%,主要由 AI 基础设施驱动。今年,仅 AI 优化服务器就将消耗数据中心总电力的近三分之一。德勤估计,美国 AI 数据中心的电力需求可能会从 2024 年的 4 GW 激增至 2035 年的 123 GW。
随着计算需求超过支持基础设施的速度,企业数据中心面临的压力急剧增加。机架密度更高,热负荷不断上升,电气系统正在接近设计极限。在许多设施中,添加另一个 AI 集群已成为一项工程挑战。
解决这些问题需要更谨慎的基础设施规划。关键问题现已聚焦于电力可用性、额外 AI 集群的冷却容量,以及需要为未来硬件预留多少余量。
答案将决定 AI 进入生产环境的速度,以及现有数据中心能否扩展以满足需求。
与 AI 模型相比,数据中心基础设施演进缓慢。升级变压器、开关装置和公用事业连接需要数月或数年,迫使 IT 领导者重新思考 AI 扩展策略。许多组织没有建设新设施,而是分阶段现代化改造现有数据中心——创建专用 AI 区域、加强电力分配,并部署高密度机架。这种方法加快了部署速度,同时保护了现有基础设施投资。
即使是超大规模云计算提供商也遵循这条路径。亚马逊的 Titus 项目通过液体冷却、灵活的电源架构、模块化服务器配置和更快的建设方法,改造现有数据中心设计以适应下一代 AI 系统,在不完全依赖新设施的情况下实现未来 AI 系统的部署。
现代化还意味着提高可见性。DCIM 平台和智能电力分配单元可提供关于电力消耗、热容量和机架使用率的细粒度数据。数字孪生技术使公司能够在硬件到达前模拟新的 AI 部署如何执行。这种洞察力指导投资流向回报最高的地方。
Rehlko 工程、仿真与高级开发总监 Robert Danforth 强调应将 AI 基础设施视为一个完整系统,而不是孤立的组件。"我们看到基础设施从单个部件向整个运营生态系统思考的转变。问题不在于发电机、电池系统、冷却解决方案或控制平台是否单独表现良好。而是所有这些系统是否能在高度动态的条件下有效地协同工作。这就是为什么仿真和数字孪生技术获得如此多关注的原因。它们使运营商能够在基础设施部署前理解这些相互作用,并帮助在设计流程的早期阶段识别潜在挑战,"他表示。
GPU 只是开始。更大的挑战是为下一代准备数据中心,包括模块化不间断电源系统、架空母线和可扩展电力分配。
现代 GPU 集群产生的热量常规空气冷却无法处理。重点不仅仅是保持设施冷却,而是直接从芯片中移除热量以维持 AI 性能。组织需要混合冷却系统——为高密度 AI 机架采用液体冷却,同时为传统工作负载采用常规空气冷却。这种分阶段方法与褐地现代化改造趋势相一致,使 AI 扩展无需完全重建。
冷却技术正在快速发展。直接芯片液体冷却正成为新 AI 部署的标准,在热量传播到整个服务器前在源头捕获热量。NVIDIA 通过其 45 度液体冷却系统推进这一发展,使用温暖液体在闭环系统中循环,以减少对能耗巨大冷却机的依赖并降低用水量。微软正在测试微流体冷却,在芯片硅上蚀刻微小通道,允许冷却液流动并比传统方法更有效地散热。
许多企业 AI 设置都导致宝贵的 GPU 资源利用不足。训练任务争夺相同的加速器,推理任务在为大得多的模型过度配置的硬件上运行,组织经常为了防范而预留容量——导致昂贵的基础设施闲置。
提高利用率始于更好的工作负载放置。大规模模型训练可以在需求高峰期利用云资源,而例行推理在较小的、任务特定的模型上运行,更靠近用户或在现有企业基础设施上运行。AI 编排平台可有效地跨可用 GPU 调度工作负载。模型量化、批处理和推理优化等技术可减少计算需求,同时保持业务成果,使组织能够在无需添加服务器或增加电力消耗的情况下执行更多 AI 工作。
容量规划不再是年度性工作,而是一个持续的过程。基础设施、AI 和运营团队必须共享性能数据,以确定工作负载应在何处运行以及何时真正需要新的容量。
构建 AI 就绪基础设施远不止添加更多 GPU。长期成功取决于有效管理模型性能、电源和冷却系统。Compu Dynamics 首席执行官 Steve Altizer 指出,AI 使基础设施整合成为必需。"在数据中心开发的前几代中,机械、电气、IT 和运营团队通常可以并行工作,然后后期拼接在一起。AI 消除了这种容差。机架密度的变化会影响电气分配、结构需求、热策略、调试、服务访问和现场运营。"
随着 AI 工作负载的演变,基础设施必须随之适应。组织应该标准化核心基础设施——电源、冷却和网络骨干——而不是为每个新硬件代代重建设施,同时允许 IT 系统随着工作负载需求变化而扩展。"目标是支持下一代 AI 部署,而无需为每次硬件更改进行重大重新设计,"Altizer 说。
每个新的 AI 部署都会影响能源需求、用水量和长期弹性。监管压力不断加剧。智利由于用水量问题和含水层影响而阻止了谷歌的一个主要数据中心项目。欧洲正在加强限制,荷兰对超大规模设施施加严格限制,阿姆斯特丹将其对新超大规模数据中心的市政禁令延长至 2030 年。
对于 CTO 和基础设施团队而言,这些压力正在改变 AI 规划。扩展 AI 必须平衡增长与可持续电力网、水源和运营预算。