AI基础设施需求现已超过数据中心容量供应，对算力受限部署形成瓶颈。

人工智能数据中心不仅增大了电力需求，还使其更难预测。Capgemini研究院的报告发现，近80%的电力公司预期需求模式会更加极端和波动，超过四分之三的公司难以准确预测未来需求。这种不确定性正在重塑产能对话：67%的电力行业高管报告"幽灵"数据中心负载请求，平均而言约19%的数据中心电力需求从未实际成为现实。

已获得与可用产能之间的错配已在市场上显现。CBRE报告称，第一季度北美四大数据中心市场的库存同比增长33%，而拉丁美洲四大市场的库存增长41.3%。尽管供应激增，美国前四大市场的空置率跌至历史低位——北弗吉尼亚州0.3%，亚特兰大1%。

然而，原始库存数据只能说明问题的一半。Black & White Engineering全球技术创新总监保罗·库克主张，获得产能不仅仅是一个开发问题。运营方还必须验证新增产能在高密度机架投入使用后是否能转化为可用的人工智能计算能力。他们需要了解设施在运营中的表现、安全可用的产能规模，以及在负载、冷却、控制和系统性能方面可能出现约束的位置。

ASHRAE的人工智能数据中心框架强调了这种可见性的重要性。机架密度已从约120千瓦升至数百千瓦，兆瓦级机架指日可待。供电和冷却不再能被视为独立领域，一个领域的决策直接影响另一个。土地、电力和水资源仍主导数据中心开发，但它们无法显示设施实际运行后拥有多少可用产能。

在人工智能工作负载中，设施约束日益影响模型性能。设施可能具有约定的电力，但用户体验取决于GPU是否能可靠运行，以及冷却系统是否能承载密集工作负载。英伟达的大型语言模型基准测试文档显示，首个令牌的响应时间包括请求排队时间、预填充时间和网络延迟——所有这些都受基础设施因素影响。当GPU资源饱和时，系统吞吐量可能下降。

ASHRAE建议采用液冷系统，包括直接芯片液冷系统和后门热交换器，以支持50—100+千瓦的机架。英伟达的数据中心GPU管理器提供SM利用率、内存带宽、张量核心活动和计算管道行为的可见性。这些遥测数据为运营方和购买方提供了讨论可用产能的实用词汇表：GPU持续可用性、延迟、冷却余量和运营约束。

库克强调了最后一个关键要点：运营方必须保护自己访问、组织和使用自己运营数据的能力。如果数据难以提取、结构混乱或被锁定在专有环境中，就会限制未来的决策，并增加性能对比、引入新工具或应对工作负载变化的难度。随着新增产能需求的继续增长，运营智能必须影响设计和交付，而不是在交接后才由运营团队处理。