被称为僵尸工作负载的闲置或废弃AI训练任务正消耗过剩GPU容量，推高AI数据中心运营支出。

闲置的云和 GPU 资源，通常被称为“僵尸工作负载”，正在显著推高数据中心的运营成本和电力消耗。随着对 GPU 密集型人工智能工作负载的迅速扩张，这一问题变得尤为严峻。

僵尸工作负载——包括被遗弃的库、程序、服务和存储卷——持续占用计算资源，导致云环境和本地部署环境中出现巨大的浪费。随着基于 GPU 的人工智能应用的日益普及，这种闲置计算带来的财务和环境代价被进一步放大。云 FinOps 工程师、成本优化工程师和库存管理员正越来越多地承担起识别和退役这些休眠资产的责任。根据 IDCA 的研究，僵尸工作负载占美国云使用量的比例高达 13%，而 FinOps 工具提供商估计，总的云浪费比例可能达到 25% 至 30% 或更高。这些闲置资源通常源于组织合并或收购后遗留的未使用应用程序或虚拟实例。

云原生微服务的兴起使这一挑战更加复杂，因为即使应用程序已关闭，这些服务仍可能在后台无声无息地继续运行。Intellyx 分析师 Eric Newcomer 指出，这些“无头”服务可能由数百个组件组成，使得清理工作变得困难。

向以 GPU 为中心的人工智能工作负载迁移进一步加剧了效率提升工作的压力。Akamas 的开发关系工程师兼 Cloud Native Computing Foundation（CNCF）大使 Graziano Castro 指出，GPU 的价格标签远高于 CPU 核心，这使得闲置的 GPU 成为一项重大的财务负担。“LLM（大语言模型）时代带来的变化是，忽视低效的成本几乎在一夜之间上升了一个数量级。”他表示。

为了满足这些需求，Kubernetes 正在演进，引入了旨在实现动态资源分配和更智能批处理作业调度的新原语。然而，由于该平台最初是为更便宜、高度弹性的工作负载而架构设计的，因此仍需持续开发。现代效率监控现在依赖于严格的 GPU 健康和利用率跟踪，芯片级别的可见性已成为必备条件。虽然各组织部署了 NVIDIA 的数据中心 GPU 管理器（DCGM）等工具，但 Castro 警告称，GPU 可能显示为活动状态，而实际上只是在等待下游任务，从而造成关键的可见性盲区。

建立标准化的可观测性同样至关重要。OpenTelemetry 倡议对于关联不同监控工具中的性能指标以及构建用于 AI 工作负载跟踪的共同词汇表至关重要。IDCA 首席研究官 Roger Strukhoff 强调，实施明确的治理政策并定期进行全环境扫描以清除僵尸工作负载的重要性，尤其是在并购或内部重组之后。组织必须强制执行用户责任制以关闭实例，部署自动化监控系统以退役未使用的资源，并且理想情况下应在闲置容量开始累积云费用之前进行干预。