ET Datacenters는 AI 워크로드가 데이터센터의 전력 효율성을 재편하고 있다고 주장한다.
인공지능(AI) 워크로드는 데이터센터가 전력 공급과 효율에 관한 오랜 가정을 다시 검토하도록 만들고 있다. NVIDIA의 72-GPU Vera Rubin 모델과 같은 대규모 GPU 클러스터의 도입으로 랙당 전력 밀도가 수십 킬로와트에서 수백 킬로와트로 높아지고 있으며, 일부 설계는 랙당 1메가와트를 넘을 것으로 전망된다.
이러한 AI 워크로드는 기존 애플리케이션과 다르게 작동하여, 학습 주기 동안 밀리초 단위로 약 30퍼센트에서 100퍼센트까지 사용률이 급격히 변동하는 현상을 일으킨다. 이처럼 역동적인 행동은 안정적인 워크로드에 최적화된 기존 전력 아키텍처에 도전 과제가 된다.
**전력 효율에 대한 재고**
과거의 전력 변환 시스템은 최대 효율, 즉 특정 작동점에서 달성되는 최고 효율에 초점을 맞추어 왔다. 그러나 AI 워크로드는 정상 상태에서 작동하는 경우가 드물며, 효율이 종종 떨어지는 부분 부하 상태에서 더 많은 시간을 보낸다.
효율이 1~2퍼센트포인트만 떨어져도 수백 또는 수천 개의 GPU 랙 전체에서 상당한 에너지 손실이 발생할 수 있다. 이러한 비효율은 열 발생, 냉각 요구량, 운영 비용을 증가시킨다.
**고전압 배전과 평탄 부하 효율**
기존의 48~54V DC 버스바 아키텍처는 증가하는 랙 전력 요구량에 맞춰 확장하기 어렵다. 전압이 낮을수록 같은 전력을 공급하는 데 더 큰 전류가 필요하며, 이는 저항 손실, 더 큰 케이블 용량, 그리고 1MW 랙 하나당 200킬로그램의 구리와 같은 재료비 증가로 이어진다.
데이터센터 운영자들은 이제 두 가지 전략을 검토하고 있다. 하나는 ±400V 또는 800V DC 모델과 같은 고전압 배전 아키텍처를 채택하는 것이고, 다른 하나는 전체 작동 범위에서 보다 평탄한 효율 곡선을 유지하는 것이다. 고전압은 전류, 구리 소요량, 저항 손실을 줄여 더 높은 랙 밀도를 지원한다.
평탄 부하 효율은 AI 워크로드의 전형적인 변동 부하 범위 전반에서 일관되게 높은 성능을 보장한다. 이 접근법은 에너지 손실과 열 발생을 줄이고, 전력 시스템의 예측 가능성과 확장성을 높이는 데 도움이 된다. OmniOn Power의 AI 및 데이터센터 부문 senior vice president이자 general manager인 Philip Zuk는 이러한 결합된 접근법이 AI의 실제 작동 방식에 맞춰 전력 시스템을 설계하는 데 도움이 된다고 말한다.