TechRadar는 데이터센터 성장을 제약하는 전력망, 열관리, 상호연결 과제를 살펴본다.

AI 붐은 전력망 용량과 열 방출의 물리적 한계에 빠르게 다다르고 있습니다. 전력망은 그 어느 때보다 팽팽하게 당겨져 있어, AI 데이터센터의 전력 연결 대기 시간이 길어지고 있으며, 기존의 공랭 및 액랭 시스템은 급성장하는 시설의 수요를 감당하기 어려워하고 있습니다.

AI 데이터센터는 빠른 성장을 이어가면서 여러 가지 과제에 직면해 있습니다. 컴퓨팅 성능이 GPU 상호연결의 데이터 전송 능력을 앞지르고 있고, 급격한 부하 변동으로 전력망의 역률 보정(PFC) 시스템에 부담이 가해지고 있으며, 랙당 전력 밀도가 기존 냉각 시스템의 한계를 넘어서고 있습니다.

아래에서는 AI 붐을 늦추고 있는 주요 열 및 전기적 병목 현상을 분석하고, 기업들이 이를 어떻게 혁신으로 극복하고 있는지 살펴보겠습니다.

**열의 벽(랙 수준의 마찰)**

일반 서버 랙도 많은 열을 발생시키며, 고성능 GPU 클러스터는 이보다 훨씬 더 많은 열을 발생시켜 열 한계를 그 어느 때보다 더 밀어붙입니다. 최신 GPU 랙은 캐비닛당 50~100kW 이상의 전력을 소비하며, 이로 인해 기존의 공랭 및 액랭 방식으로는 부족해지고 있습니다.

일반 냉각 시스템은 클러스터를 65~85도 사이에서 작동하도록 유지하지만, 90~100도에 이르면 GPU의 영구적인 손상을 막기 위해 성능 제한(스로틀링)이 작동합니다. GPU 랙은 막대한 전기 에너지를 소비하고 이것이 열로 변환되기 때문에, 스로틀링 한계에 도달하지 않도록 막는 일이 그 어느 때보다 어려워졌습니다.

기존의 공랭 시스템은 30~40kW를 넘는 랙 밀도를 위해 설계되지 않았지만, AI 클러스터는 이를 쉽게 넘어서고 있으며, 100kW 이상이 일반적인 수준이 되고 있습니다. 100kW 이상의 랙을 식히기 위해 고밀도에서 기류를 유지하려면 전력을 많이 소모하는 팬을 극한의 속도로 돌려야 합니다. 이는 전기 에너지를 낭비하고 데이터센터의 전력 사용 효율(PUE)을 악화시킵니다. 공기만으로 초대형 AI 클러스터를 식히려면 "허리케인급" 기류가 필요한데, 이는 현실적이지 않습니다. 결국 액랭이 대안으로 남습니다.

액랭은 유체역학에 의존합니다. 콜드 플레이트는 마이크로채널을 통해 난류를 칩 위로 직접 흘려 칩을 식힙니다. 이러한 마이크로채널에 충분한 유체를 흐르게 하려면 막대한 펌핑 동력이 필요하며, 이는 데이터센터 운영자에게 점점 더 중요한 제약이 되고 있습니다. 이를 완화하기 위해 운영자들은 칩 위에 두는 방식 대신 프로세서에 직접 장착하는 칩 직접 냉각(direct-to-chip) 콜드 플레이트로 전환하고 있습니다. 이 방식은 칩을 식히면서도 펌핑 동력을 덜 소비합니다.

상변화 원리도 GPU 클러스터의 냉각 효율을 높이는 데 도움을 주고 있습니다. 이 방식에서 클러스터는 액체의 기화 또는 고체-액체 전이에서 발생하는 잠열을 이용해 고밀도 GPU 랙에서 나오는 막대한 열 상승분을 흡수합니다. 특수 유전성 유체가 뜨거운 GPU와 직접 접촉하여 끓어 기체가 되고, 이때 열을 즉시 빼앗아 갑니다. 기체는 위로 올라가 응축기에서 다시 액체 방울로 바뀌고, 이 방울들이 수조로 떨어져 과정을 반복합니다. 이 공정은 2상 침지 냉각으로 알려져 있으며, 냉각 에너지를 최대 40%까지 줄입니다.

일부 데이터센터 운영자는 폐쇄 루프 액랭 시스템으로도 전환하고 있습니다. 이 시스템에서는 순환하는 유체가 증발 손실이 거의 없이 GPU를 식히므로, 잦은 보충이 필요 없습니다.

예를 들어, 용량 기준 세계 상위 3위 데이터센터 운영사인 마이크로소프트는 신규 데이터센터에 폐쇄 루프 시스템을 도입했습니다. 물은 한 번 채워져 서버를 순환하며 열을 흡수하고, 공랭식 냉각기로 옮겨져 식은 뒤, 새로운 공급 없이 다시 순환하여 열을 흡수합니다. 이 시스템은 비용이 많이 들고 대규모로 확산되기까지 시간이 걸리겠지만, 기업들이 열 병목 현상에 맞서 어떻게 혁신하고 있는지를 잘 보여줍니다.

**상호연결 및 기판 수준의 한계**

GPU 클러스터는 데이터, 메모리, 작업 부하를 공유하기 위해 전기 구리 또는 광 상호연결에 의존합니다. 전기 구리 상호연결은 오랫동안 표준이었지만, 무거운 GPU 작업 부하가 이를 한계까지 몰아붙이고 있습니다.

전기 신호는 긴 거리(2미터 초과)를 이동하면서 세기가 약해지며, 대역폭 요구량이 두 배가 될 때마다 실제로 사용할 수 있는 전송 거리는 절반으로 줄어듭니다. 대규모 GPU 클러스터는 통신 거리를 그 어느 때보다 길게 만들었습니다. 또한 밀집된 구리 상호연결은 다른 신호를 방해하는 전자기 간섭을 발생시켜, 더 많은 전력을 소모하는 복잡한 등화 시스템을 필요로 합니다.

GPU 회로 기판의 구리 배선에서는 저항으로 인해 전력이 손실되기도 합니다. 구리에 흐르는 전류가 많을수록 더 많은 열이 발생하고, 이를 식히는 데 더 많은 냉각 에너지가 필요하며, 이 냉각 에너지 자체가 이미 병목이 되고 있습니다.

전기 상호연결이 절대적인 한계에 도달하면서, 데이터센터 운영자들에게는 광 상호연결로 전환하는 것 외에 선택지가 거의 없습니다. 광 상호연결은 데이터를 빛의 펄스로 변환하여 광섬유 케이블을 통해 장거리를 최소한의 손실로 전송합니다. 이 케이블은 구리 다발보다 훨씬 얇아서, 열이 많이 발생하는 고밀도 GPU 랙 내부에 더 많은 기류 통로를 만들어 줍니다.

기업들은 플러그형 광섬유 케이블에서 실리콘 포토닉스 또는 공동 패키지 광학(CPO)으로 옮겨 가고 있습니다. 이 방식에서는 광 회로가 GPU에 직접 내장되어 장거리에 걸쳐 빛을 전송합니다. 현재로서는 광 상호연결이 전기 구리보다 훨씬 비싸서, 일부 GPU 구성에서는 최대 7배까지 비쌉니다. 그러나 구리가 물리적 한계에 도달했기 때문에 단기적으로 이 비용을 감수하는 것 외에는 선택지가 거의 없습니다. 더 많은 기업이 광 상호연결을 도입하고 양산에 투자함에 따라 비용은 낮아질 가능성이 큽니다.

**전력망 및 변전소 위기**

마지막으로, 전력망 연결은 AI 데이터센터에 영향을 미치는 가장 큰 과제입니다. 현대의 전력망은 AI 데이터센터의 급증하는 부하를 감당하도록 설계되지 않았으며, 2021년부터 2025년까지만 해도 전 세계적으로 30GW의 신규 용량이 추가되었습니다. 이러한 급격한 증설로 전력망 구성 요소의 공급망이 압박을 받고 있으며, 전력망 운영자들이 우회해야 하는 공학적 과제도 생겨났습니다.

예를 들어, GPU 클러스터에 안전한 전압을 공급하는 고압 변압기는 공급이 부족한 상황입니다. 대기 시간은 2020년 기준 6~12개월에서 현재 2~4년으로 급증했으며, 이는 값비싼 초대형 GPU 클러스터가 전력 공급을 기다릴 수 있는 기간보다 훨씬 깁니다.

전력망에 있는 기존 역률 보정 시스템은 신규 AI 데이터센터의 막대한 부하 인출로 인해 한계에 다다랐습니다. GPU 클러스터는 수 초 안에 전력 수요를 바꿉니다. 한 순간에는 낮은 추론 수요로 전력망에서 안정적인 전력을 끌어다 쓰고, 다음 순간에는 사용량 급증으로 과도한 전력을 끌어씁니다. 이러한 변동은 변압기를 과열시키고 전력망에 영향을 미치는 복잡한 고조파를 만들어 내며, 전력망 운영자는 이를 완화하는 시스템에 막대한 투자를 해야 합니다.

AI 클러스터는 기가와트 규모로 확장되고 있어, 전압 강압 개폐장치를 허용 가능한 한계까지 밀어붙이고 있습니다. 이러한 기가와트 규모 클러스터에 전력을 공급하기 위해 필요한 대형 변압기는 전기 임피던스를 낮추는데, 이는 잠재적으로 높은 단락 고장 전류를 선로로 흘려보낼 수 있습니다. 단락이 발생하면 자기장이 개폐장치의 버스바에 강력한 기계적 힘을 가해, 버스바가 휘거나 지지대에서 뜯겨 나갈 수 있습니다. 그 결과 구조적 파손이 발생하는데, 이는 전력망 운영자와 독립된 데이터센터 전력망이 용납할 수 없는 상황입니다.

기업들은 이러한 전기적 병목에 대응하기 위해 다양한 해법을 찾고 있습니다. 그중 가장 두드러진 것은 고체 변압기(SST)로의 대대적인 전환입니다. 고체 변압기는 기존 변압기처럼 자기장에 의존하지 않고, 고주파 전력 전자 장치와 반도체를 사용하여 전압을 낮춥니다.

고주파 전자 장치 덕분에 고체 변압기는 전압을 능동적으로 조절하고 고조파를 걸러내어 변동을 줄일 수 있습니다. 효율은 97~99%로, 기존 변압기의 95~97%에 비해 높으며, 이 1~2%포인트의 차이는 기가와트급 데이터센터에서는 상당한 차이를 만듭니다. 또한 기존 변압기보다 훨씬 작고 가벼워 물류와 설치를 더 빠르게 할 수 있습니다.

하지만 고체 변압기에도 고유한 과제가 있습니다. 이를 구동하는 내부 고주파 부품과 칩은 비싸며, kVA당 가격이 저주파 대안보다 흔히 5배 이상입니다. 또한 여러 단계의 전력 변환(AC-DC 및 DC-AC/DC-DC)이 필요하고, 이러한 변환 과정에서 미세한 손실이 누적되어 최고 효율을 달성하기 어렵습니다. 내부 부품은 열을 발생시키고 더 빨리 노후화되어, 기존 변압기보다 더 적극적인 유지보수가 필요합니다.

비용 역시 문제인데, 고체 변압기는 현재 자기식 변압기보다 제작과 유지 관리에 훨씬 많은 비용이 듭니다. 그러나 양산 투자가 늘어나면 비용은 시간이 지나면서 낮아질 가능성이 크며, 그렇게 되면 AI GPU 클러스터가 이를 더 빠르게 도입할 수 있을 것입니다. 세계 2위 변압기 제조사인 지멘스는 최근 독일의 기술 기업 레인(Rein)과 파트너십을 맺었는데