AI 중심의 대규모 도입으로 랙당 부하가 증가하고 전력 공급, 액체 냉각 및 구조 설계에 대한 새로운 요구사항이 대두되고 있습니다.

랙 전력 밀도, 즉 랙당 지속 전력 소모량은 꾸준히 상승하고 있다. 얼마 전만 해도 많은 운영자들은 랙당 10kW를 일반적인 수준으로 간주했으며, 더 높은 밀도는 특수 환경에 한정하여 사용했다. 오늘날 AI 워크로드, 공간 제약, 그리고 고급 열 관리 솔루션들이 실제 랙 용량을 극한까지 끌어올리고 있으며, 일부 설계는 랙당 1MW에 도달하거나 이를 목표로 하고 있다. 운영자들이 직면한 핵심 질문은 이러한 추세가 어디까지 이어질 것이며, 더 높은 용량의 랙을 지원하기 위해 어떤 인프라 변경이 필요한가 하는 점이다.

랙 용량은 여전히 광범위하게 다양하다. 10kW 이하의 부하가 중소형 시설에서 여전히 일반적이지만, 최근 몇 년간 랙당 부하가 현저히 높아지는 명확한 변화가 나타나고 있다. 2024년까지 평균 랙 전력은 12kW로 상승했다. 2026년 현재 이는 26kW에 달한다. 2024년의 12kW에서 2026년의 26kW로, 평균 전력은 단 이 년 만에 두 배 이상 증가했다.

관련 기사: Nvidia, MediaTek, AI 랙용 맞춤형 칩 도입

이러한 변화를 주도하는 여러 요인이 수렴하고 있다. 첫째, AI 붐이다. 현대 서버와 AI 가속기는 이전 세대보다 훨씬 더 많은 전력을 소비하며, 특정 구성에서는 개별 GPU나 가속기가 장치당 최대 700W를 소모하는 것으로 보고된다. 둘째, 지속적인 용량 수요다. 데이터센터 부지가 점점 더 부족해짐에 따라 운영자들은 기존 면적을 최대한 활용하기 위해 랙 밀도를 높이고, 키우거나 깊이가 깊은 캐비닛을 채택하거나 그 둘 다를 통해 랙당 전력 소모량을 늘리고 있다. 셋째, 고급 열 관리 솔루션이다. 칩 직접 냉각, 후면 열교환기, 침수식 냉각과 같은 기술들은 열 폭주 위험 없이 더 높은 밀도를 가능하게 한다. 마지막으로, 시설 설계 개선이다. 협소한 공간을 위한 천장 호이스트와 같은 혁신들은 좁은 레이아웃에서도 장비 취급 및 유지보수를 간소화한다.

랙당 전력 소모량을 높이는 것은 단순히 서버를 추가하는 것을 넘어, 전력 공급, 냉각, 구조적 인프라 전반에 근본적인 영향을 미친다. 전력 가용성 및 공급 측면에서, 총 용량이 충분함에도 불구하고 기존 분배 아키텍처로는 적절한 중복성을 유지하면서 단일 랙에 수백 암페어의 전류를 안정적으로 공급하지 못할 수 있다. 냉각 측면에서는 와트수 증가는 열 출력 증가로 직접 이어진다. 액체 냉각은 열 저항을 줄이고 에너지 효율을 향상시키지만, 추가적인 자본 지출, 복잡한 모니터링 및 유지보수 프로토콜, 물 관리 및 누수 감지 요구사항, 그리고 전문적인 기술 인력 등 새로운 과제를 안긴다. 모든 시설이 이러한 시스템으로 빠르게 전환할 수 있는 것은 아니다. 구조적 및 공간적 측면에서는 무겁고 밀도가 높은 랙이 바닥 하중을 증가시키고 장비 취급을 복잡하게 만든다. 가벼운 랙용으로 설계된 시설은 구조 보강, 업그레이드된 바닥재, 또는 재설계된 설치 및 서비스 경로가 필요할 수 있다.

관련 기사: 데이터센터 하드웨어 하이라이트: 2026년 8월

랙 전력 부하가 계속 상승할지 여부는 수요, 공급, 규제 정책의 상호 작용에 달려 있다. 수요와 용량 관점에서, 전체 데이터센터 용량 성장이 결국 시장 수요와 일치하여 밀도를 극대화하려는 즉각적인 압력을 줄일 가능성이 있다. 그러나 현재로서는 AI 대응 컴퓨팅에 대한 수요가 강력하며, 산업 전반의 둔화에 대한 뚜렷한 징후는 없다. 건설 제약 관련해서는, 신축 개발을 자주 지연시키는 건설 중단령, 연계 지연, 또는 허가 병목 현상이 빈번히 발생한다. 이러한 시나리오에서 운영자들은 신규 구축보다는 기존 공간의 고밀도화를 우선시할 가능성이 매우 높다.

대략 1MW의 전력을 소모하는 랙은 당분간 예외적인 사례로 남을 것이지만, 10kW가 표준 기준선인 시대는 이미 끝났다. 경쟁력을 유지하기 위해 데이터센터 운영자는 선제적인 조치를 취해야 한다. 첫째, 강력한 중복성과 내결함성을 유지하면서 더 높은 랙당 부하를 공급할 수 있는 전력 아키텍처를 계획해야 한다. 둘째, 무겁고 밀도가 높은 하드웨어를 안전하게 수용하기 위해 바닥 하중 용량, 자재 취급 경로, 그리고 리프팅 장비를 검증해야 한다.

관련 기사: 데이터센터 하드웨어 하이라이트: 2026년 7월

요약하자면, 높아진 랙 전력 부하는 AI 중심 환경에서 확고히 자리 잡았으며 지속적으로 상승하고 있다. 전력, 냉각, 구조 시스템을 선제적으로 현대화하는 시설이 다음 컴퓨팅 수요 파동을 가장 잘 활용할 수 있을 것이다.

작성자 소개

크리스토퍼 토리(Christopher Tozzi)는 클라우드 컴퓨팅, 애플리케이션 개발, 오픈소스 소프트웨어, 가상화, 컨테이너 및 관련 인프라를 전문으로 하는 기술 분석가이다. 그는 뉴욕 올버니 지역의 주요 대학에서 강의를 진행한다. 그의 저서 ‘For Fun and Profit: A History of the Free and Open Source Software Revolution’는 MIT Press에서 출판되었다.