데이터센터가 커지는 이유: 비용 및 전력 밀도 최적화를 위한 다중 기가와트 메가캠퍼스로의 업계 추세.
데이터 센터는 한때 수백 메가와트 규모를 대형으로 간주되었습니다. 그러나 AI 붐은 이를 완전히 변화시켰습니다. 하이퍼스케일러들은 이제 여러 데이터 센터와 막대한 컴퓨팅 파워, 냉각 인프라, 그리고 기존 전력망이 수요를 감당하지 못할 때 종종 필요한 현장 발전 시설을 갖춘 광활한 도시 규모의 캠퍼스를 구축하고 있습니다.
AI 워크로드를 지원하기 위해 이러한 다중 기가와트(Multi-gigawatt) 규모의 시설이 전 세계적으로 확산되고 있습니다. 미국 에너지부에 따르면 단일 1GW 발전소는 약 75만 가구에 충분한 전력을 생산합니다. 그 규모를 설명하자면, 유타주에 계획된 한 시설이 완전히 가동될 경우 현재 주 전체가 필요로 하는 전기 사용량의 두 배 이상을 소비하게 됩니다.
이러한 확장의 원동력은 AI 자체의 성질에 있습니다. 웹페이지 제공이나 애플리케이션 호스팅과 같은 소규모 컴퓨팅 작업과는 달리, 대규모 언어 모델(LLM) 학습에는 하나의 건물 안에서 작동하는 방대하고 중단 없는 저지연 컴퓨팅 클러스터가 필요합니다. Dell은 LLM 학습에서 "분산형 AI 워크로드의 효율성이 중요하며" 네트워크 성능이 필수적이라고 지적했습니다. 연결성이 좋지 않으면 하드웨어 활용도가 낮아지고 전체 학습 시간이 증가하며 운영 비용이 상승하는 등 상당한 병목 현상을 초래하기 때문입니다. AI 모델을 효율적으로 학습시키기 위해서는 작업을 단일 거대 시설로 통합하여 비용을 최소화해야 합니다. 앤트로픽(Anthropic)의 창립자이자 CEO인 다리오 아모데이(Dario Amodei)는 2024년 대부분의 분야에서 인간보다 뛰어난 모델을 학습시키는 데 100억 달러에서 1,000억 달러가 소요될 수 있다고 밝혔습니다. 이러한 치열한 경쟁에서 오픈AI(OpenAI), 구글(Google), 메타(Meta), 앤트로픽(Anthropic)과 같은 기업들에게 속도와 용량은 가장 중요한 요소입니다.
학습 요구사항 외에도 규모의 경제가 확장을 주도합니다. 하이퍼스케일 데이터 센터는 전통적인 엔터프라이즈 데이터 센터보다 훨씬 효율적입니다. 국제에너지기구(IEA)는 "총 데이터 센터 소비량 중 냉각 시스템의 비중은 효율적인 하이퍼스케일 데이터 센터의 경우 약 7%인 반면, 비효율적인 엔터프라이즈 데이터 센터의 경우 30% 이상이다"라고 보고했습니다. 세계에서 가장 효율적인 시설 중 일부를 운영하는 구글은 "하이퍼스케일(매우 대규모를 의미) 데이터 센터가 소형 로컬 서버보다 훨씬 에너지 효율적이다"라고 확인했습니다.
메가 캠퍼스에는 광범위한 부지와 막대한 전력 접근성이 필요합니다. 높은 도심 부동산 가격은 하이퍼스케일러들을 토지가 저렴하고 인근 주민이 적어 도시 규모의 시설을 건설할 수 있는 농촌 지역으로 밀어냅니다. 또한 이들은 종종 일자리 창출을 약속하며 관심을 끌곤 합니다.
메가 캠퍼스 시대는 장점과 단점을 모두 가져옵니다. 경제적 관점에서 기존 데이터 센터 인프라가 부족한 농촌 지역은 입증된 혜택을 얻게 됩니다. 그러나 우려도 지속됩니다. 가정용 에너지 비용 상승, 시설 인근 삶의 질 저하, 그리고 오염 문제가 그것입니다.
이들 캠퍼스는 자체 발전을 계획하고 효율적인 폐쇄형 냉각 시스템을 사용하지만, 현장 발전의 엄청난 규모는 환경적 결과를 수반합니다. 다중 기가와트 규모 시설들이 즉각적인 수요를 충족하기 위해 천연가스를 연소시키면서 수백만 톤의 유독 가스를 배출합니다. 스탠퍼드 로스쿨(Stanford Law School)은 비교를 위해 영향을 정량화했는데, 625MW 규모의 발전소는 연간 미세 먼지(PM 2.5) 90톤, 질소 산화물(NOx) 83톤, 황 산화물(SOx) 16톤을 배출할 것으로 예상됩니다. 이는 모두 호흡기 및 심혈관 질환, 암, 그리고 모성 및 영유아 건강에 부정적인 결과를 초래하는 것으로 문서화된 요인들입니다. 다중 기가와트 규모 시설의 경우 이러한 수치를 10배 이상 곱해야 합니다.
그 규모는 경악할 만합니다. 막대한 투자, 상당한 위험과 보상, 무거운 환경 비용에 상쇄되는 인상적인 효율성, 그리고 막대한 컴퓨팅 파워. AI 개발이 가속화됨에 따라 기존 데이터 센터를 압도하고 컴퓨팅을 전례 없는 한계까지 밀어붙이는 인프라가 구축되고 있습니다. 이러한 AI 확장 정책에 대한 시각이 어떠하든, 거대하고 도시 규모의 메가캠퍼스들은 곧 전 세계 농촌 마을에 등장할 것입니다.