AI 칩 효율성은 최근 몇 년간 10배 향상됐지만, 데이터 센터 전력 수요는 계속 급증하고 있으며, 이는 Moore's Law의 이득이 워크로드 성장에 뒤쳐진다는 역설을 드러낸다.
핵융합로, 액체 냉각 서버, 그리고 600킬로와트 랙은 이제 AI 붐을 추동하는 필수 인프라다.
이제 모두가 알고 있듯이 AI의 진정한 제약은 칩이 아니라 전력이다. 하지만 덜 알려진 사실은 전력 부족을 극복하기 위해 모든 차원에서 지금 배치되는 공격적으로 구성된 기술 스택과, 그 모든 것을 기반하는 예측 가능한 패턴이다: 하드웨어가 더 효율적으로 발전할수록 산업은 실제로 더 많은 전력을 요구한다. 이것은 기가와트 규모에서 전개되고 있는 진정한 제본스 역설이다.
표면 아래에서 일어나고 있는 것은 다음과 같다:
**칩: 10배 더 효율적, 15배 더 높은 전력 소비**
현재 고객에게 배송 중인 Nvidia의 Vera Rubin 플랫폼은 Blackwell보다 와트당 최대 10배 많은 추론 성능을 제공한다. 분산 추론(추론을 사전 채우기 및 디코드 상태로 분리하고 별도의 하드웨어 구성 요소에서 실행하는 것으로, Nvidia가 Dynamo라고 부르는 개념)은 GPU 전용 설계 대비 와트당 최대 35배의 토큰 출력을 달성할 수 있다. 이것들은 진정한 효율성 향상이다.
그러나 최첨단 서버 랙의 전력 소비는 전례 없는 수준이다. 2023년 Hopper 랙의 약 40 kW에서 우리는 이미 2024년 Vera Rubin NVL72의 약 210 kW를 보고 있으며, 2027년 예상되는 600 kW "Rubin Ultra"(Kyber) 랙, 그리고 1 MW 이상 단위가 이미 개발 중인 것으로 보도되고 있다. 이는 불과 4년 동안 효율성이 10배 향상되었는데도 불구하고 전력 소비가 15배 증가한 것을 나타낸다. 전력 소비를 줄이기보다는, 향상된 효율성으로 엔지니어들은 각 랙에 더 많은 컴퓨팅을 집어넣을 수 있으며, 하이퍼스케일러들은 더 큰 모델과 더 까다로운 워크로드를 제공하기 위해 이 기능을 적극적으로 배포하고 있다. 이 랙들은 40개에서 170개의 미국 가정과 동등한 전력을 소비한다.
이러한 현실은 냉각을 최적화에서 중요 인프라로 변환시켰다. 전통적인 팬이 생성되는 막대한 열을 방출할 수 없기 때문에 팬 없는 GPU는 이제 Nvidia의 최신 시스템에서 표준이다. 모든 시스템은 이전에 공기 냉각되던 8-GPU 서버에서도 온수 직접 칩 액체 냉각으로 전환되고 있다.
Dell'Oro는 데이터 센터 액체 냉각 시장이 2029년까지 70억 달러를 초과할 것으로 예측하고 있다.
냉각제 분배 장치(CDU)를 용량 계획에 아직 포함하지 않은 인프라 엔지니어들은 곧 필요하게 될 것이다.
**핵전력 베팅: 보도자료에서 건설로**
빅테크의 핵전력에 대한 관심은 발표를 넘어섰다. Microsoft의 Three Mile Island 인수, Amazon의 Susquehanna 거래, Google의 Kairos SMR 인수, 그리고 Meta의 상당한 핵전력 포트폴리오는 이제 규제 신청 및 건설이 진행 중인 구체적인 프로젝트로 전환되고 있다. 전력의 시기와 공급은 여전히 불확실하다. Kairos의 용융염 원자로와 같은 일부 SMR 설계는 전 세계 어디에서도 상업 운영의 전례가 없다. 하지만 이것들은 더 이상 가설적 자금으로 뒷받침되는 이론적 연습이 아니다.
**핵융합 베팅: 과학 소설에서 계약으로**
3년 전만 해도 이 시나리오는 과학 소설처럼 보였을 것이다. 오늘날 여러 핵융합 기업들은 하이퍼스케일러들과 구속력 있는 전력 구매 계약을 체결했다. 연구 보조금이 아니라 배송 일정이 명시된 강제 가능한 계약이다.
Helion Energy는 최초의 핵융합 전력 구매 계약을 체결하여 2028년까지 워싱턴 주 중부의 Microsoft 데이터 센터에 최소 50메가와트를 공급하기로 약속했다. 2026년 6월, Helion은 주 규제 기관으로부터 운영 라이선스를 받은 최초의 핵융합 기업이 되었다. Washington에서 발급한 방사능 물질 라이선스와 방사능 대기 배출 라이선스다. 그 회사는 이후 시리즈 G 라운드에서 155억 달러 평가액으로 4억 6,500만 달러를 모금했다.
Commonwealth Fusion Systems는 Virginia에서 Dominion Energy로부터 임차한 토지에 400메가와트 상용 핵융합 발전소인 Arc를 건설하고 있으며, 이는 세계 최고 농도의 AI 데이터 센터 근처에 위치한다. Google은 Arc에서 200 MW를 위한 전력 구매 계약을 보유하고 있으며 이 회사에 두 번 투자했다.
Google은 또한 2030년대 초 상용 그리드 규모의 핵융합을 목표로 TAE Technologies에 10년 이상 자금을 지원해왔다.
이탈리아 에너지 다국적 기업 Eni는 Commonwealth Fusion과 10억 달러 이상의 가치가 있는 인수 계약을 체결했다.
이 시설에서 전력이 2028년 이전에 가동될 가능성은 낮으며, 핵융합 기술은 악명 높게도 70년간 자신의 일정을 놓쳤다. 많은 전문가들은 핵융합이 현재의 AI 사이클을 지원할 시간에 경제적으로 실행 가능해질 수 있다는 것에 대해 공개적으로 회의적이다. 하지만 이 변화는 중요하다: 핵융합 회사들은 이제 단순 연구 파트너십에 참여하는 것이 아니라 배송 지연에 대한 페널티가 있는 강제 가능한 상업 계약을 체결하고 있다. 역사적으로 "20년 먼저"에 갇혀있던 산업의 경우, 이는 진정한 움직임을 나타낸다. 기후 정책이 아니라 AI 컴퓨팅에 대한 끊임없는 수요로 전적으로 주도되고 있다.
**피할 수 없는 결론**
칩 효율성 동향을 핵전력 및 핵융합 배포와 비교하면 피할 수 없는 결론이 나온다: 진지한 사람은 효율성 향상만으로 베팅하지 않는다. 10배 빠른 칩을 추구하는 모든 하이퍼스케일러는 동시에 기가와트 규모의 전력 계약을 확보하고 있으며, 효율성 향상이 규모 확대로 소비될 것이며 비용 절감으로 향유되지 않을 것을 충분히 인식하고 있다. 이는 엔지니어링 실패가 아니다. 이것은 출력 값(컴퓨팅)이 생산 비용 감소보다 빠르게 증가할 때 일어나는 일이다.
인센티브는 더 적은 것이 아니라 점점 더 많은 컴퓨팅을 사용하는 것이다.
이것은 에너지 소비를 줄이는 효율성 향상이 아니라 점점 더 큰 모델과 에이전트에 대한 수요 확대로 나타난다.
인프라 팀의 경우, 향후 5년간의 계획 가정은 "전력 관리가 더 쉬워질 것이다"가 아닐 것이다. 그것은 이렇게 될 것이다: "2년 전에 배포한 랙은 이제 오늘 계획하고 있는 시스템의 1/5의 전력을 사용한다. 전기 및 냉각 예산의 이러한 증가를 계획하고, 다음 칩 세대가 자원을 해제할 것이라고 가정하지 마라. 대신 그것들을 흡수할 준비를 해라."