Microsoft는 하이퍼스케일러가 전력 상한 제약에 부딪히면서 열 병목 현상을 해결하기 위해 새로운 냉각 기술을 개발합니다.

마이크로소프트는 마이크로유체기술을 활용하여 액체를 실리콘 칩 내부로 직접 유도하는 AI 칩용 새로운 냉각 기술을 발표했습니다. 미세한 채널은 실리콘 칩 뒷면에 직접 새겨져, 칩 표면에 냉각액이 직접 흐르고 열을 더 효율적으로 제거할 수 있는 홈을 형성합니다. 마이크로소프트의 AI 기반 시스템은 칩의 고유한 열 신호를 식별하고 냉각제를 정밀하게 지시합니다. 이 회사는 시뮬레이션된 Teams 미팅을 실행하는 서버를 냉각함으로써 설계를 검증했습니다. 실험실 규모의 테스트 결과, 마이크로유체기술은 냉각판 대비 최대 3배 뛰어난 열 제거 성능을 보였으며, 칩 종류에 따라 GPU 내 실리콘의 최대 온도 상승을 65% 감소시켰습니다. 연구진은 이 기술이 전력 사용 효율성(PUE)을 개선하고 운영 비용을 절감할 것으로 기대합니다. 프로토타입 제작을 위해 마이크로소프트는 스위스 스타트업 코린티스(Corintis)와 파트너십을 맺고, 전통적인 직선 상하 채널보다 칩의 고온 부위를 더 효율적으로 냉각하기 위해 생체 모방 설계를 최적화하는 데 AI를 활용하고 있습니다.

AI 워크로드와 고성능 컴퓨팅은 데이터 센터 인프라에 전례 없는 부담을 가중시키고 있으며, 열 방출은 가장 어려운 병목 현상 중 하나로 부상하고 있습니다. 공기 흐름과 냉각판과 같은 기존 방식은 새로운 세대의 실리콘을 따라잡기에 점점 더 어려워지고 있습니다. 그레이하운드 리서치(Greyhound Research)의 CEO이자 수석 분석가인 산칫 비르 고기아(Sanchit Vir Gogia)는 "현대 가속기는 공기 시스템으로서는 도저히 감당할 수 없는 열 부하를 발생시키고 있으며, 심지어 고급 수냉 루프도 긴장되고 있습니다. 당장의 문제는 GPU의 급증하는 TDP뿐만 아니라 그리드 지연, 물 부족, 그리고 80kW 또는 100kW로 작동하는 랙을 흡수할 수 없는 레거시 공랭식 홀입니다."라고 지적했습니다. 그는 "냉각판과 침지 탱크는 제한적으로나마 가동 시간을 연장했지만, 그 효과는 미미합니다. 이들은 여전히 다이(die)에서 열을 차단하는 열 인터페이스의 저항으로 인해 고통받고 있습니다. 마찰은 접합부와 패키지 사이의 열 경로 마지막 1미터 구간에서 발생하며, 바로 그곳에서 성능이 낭비되고 있습니다."라고 덧붙였습니다.

이러한 열적 과제는 상당한 경제적 영향을 미칩니다. 파브 이코노믹스(Fab Economics)의 CEO인 다니엘 파루퀴(Danish Faruqui)에 따르면, 2025년 AI 인프라 구축 관련 총소유비용(TCO) 분석 결과, 데이터 센터 전력 예산의 45%-47%가 일반적으로 냉각에 할애되며, 냉각 방법의 효율성이 개선되지 않을 경우 이 비율은 65%-70%까지 확대될 수 있습니다. GPU의 전력 요구량은 극적으로 증가했습니다. 2024년 엔비디아(Nvidia)의 호퍼(Hopper) H100은 GPU당 700W가 필요했으며, 2025년에는 블랙웰(Blackwell) B200이 1000W, 블랙웰 울트라(B300)가 1400W로 확대되었습니다. 향후 2026년에는 루빈(Rubin) GPU가 1800W, 루빈 울트라(Rubin Ultra) GPU가 3600W를 필요로 할 것으로 전망됩니다. 파루퀴는 마이크로유체 기반의 직접 실리콘 냉각이 데이터 센터 전력 예산 내에서 냉각 비용을 20% 미만으로 억제할 수 있다고 언급했으며, 마이크로유체 냉각이 GPU당 3.6kW라는 루빈 울트라 GPU의 TDP 예산을 지원할 유일한 수단일 수 있다고 밝혔습니다.다만 이를 위해서는 마이크로유체 구조 크기, 배치 및 미세 채널 내 비층류 유동 분석을 중심으로 한 기술 개발 최적화가 크게 필요합니다.

이 과제는 보편적인 문제로, AWS, 구글(Google), 메타(Meta), 오라클(Oracle)을 포함한 하이퍼스케일러들 모두 극심한 칩 발열 문제에 직면해 있습니다. 카운터포인트 리서치(Counterpoint Research)의 부국장인 브래디 왕(Brady Wang)은 "새로운 세대의 AI 실리콘에서 발생하는 escalating thermal load(급증하는 열 부하)로 인해 냉각판과 같은 현재의 솔루션에만 의존하면 불과 5년 이내에 진전에 '하한선'이 설정될 수 있다"고 말했습니다. 그러나 구현상의 장애물도 여전히 큽니다. 테크인사이트스(TechInsights)의 분석가 마니쉬 라왓(Manish Rawat)은 "미크론 규모 채널을 제조하면 공정 복잡도가 증가하고 웨이퍼의 취약성으로 인해 수율 손실이 발생할 수 있습니다. 초고신뢰성 밀봉이 필수적인데, 사소한 누출이나 입자 오염이라도 칩 성능을 저하시킬 수 있기 때문입니다. 교체 가능한 냉각판과 달리 실리콘 통합 냉각은 칩 교체가 유일한 유지보수 옵션이 되어 서비스 비용과 물류 복잡성을 증가시킵니다. 또한, 유전체 냉각제라도 장기 노출은 화학적 및 기계적 스트레스를 유발하므로 5~10년의 신뢰성을 보장하기 위한 광범위한 자격 증명이 필요합니다."라고 설명했습니다. 마이크로유체기술이 뿌리내리기 위해서는 제조, 신뢰성, 유지보수 위험을 신중하게 관리해야 하며, 생태계 전반에서 표준 관행으로 자리 잡아야 합니다.