Nvidia Vera Rubin 열설계가 GPU 작동 온도 상향, 효율성 개선.

NVIDIA의 Rubin 세대 AI 서버는 최대 45°C의 냉각수를 순환시키며, 이는 온수 욕조보다 높은 온도입니다. 이러한 단일 엔지니어링 결정은 초대규모 데이터센터가 에너지와 물을 소비하는 방식을 재편할 것으로 예상됩니다. NVIDIA 공식 블로그 발표에 따르면, Rubin은 모든 칩과 모든 네트워킹 구성 요소를 폐쇄형 루프로 덮고 시스템 전체에 팬이 전혀 없는 세계 최초의 100% 액체 냉각 AI 인프라 세대입니다.

확장된 규모로 AI 인프라를 구축하거나 운영하는 모든 이에게 그 영향력은 상당합니다. 역사적으로 데이터센터 전력 소비의 최대 40%가 냉각에 할애되어 왔습니다. 50메가와트 규모의 초대규모 시설은 액체 냉각 인프라로 전환함으로써 연간 냉각 관련 에너지 및 물 비용에서 400만 달러 이상을 절감할 수 있습니다. UAE와 GCC 지역에서는 초대규모 데이터센터 투자가 급속히 가속화되고 있으며 물 부족이 실제적인 제약 조건으로 작용하고 있으므로, 이러한 수치는 진지한 고려가 필요합니다.

실리콘 프로세서는 주변 환경 조건과 무관하게 막대한 내부 열을 발생시킵니다. NVIDIA의 완전 액체 냉각 아키텍처에서는 냉각수가 최대 45°C의 온도로 칩에 유입되어 칩 표면의 열 부하를 흡수한 후 약 55°C의 온도로 배출되지만, 성능 저하 없이 작동합니다. 쿨 플레이트는 이러한 유입 온도에서도 장치 온도를 검증된 작동 한계 내에 유지합니다. 칩의 전력 밀도가 증가함에 따라 공기 냉각은 충분하지 않게 되었습니다. 액체 냉각은 쿨 플레이트를 통해 칩에서 직접 열을 포착하며 이러한 높은 냉각수 온도에서 작동하여 많은 기후 조건에서 칠러 없이 운영할 수 있게 하고, 팬을 제거하며, 에너지 및 물 소비를 극적으로 줄입니다.

칠러 플랜트의 온도를 단 1°C만 높여도 냉각 에너지 비용을 약 4% 절감할 수 있습니다. 이전 하이브리드 시스템에서 요구하던 낮은 온도 대신 45°C의 냉각수를 사용하면, 많은 기후 조건에서 기계식 칠러를 가동하지 않고도 시설 루프를 통해 열을 방출할 수 있습니다.

우호적인 기후 조건에서는 폐쇄형 드라이쿨러 설계가 거의 제로의 물을 사용하는데, 이는 기존 냉각탑 시스템이 메가와트당 연간 약 260만 갤런의 물을 사용하는 것과 대비됩니다. NVIDIA DSX AI 팩토리 참조 설계는 물 소비 제로를 목표로 합니다. 외부 공기가 reliably 시원한 지리적으로 유리한 기후에서는 기계식 냉장 장치 없이 야외 드라이쿨러를 통해 열을 완전히 방출할 수 있습니다. 더 따뜻한 기후에서는 일 년 중 약 1%의 기간 동안에만 칠러가 필요할 수 있습니다.