NVIDIA의 Rubin 세대 AI 서버가 45도 섭씨온도에서 100% 액체 냉각을 달성하여 데이터센터 전력을 극적으로 절감합니다.

NVIDIA는 최신 루빈(Rubin) 세대 AI 인프라가 전 세계 최초로 완전한 100% 액체 냉각을 갖춘 AI 컴퓨팅 플랫폼임을 발표했습니다. 이 시스템은 칩과 네트워킹 구성 요소 모두를 폐쇄형 루프 내에서 팬 하나 없이 완전히 액체로 냉각합니다. 이러한 냉각 방식은 NVIDIA DSX AI 팩토리 레퍼런스 디자인에 명시되어 있으며, 이는 전체 AI 팩토리 인프라 스택의 설계, 구축 및 운영을 위한 모범 사례를 제공합니다.

핵심 혁신은 냉각액 온도를 섭씨 45도(화씨 113도)까지 높이는 것입니다. 이는 일반적인 핫타브보다 높은 온도이지만 실리콘 프로세서의 검증된 작동 한계 범위 내에 충분히 머무릅니다. "NVIDIA DSX AI 팩토리 레퍼런스 디자인은 물 소비량이 제로입니다. 우리는 막대한 전력 사용량과 거의 모든 물 사용량을 제거했습니다."라고 NVIDIA 데이터 센터 냉각 및 인프라 책임자인 Ali Heydari는 말했습니다. "건식 쿨러 기반 설계는 증발성 냉각이 없는 폐쇄형 시스템이며, 일부 기후 조건에서 칠러가 필요할 수 있는 연중 약 1%를 제외하고는 물 소비가 없습니다."

산업 데이터에 따르면 냉각은 역사적으로 데이터 센터 전력 소비의 최대 40%를 차지해 왔습니다. 칠러 플랜트 온도를 단 1도만 높여도 냉각 에너지 비용을 약 4% 절감할 수 있습니다. 초대규모(Hyperscale) 규모에서 50메가와트(MW) 규모의 시설은 액체 냉각 인프라로 전환함으로써 연간 냉각 관련 에너지 및 물 비용에서 400만 달러 이상을 절약할 수 있습니다. 유리한 기후 조건에서는 45도 아키텍처가 건식 쿨러를 사용한 칠러리스(chiller-less) 운전을 가능하게 하여, 기존 냉각탑 시스템의 메가와트당 연간 약 260만 갤런이었던 시설 냉각용 물 소비량을 제로에 가깝게 줄일 수 있어 최대 100%의 물 사용 절감 효과를 거둘 수 있습니다.

액체 냉각 시스템은 프로세서 바로 위에 배치된 콜드 플레이트(cold plate)를 통해 흐르는 75% 물과 25% 프로필렌 글리콜(propylene glycol) 혼합물을 사용합니다. 냉각수가 섭씨 45도의 완전 액체 냉각 칩으로 유입되면 칩 표면 전체에서 열을 흡수한 후 약 섭씨 55도로 배출되지만 성능 저하가 발생하지 않습니다. 액체 냉각 콜드 플레이트가 장치 온도를 검증된 작동 한계 범위 내로 유지하기 때문에 프로세서는 풀 퍼포먼스(full performance) 상태로 계속 작동합니다.

추가적인 장점으로는 소음 감소(공기 냉각 데이터 센터는 85데시벨 이상의 냉각 팬 소음을 발생시켜 귀 보호 장치가 필요할 정도로 시끄럽습니다), 공기 냉각 시스템보다 높은 랙 밀도, 그리고 인근 상업용 또는 주거용 건물로의 폐열 회수 가능성이 있습니다. 이전에는 6유닛(RU)의 공간을 차지하던 시스템이 이제 2유닛으로 줄어들어 더 적은 공간에서 더 많은 컴퓨팅 성능을 제공합니다. 루빈 서버의 완전히 밀폐된 전면 패널은 공기 냉각 서버의 다공성 베젤과 대조를 이루며, 모든 구성 요소에 대한 완전한 액체 냉각을 위해 필요한 근본적인 아키텍처 재설계를 반영합니다.