ScaleMatrix와 NVIDIA는 전통적 데이터센터 인프라 없이 독립적으로 작동하는 분산 AI/HPC 어플라이언스를 출시했다.

Denver에서 열린 슈퍼컴퓨팅 컨퍼런스 SC19에서 데이터센터 제공업체 ScaleMatrix는 내장형 냉각 시스템을 갖춘 최대 13 petaFLOPS의 성능을 제공할 수 있는 AI Anywhere를 선보였습니다. 이 기기는 "지붕, 바닥 공간, 콘센트"만 있으면 "상당한 인공지능 또는 고성능 컴퓨팅 워크로드를 지원할 수 있는 엔터프라이즈급 데이터센터"를 구축할 수 있다고 ScaleMatrix의 공동 창립자이자 CEO인 Chris Orlando는 설명했습니다. 이 제품은 중요한 과제를 해결합니다. 머신러닝과 AI 워크로드에 필요한 대부분의 고성능 컴퓨팅 시스템은 주요 시설 개조 없이는 일반적인 데이터센터에 배치할 수 없습니다. GPU 집약적 HPC 시스템은 랙당 약 30kW에 이르는 밀도를 가져오는데, 이는 평균 데이터센터의 랙당 3kW에서 5kW 부하의 최소 5배입니다.

AI Anywhere는 ScaleMatrix, 칩메이커 Nvidia, 그리고 HPC 및 AI용 컴퓨터 클러스터와 서버를 제공하는 Microway 간 3자 협력을 통해 개발되었습니다. 이 솔루션은 두 가지 단일 랙 버전으로 제공되며, 각각 Nvidia의 DGX 슈퍼컴퓨터 모델 중 하나를 사용합니다. 한 모델은 13개의 DGX-1 유닛을 포함하여 13 petaFLOPS의 성능을 제공하고, 다른 하나는 4개의 DGX-2 시스템을 포함하여 8 petaFLOPS를 제공합니다. 두 유닛 모두 DGX-POD 참조 아키텍처 설계를 준수하며 완전한 NVIDIA DGX 소프트웨어 스택, 딥러닝 및 AI 프레임워크 컨테이너, NetApp ONTAP 스토리지, 그리고 Mellanox 스위칭을 포함합니다.

이러한 플러그 앤 플레이 슈퍼컴퓨터를 가능하게 하는 혁신은 ScaleMatrix의 독점 폐쇄형 냉각수 보조 강제 공기 냉각 시스템입니다. DGX-1 버전은 42kW를 소비하고 DGX-2 버전은 43kW에서 작동하며, 이 기기는 랙 내 센서를 사용하여 필요한 곳에 찬 공기를 공급하는 하이브리드 공기 및 수냉식 방식을 사용합니다. Orlando는 "물이 들어오고 나가면서 열 교환을 하는 그 영역은 캐비닛의 나머지 부분과 차단되므로, 우리는 수냉식 냉각의 모든 효율성을 캐비닛에 가져올 수 있으면서도 어떤 위험도 도입하지 않습니다"라고 설명했습니다. 이 설계는 훨씬 더 높은 밀도를 처리할 수 있습니다. ScaleMatrix의 자회사인 DDC는 최근 동일한 냉각 시스템을 사용하여 최대 85kW를 처리할 수 있는 랙을 선보였습니다.

Nvidia의 AI 및 딥러닝 제품 마케팅 이사인 Tony Paikeday에 따르면, AI Anywhere는 지속적인 고객 요구를 충족시킵니다. "고객들은 자연어 처리 같은 더 복잡한 AI 문제를 다루기 위해 점점 더 큰 규모의 인프라를 배치하거나, 엔터프라이즈 전반에 산재해 있는 '섀도우 AI' 같은 사장된 AI 플랫폼 투자를 하나의 지붕 아래로 통합하려는 통합 전략을 펼치고 있습니다"라고 그는 말했습니다. 주요 장벽은 많은 기업들이 데이터센터 인프라에 추가적인 CapEx 투자를 꺼린다는 것입니다. "따라서 이제 이러한 종류의 컴퓨팅 성능을 고객의 손에 전달하는 마지막 걸림돌을 제거하는 완벽한 방법입니다"라고 Paikeday는 지적했습니다. 이 기기들은 AI Anywhere 브랜드로 마케팅될 것이며, Nvidia, NetApp, Mellanox, Microway, 그리고 DDC의 컴포넌트 파트너십을 통해 각 인프라 요소에서 자신의 브랜딩을 유지합니다.