NVIDIA와 Equinix가 AI 데이터센터 인프라 개발을 위해 제휴합니다.

엔비디아는 데이터 센터 거대 기업 이퀴닉스와 파트너십을 맺어 엔비디아 DGX를 탑재한 'Equinix Private AI'를 제공하기로 했다. 이는 데이터 센터 인프라와 전문 지식이 부족한 기업들이 생성형 AI를 도입할 수 있도록 설계된 턴키 솔루션이다. 해당 계약에 따라 이퀴닉스는 기업이 구매하는 엔비디아 DGX 슈퍼컴퓨터를 표준 호스팅 계약을 통해 관리하며, 기존 x86 서버 대신 GPU 클러스터에 맞춘 형태로 운영된다. 이러한 시스템의 시작 가격은 6자리 숫자(10만 달러 이상)이며, 비용은 수백만 달러에 달할 수도 있다.

이 솔루션은 보안, 데이터 주권, 감사 가능성 등의 이유로 데이터를 퍼블릭 클라우드 외부에 보관하는 것을 우선시하는 기업을 대상으로 한다. 엔비디아 DGX 시스템 담당 부사장인 찰리 보일은 "많은 기업이 이러한 매우 복잡한 시스템 클러스터를 구축할 전문 지식을 갖추지 못하고 있다"고 설명했다. 그는 "대부분의 기업은 방대한 양의 기업 데이터를 보유하고 있으며, 때로는 수십 년간의 데이터를 가지고 있다"며 "그 모든 데이터는 기업이 달성하려는 AI 처리 과정과 매우 가깝게 위치해야 한다"고 지적했다. AI 채택 장벽은 여전히 상당하다. AI로의 전환은 가파르고 비용이 많이 들며, 자격을 갖춘 인력은 부족하기 때문이다.

세계 최대 데이터 센터 공급업체 중 하나인 이퀴닉스는 전 세계 71개 대도시 지역에 250개의 시설을 운영하며, 이를 완전 관리 서비스로 제공한다. 이퀴닉스 데이터 센터 서비스 부문 부사장 겸 총괄 관리자 존 린은 "많은 고객이 회사 내부에 이러한 기능을 갖추고 싶어 한다"며 "고객은 이 AI 인프라가 필요하다는 아이디어를 가진 순간부터 실제로 가동할 때까지 걸리는 시간을 크게 단축할 수 있다"고 강조했다.

이퀴닉스의 Private AI 서비스는 엔비디아의 DGX BasePod 또는 SuperPod 클러스터 구성을 제공한다. BasePod은 8개의 DGX H100 GPU로 시작되며, SuperPod은 128개의 DGX H100 시스템으로 구성된다. 이 시스템들은 엔비디아의 초저지연 InfiniBand 네트워킹 기술로 연결되며, 이퀴닉스의 관리 서비스 팀이 관리한다. 이 제품에는 대규모 언어 모델(LLM) 구축을 위한 사전 학습된 모델, 최적화된 프레임워크, 가속화된 데이터 사이언스 소프트웨어 라이브러리를 제공하는 엔비디아 AI Enterprise 플랫폼이 포함된다. 이퀴닉스의 데이터 센터는 고속 사설 네트워크를 통해 연결되며, 주요 클라우드 서비스 및 기업 서비스 제공업체와의 고속 상호 연결을 제공한다. 해당 서비스는 오늘부터 이용 가능하다.