NVIDIA가 공개 클라우드 사업에서 철수하여 AI 칩 R&D 및 플랫폼 소프트웨어 계층에 재집중합니다.

엔비디아는 클라우드 컴퓨팅 부서를 재편성하여, 소프트웨어 엔지니어링을 총괄하는 상무이사(SVP) 드와이트 디어크스(Dwight Diercks)의 핵심 엔지니어링 조직 아래 DGX Cloud 사업을 통합했다. 더 인포메이션(The Information)의 보도에 따르면, 이번 구조 조정은 아마존 웹 서비스(AWS)와 직접 경쟁할 수 있는 퍼블릭 클라우드 서비스를 운영하려는 엔비디아의 야망을 상당 부분 축소하는 것을 의미한다. 회사는 자체 브랜드로 GPU 컴퓨팅을 서비스 형태로 판매하는 대신, DGX Cloud를 칩 수요 및 AI 모델 개발에 중점을 둔 내부 엔지니어 플랫폼으로 포지셔닝하고 있다.

DGX Cloud는 2023년 초 엔비디아의 플래그십 DGX 시스템을 관리형 서비스로 추상화하려는 시도로 도입되었으며, 초기에는 AWS, 구글 클라우드, 오라클 클라우드, 마이크로소프트 애저가 제공하는 인프라 위에서 호스팅되었다. 이 서비스는 Nvidia의 전체 소프트웨어 스택이 사전 설치된 전용 H100 기반 클러스터를 제공하여, 자체 데이터 센터를 구축하지 않고도 엔비디아가 선호하는 AI 플랫폼을 임대할 수 있는 기업 고객들에게 매력적인 제안을 했다. 그러나 실제로는 해당 모델을 확장하기 어려운 것으로 나타났다. 가격면에서 범용 GPU 인스턴스에 비해 높았으며, 기존 클라우드 도구와의 통합도 일정하지 않았다. 또한 지원 책임이 엔비디아와 호스팅 파트너 간에 분산되어 있었다. 여러 공급업체에서 DGX Cloud를 운영하는 고객들은 운영상의 복잡성에 직면했고, 하이퍼스케일러들은 H100 용량 가격을 빠르게 인하하며 자체 관리형 AI 서비스를 출시하고 있었다.

엔비디아의 최대 고객이 바로 자신이 경쟁하려던 회사들이라는 점을 고려하면, 이번 구조 조정은 전략적으로 합리적이다. AWS, 마이크로소프트, 구글 등 주요 클라우드 제공업체들은 엔비디아의 데이터센터 매출에서 상당한 비중을 차지하며, 이러한 고객들이 엔비디아 하드웨어에 수십억 달러를 투자하고 있는 시점에 첫 번째 당사자(first-party) 클라우드 서비스를 운영한다면 채널 갈등이 발생할 위험이 있다. 또한 경쟁력 있는 클라우드 플랫폼을 운영하려면 시설, 네트워킹, 전력, 운영 등에 대한 지속적인 자본 지출이 필요하며, 이는 하이퍼스케일러들의 강점이지 엔비디아의 강점이 아니다. 게다가 하이퍼스케일러들은 엔비디아의 하드웨어 레이어 위에 차별화를 둘 강력한 동기를 가지고 있다. 예를 들어 AWS는 Trainium과 Inferentia 가속기를 투자하고, 구글은 TPUs를 추진하며, 마이크로소프트는 최근 인텔 파운드리와 협력해 칩을 제조하는 Maia 프로그램을 확대하고 있다.

GPU 공급 역학에도 긴장감이 감돌고 있다는 징후들이 있었다. 엔비디아는 점점 더 공급자이자 고객으로서의 역할을 수행하고 있으며, 클라우드 제공업체 및 전문 운영사로부터 대규모 GPU 용량을 다시 임대하고 있다. 한 사례에서는 4년간 15억 달러 규모로 18,000개의 GPU를 임대하기도 했다. 만약 엔비디아가 동시에 경쟁적인 클라우드 서비스를 판매한다면 이러한 arrangement은 정당화하기 어려워진다. 엔비디아는 DGX를 엔지니어링 사업부 아래로 되돌려 재편성함으로써 이러한 관계를 단순화하고, DGX Cloud를 파트너들의 자체 제품과 경쟁하는 제품이 아니라 파트너들이 엔비디아 하드웨어를 더 효과적으로 배포할 수 있도록 돕는 도구로 포지셔닝했다. 이번 조직 개편이 반드시 클라우드 관련 기술에 대한 투자를 줄인다는 것을 의미하지는 않는다. 엔비디아는 여전히 추론(inference), 오케스트레이션, 네트워킹, 시스템 관리 전반에 걸쳐 소프트웨어 스택을 확장하고 있으며, CUDA와 TensorRT와 같은 플랫폼은 하이퍼스케일러들이 운영하는 모든 환경에서 실행되도록 설계되었다.