Google Cloud 및 Nvidia, 커스텀 하드웨어, 네트워킹, 소프트웨어 통합 AI 슈퍼스택 구축, 대규모 모델 학습 및 추론 최적화.
엔비디아(Nvidia Corp.)와 구글(Google LLC)은 검색 거인의 연례 클라우드 넥스트(Cloud Next) 행사를 통해 장기적인 파트너십을 심화시켰다. 이들은 구글의 AI 하이퍼컴퓨터(AI Hypercomputer) 인프라와 블랙웰(Blackwell), 오픈 모델, 에이전틱 및 물리적 AI 도구 등 엔비디아의 최신 솔루션을 통합한 풀스택 '인공지능 팩토리(Artificial Intelligence Factory)'를 구축했다. 이 발표는 엔비디아의 가속 컴퓨팅 스택에 대한 구글의 배포를 확대하는 동시에, 고객들에게 AI 실험부터 대규모 배포까지 더 빠르고 리스크가 낮은 경로를 제공한다. 엔비디아와 구글 클라우드는 약 10년 동안 K80/P100 GPU 인스턴스와 같은 초기 단계부터 시작해 AI 하이퍼컴퓨터 아키텍처로 진화하며 가속화된 클라우드 스택을 공동 개발해 왔다.
구글은 전 세계적으로 수백만 대 이상의 엔비디아 GPU를 자체 제품과 구글 클라우드 서비스에 배포하며, 세계에서 가장 대규모인 가속 인프라 중 하나를 조용히 구축해 왔다. 이러한 규모는 두 가지 주요 함의를 가진다. 첫째, 백본, 공급망, 데이터센터 규모가 이미 GPU 중심이기 때문에 새로운 GPU 세대(호퍼, 블랙웰, 베라 루빈 등)를 추가할 때 배포 시간이 단축된다. 이로 인해 A3/A5X 및 DGX 클라우드와 같은 고객 대상 SKU에서 가속기가 빠르게 등장한다. 둘째, AI 팩토리를 위한 충분한 용량이 확보될 것으로 예상된다. 멀티테넌트이고 막대한 규모로 확장된 클러스터는 AI 하이퍼컴퓨터 개념의 기반이 되며, 이를 통해 기업들은 전용 인프라 엔지니어링 없이도 수만 개의 엔비디아 GPU 위에서 대규모 언어 모델(LLM) 및 에이전트 워크로드를 실행할 수 있다.
엔비디아의 수평적으로 넓은 프로그래밍 가능성은 구글의 AI 하이퍼컴퓨터 전략과 잘 부합한다. 양측 모두 범용 클라우드 인프라 서비스(IaaS)보다는 밀집되고 소프트웨어 정의형 슈퍼컴퓨터 구축에 집중하고 있기 때문이다. TPU와 기타 응용별 집적회로(ASIC)와 같은 특수 목적 가속기는 강력하지만 비교했을 때 적용 범위가 좁다. 엔비디아는 다양한 산업군과 멀티클라우드 환경에서의 입지를 갖추고 있어, 소프트웨어를 모든 곳의 모든 고객에게 제공해야 하는 기업들에게 매력적이다. 또한 구글 클라우드 입장에서는 엔비디아와의 제휴가 독점 스택으로 단일 클라우드나 아키텍처에 묶이는 것을 원하지 않는 고객들에게 중립적이고 이식 가능한 가속 플랫폼으로서의 AI 인프라 매력을 넓혀준다.
고객들에게 이 파트너십은 조직 내 마찰을 줄여 AI 채택의 시간 대비 가치(Time-to-Value)를 단축함으로써 리스크를 감소시키는 것에 초점이 맞춰져 있다. 인프라 팀, 데이터 과학자, 애플리케이션 팀이 공통으로 검증된 플랫폼을 공유하기 때문이다. 구글-엔비디아 스택은 기업들에게 학습, 파인튜닝, 추론, 시뮬레이션을 위한 AI 팩토리 및 클라우드 규모 클러스터를 구축하기 위한 참조 설계(Reference Design)를 제공한다. 이는 서비스 형태로 소비하거나 온프레미스에서 유사한 빌딩 블록을 사용하여 에뮬레이션할 수 있다. IT 리더들은 이제 18개월 후에도 어떤 지역이나 인스턴스 유형이 대규모로 사용 가능할지 추측할 필요가 없다. 구글은 텐서 처리 유닛(TPU)과 함께 엔비디아를 기본 가속기 파브릭(Default Accelerator Fabric)으로 표준화하고 있다.
구글은 지난 10년 동안 아마존 웹 서비스(AWS)와 마이크로소프트 애저(Azure)에 이어 세 번째 위치를 지켜왔으나, 엔비디아와의 파트너십을 통해 AI 분야에서 선두주자의 이야기를 얻게 되었다. 에이전틱 및 물리적 AI에 최적화된 공동 설계 AI 하이퍼컴퓨터는 구글의 엔비디아 기반 슈퍼컴퓨터를 기업과 스타트업이 실제로 구매할 수 있는 제품으로 전환시킨다. 엔비디아와의 10년 간의 파트너십과 현재 이용 가능한 블랙웰 인스턴스의 가장 넓은 범위를 갖춘 구글은 AI 시대의 중요한 순간에 고객들에게 선택권을 제공한다.