Elon Musk의 xAI가 2025년 가을까지 100,000개의 Nvidia H100 GPU를 사용하여 Gigafactory of Compute 건설 계획을 발표했습니다.

로이터 통신이 The Information을 인용하여 보도한 바에 따르면, 일론 머스크의 AI 스타트업 xAI는 AI 챗봇 그록(Grok)의 성능을 향상시키기 위해 '컴퓨팅 기가팩토리(Compute Gigafactory)'라 불리는 거대한 슈퍼컴퓨터를 구축할 계획이라고 밝혔다. 이 슈퍼컴퓨터는 2025년 가을까지 준비될 것으로 예상되며, 오라클(Oracle)과의 협력이 포함될 수 있다. 이번 개발을 통해 머스크는 경쟁사의 GPU 클러스터보다 규모와 능력 면에서 크게 앞서겠다는 목표를 세우고 있다.

투자자들을 대상으로 한 발표에서 일론 머스크는 새로운 슈퍼컴퓨터가 호퍼(Hopper) 아키텍처 기반의 엔비디아 H100 GPU를 최대 10만 개까지 사용하며, 이는 기존 가장 큰 GPU 클러스터보다 최소 4배 이상 크다고 밝혔다. 엔비디아 H100 GPU는 AI 데이터센터 칩 시장에서 높은 인기를 끌고 있으나, 강력한 수요로 인해 과거에는 확보하기 어려웠다. 그러나 현재 엔비디아는 이미 AI 및 고성능 컴퓨팅(HPC) 애플리케이션용 H200 컴퓨팅 GPU를 출하 중이며, 올해 하반기에는 블랙웰(Blackwell) 기반 B100 및 B200 GPU 출하를 준비하고 있어 H100은 더 이상 엔비디아의 최상위 라인업 제품이 아니다.

xAI가 2025년형 슈퍼컴퓨터에 사실상 이전 세대 기술을 사용하기로 결정한 이유는 명확하지 않으나, 이는 xAI의 야심 찬 규모를 반영하는 상당한 하드웨어 투자다. 이번 보고서는 비공식적이므로 계획이 변경될 수도 있지만, 대규모 언어 모델(Large Language Models) 개발에 매우 중요한 프로젝트인 만큼 머스크는 슈퍼컴퓨터를 기한 내에 납품하는 데 대해 '개인적으로 책임진다'고 reportedly 밝혔다.

xAI는 오픈AI(OpenAI)와 구글(Google)과 같은 AI 거대 기업들과 직접 경쟁하고자 한다. 오픈AI의 공동 창립자이기도 한 머스크는 xAI를 AI 분야에서 강력한 도전자로 포지셔닝하고 있다. 머스크에 따르면, 그록 2(Grok 2) 모델을 학습하는 데 약 2만 개의 엔비디아 H100 GPU가 필요했으며, 향후 그록 3(Grok 3)과 같은 차기 버전은 최대 10만 개의 GPU가 필요할 것이라고 한다.

보도 자료를 요청했을 때 xAI와 오라클 모두 협력 관련 입장을 밝히지 않았다. 그럼에도 불구하고, 머스크의 투자자 대상 발표는 막대한 인프라 투자와 전략적 파트너십을 통해 AI 기술의 한계를 밀어붙이겠다는 그의 의지를 강조한다.