xAI의 Colossus 프로젝트는 고급 모델 개발을 지원하기 위해 상당한 GPU 용량 확장을 계획하고 있으며, SpaceX/Elon Musk 관련 기업들의 가속화된 AI 컴퓨팅 인프라 구축을 시사합니다.
Space Exploration Technologies Corp.의 최고경영자인 일론 머스크는 스페이스X의 인공지능 역량에 대해 자신감을 나타냈으며, 회사가 향후 6개월 내에 업계에서 선도적 위치를 달성할 것으로 예측했습니다. 머스크는 9월 24일 X에 올린 게시물에서 "스페이스X가 2~3개월 내에 Fable/GPT-6 수준의 모델을 확보할 것으로 신중한 낙관주의를 유지하고 있다"고 언급했습니다.
회사의 발전 궤적에 대해 설명하면서 머스크는 빠른 가속을 강조했으며, 스페이스X의 인공지능 노력이 3년에 걸쳐 진행되었음을 지적했습니다. 이는 Anthropic과 OpenAI가 각각 6년과 10년을 소요한 것과 대비됩니다. 그는 "우리의 2차 미분값이 강한 상태를 유지한다면, 스페이스X는 약 6개월 내에 최고 위치에 도달할 것"이라고 작성했습니다.
머스크는 또한 계산 능력과 실제 응용 사이의 관계를 다루었으며, 일정 수준의 지능 임계값을 초과하면 특정 작업에 대해 추가 역량이 한계 효용을 제공한다고 주장했습니다. 그는 토스터에 "뉴턴 수준의" 지능을 갖춘다면 불필요할 것이라는 사례로 이 점을 설명했습니다. 그는 대규모 컴퓨팅 인프라를 빠르게 배치하는 것이 심각한 물류 문제를 야기한다고 강조했으며, 대규모 하드웨어를 온라인으로 가동시키는 스페이스X의 역량을 경쟁 우위로 지목했습니다.
현재 SpaceXAI로 알려진 xAI의 확장은 이러한 야심을 강조합니다. Nvidia Corp.의 GPU로 구동되는 회사의 Colossus 슈퍼클러스터는 이제 두 가지 구성에 걸쳐 약 670,000개 단위에 달합니다. Colossus 1은 150,000개의 H100 GPU, 50,000개의 H200 유닛, 그리고 30,000개의 GB200 유닛으로 구성됩니다. Colossus 2는 110,000개의 GB200과 440,000개의 GB300 유닛을 포함합니다. 확장 계획은 공격적입니다: 220,000개의 추가 GB300 유닛이 9월 말까지 완전히 운영되도록 예정되어 있으며, 11월에 또 다른 220,000개가 가동될 예정이고, 잠재적으로 12월 말까지 220,000개의 추가 배치가 나올 수 있습니다. 3년의 역사에 걸쳐 SpaceXAI는 이미지 생성(Imagine), 음성 상호작용, 코드 생성(Build), 그리고 봇 기능을 포함한 Grok 모델의 연속적 버전을 출시했으며, 버전 4.7이 최신 반복입니다.