XAI, Grok 3의 30배 계산 용량을 갖춘 AI 데이터센터를 7개월 내 신속하게 구축

XAI는 550,000개의 Nvidia B200 GPU 설치를 단 몇 주 만에 완료했으며, 이는 이전 예상보다 훨씬 빠른 배포 속도입니다. 이는 단 몇 주 전에 출시된 Grok 4를 훈련하는 데 사용된 컴퓨팅 능력의 7배 이상을 나타냅니다. 이 성과는 이전 버전과 비교하면 특히 주목할 만합니다: 올해 2월에 출시된 Grok 3은 100,000개의 Nvidia H100 칩을 사용했으며 6개월 전에 배포된 Grok 2의 컴퓨팅 능력의 12배를 나타냈습니다.

Grok 4는 총 230,000개의 Nvidia 칩을 사용했으며(150,000개의 H100, 50,000개의 H200, 30,000개의 B200으로 구성), 이는 400,000개의 H100급 유닛과 동등합니다. 이는 약 3개월 동안 달성한 컴퓨팅 능력의 4배 증가를 나타냅니다. 비교하면, 550,000개의 B200 설치는 이전의 Grok 3 시스템의 컴퓨팅 능력의 30배를 나타냅니다.

GPU 설치 속도는 XAI의 결정적인 경쟁 우위가 되었습니다. Grok 3을 배포할 때 회사는 100,000개의 칩을 120일 내에 설치했고, 그 다음 100,000개를 약 90일 내에 배포하기 위해 가속화했습니다. 현재 설치 속도는 30일 내에 200,000개에서 300,000개의 칩으로 극적으로 증가했으며, 이는 XAI를 데이터 센터에서 GPU 칩을 배포하는 데 있어 경쟁업체보다 약 100배 빠르게 자리매김합니다.

이 확장을 지원하는 인프라는 전력 공급을 포함합니다. 550,000개의 B200 칩은 약 1기가와트의 전력을 필요로 하며, 이는 Grok 4의 230,000개 칩에 필요한 400~500메가와트보다 상당히 증가한 수치입니다. XAI는 대폭 개선된 전력 효율성을 갖춘 5천만 개의 H100 동등 AI 컴퓨팅을 5년 내에 온라인으로 가져오겠다는 목표를 발표했습니다.