AMD Instinct GPU 라인, 하이퍼스케일 데이터센터 배포에서 Nvidia의 시장 선도 제품에 맞서 점유율 경쟁
Omdia 추정에 따르면, 엔비디아는 2024년 AI 인프라 시장에서 압도적인 우위를 점했으며, 그중 12개 최대 고객에게 납품된 호퍼(Hopper) GPU의 출하량은 200만 개 이상으로 3배 이상 증가했습니다. 그러나 AMD의 인스틴트 MI300 시리즈로부터의 경쟁은 점점 더 치열해지고 있습니다. Omdia는 마이크로소프트가 전 세계 최대 클라우드 또는 하이퍼스케일 고객으로서 2024년에 약 581,000개의 GPU를 구매했으며, 이 중 6분의 1이 AMD에서 제조했다고 추정합니다. AMD의 가속기를 가장 적극적으로 채택한 메타에서는 AMD가 GPU 출하량의 43%인 173,000개를 차지한 반면, 엔비디아는 224,000개를 차지했습니다. 한편, 오라클에서는 AMD가 데이터베이스 거인의 163,000개 GPU 출하량 중 23%를 차지했습니다. Omdia가 추적하는 4개 벤더(마이크로소프트, 메타, 오라클, 텐서웨이브) 전체에 걸쳐 MI300X 출하량은 총 327,000대에 달했습니다.
AMD의 MI300 시리즈 가속기는 주로 오크리지 국립연구소의 1.35 엑사플롭스 프론티어 슈퍼컴퓨터와 같은 고성능 컴퓨팅(HPC) 애플리케이션에 사용되었던 지 불과 1년 만에 시장에 출시되었다는 점을 고려할 때, AMD의 성장은 특히 주목할 만합니다. "지난해 HPC 분야에서 GPU의 효과를 입증했고, 그것이 도움이 되었다고 생각합니다."라고 Omdia의 클라우드 및 데이터센터 연구 책임자 블라디미르 갈라보프는 더 레지스터(The Register)와의 인터뷰에서 말했습니다. "저는 엔비디아 대안에 대한 갈망이 있었다고 생각합니다." MI300X는 AI 워크로드에 대해 H100보다 부동소수점 성능이 1.3배 높고, 메모리 대역폭은 60% 더 높으며, 용량은 2.4배 더 높은 등 상당한 기술적 우위를 제공합니다. GPU당 192GB의 HBM3을 탑재하여 단일 서버당 1.5TB의 vRAM을 가능하게 함으로써, 메타의 Llama 3.1 405B와 같은 대규모 모델을 단일 노드에서 실행할 수 있게 됩니다. 반면 H100은 완전 해상도에서 필요한 메모리가 부족합니다. MI300X는 메모리 대역폭이 5.3 TBps로, H100의 3.3 TBps와 H200의 4.8 TBps보다 높아 이론적으로 더 큰 모델을 더 빠르게 처리할 수 있습니다. 엔비디아의 블랙웰이 고객들에게 점차 보급되고 있음에도 불구하고, AMD의 MI325X는 GPU당 256GB의 용량 우위를 유지하고 있으며, 내년 후반 출시 예정인 더 강력한 MI355X는 288GB에 도달할 예정입니다.
마이크로소프트와 메타는 수천억 개에서 수조 개의 파라미터를 측정하는 대형 프론티어 모델의 배포를 위해 AMD의 가속기로 기울고 있습니다. 이러한 모멘텀은 분기별로 지속적으로 개선되어 온 AMD의 가이던스에 반영되어 있으며, AMD는 이제 인스틴트가 2024 회계연도에 50억 달러의 매출을 창출할 것으로 예상하고 있습니다. 갈라보프에 따르면 "AMD는 잘 실행합니다. 클라이언트와 소통하는 능력이 뛰어나며, 자신의 강점과 약점을 투명하게 설명하는 데에도 뛰어납니다." 앞으로 코어웨이브(CoreWeave)와 같은 새로운 GPU 빌딩 블록들은 잠재적 성장 동력이 될 것이며, 일부 기업은 의도적으로 엔비디아 대안을 중심으로 비즈니스 모델을 구축하고 있습니다. 텐서웨이브(TensorWave)가 대표적인 예입니다.
엔비디아에 대한 AMD의 도전 외에도, 클라우드 제공업체와 하이퍼스케일러들은 방대한 양의 맞춤형 AI 실리콘을 배포하고 있습니다. Omdia는 메타의 맞춤형 MTIA 가속기가 2024년에 150만 개의 출하량을 달성했으며, 아마존은 900,000개의 인페렌시아(Inferentia) 칩을 주문했다고 추정합니다. 구글은 자체 프로프라이터리 제미니(Gemini)와 오픈 젬마(Gemma) 언어 모델을 훈련하기 위해 TPU를 사용해 왔으며, 약 100만 개의 TPU v5e와 480,000개의 TPU v5p 가속기를 주문했습니다. 또한 아마존은 훈련 및 추론 워크로드 모두에 맞게 재조정된 약 366,000개의 트레니움(Trainium) 칩을 주문했습니다. 인페렌시아와 MTIA는 추천 시스템과 같은 전통적인 머신러닝 작업을 위해 설계되었지만 대규모 언어 모델용은 아닙니다. 그럼에도 불구하고 이러한 맞춤형 실리콘의 배포는 산업 전반이 다각화된 AI 인프라로 나아가는 광범위한 움직임을 반영합니다.