Microsoft는 AMD 및 Nvidia에 대한 의존도를 감소시키기 위해 자체 AI 칩을 개발하고 배포하는 것을 목표한다.

Microsoft는 Nvidia와 AMD에서 공급받은 GPU로부터 대부분의 AI 워크로드를 자사의 자체 개발 가속기로 이동시키기 위해 노력하고 있습니다. 소프트웨어 거대 기업은 맞춤형 실리콘 분야에 상대적으로 늦게 진입했습니다. Amazon과 Google은 수년간 맞춤형 CPU와 AI 가속기를 개발해 왔지만, Microsoft는 2023년 말에야 Maia AI 가속기를 공개했습니다. 이 전환의 원동력은 달러당 성능에 대한 초점이며, 이는 Microsoft CTO Kevin Scott이 수요일 CNBC가 진행한 파이어사이드 채팅에서 강조한 지표입니다. Scott은 Nvidia가 현재까지 최고의 가격 대비 성능을 제공했음을 인정했지만, Microsoft는 수요를 충족하기 위해 대안을 탐색할 의향이 있다고 말했습니다. 장기적 목표가 데이터 센터에 주로 Microsoft 실리콘을 보유하는 것인지 묻는 질문에 Scott은 "네, 절대적으로 그렇습니다"라고 답했습니다.

Scott은 순수 계산 성능만을 넘어선 전환을 동기부여하는 광범위한 시스템 설계 고려 사항을 강조했습니다. "전체 시스템 설계가 중요합니다. 네트워크와 냉각이 관련되어 있으며, 워크로드에 맞게 계산을 최적화하기 위해 필요한 의사 결정을 내릴 자유를 확보하고 싶습니다"라고 설명했습니다. Microsoft의 첫 자체 개발 AI 가속기인 Maia 100은 2023년 회사가 OpenAI의 GPT-3.5를 자신의 실리콘으로 이동시킬 때 GPU 용량을 확보함으로써 이 접근 방식을 입증했습니다. 그러나 800 teraFLOPS의 BF16 성능, 64GB의 HBM2e, 1.8TB/s의 메모리 대역폭이라는 사양을 갖추고 있음에도 불구하고, 이 칩은 Nvidia와 AMD의 경쟁 GPU에 크게 못 미쳤습니다.

Microsoft는 내년에 더욱 경쟁력 있는 계산, 메모리 및 상호 연결 성능을 제공할 2세대 Maia 가속기를 시장에 출시할 것으로 알려져 있습니다. 다만, Microsoft 데이터 센터에서 GPU의 조합을 AI ASIC으로 전환할 가능성이 있지만, 이러한 가속기가 Nvidia와 AMD의 칩을 완전히 대체할 가능성은 낮습니다. Google과 Amazon은 각각 자신의 TPU와 Trainium 가속기를 수만 개 배포했으며, Anthropic 같은 저명한 고객을 확보했지만, 이 칩들은 각 회사의 자체 사내 워크로드를 가속화하는 데 더 자주 사용됩니다. 이러한 클라우드 플랫폼 전반에 걸쳐 대규모 Nvidia 및 AMD GPU 배포가 계속되는 이유는 고객이 계속해서 이들을 요구하기 때문입니다. AI 가속기 외에도 Microsoft는 Cobalt라는 자체 CPU와 광대한 데이터 센터 영역 전반에 걸쳐 암호화를 가속화하고 핵심 교환을 보호하도록 설계된 플랫폼 보안 실리콘 제품군을 포함한 다른 맞춤형 칩을 개발하고 있습니다.