Meta는 AI 워크로드를 위해 AWS Graviton ARM 기반 코어를 수백만 개 배포하며, x86 아키텍처 이상으로 다양화합니다.

Meta는 Amazon Web Services의 Graviton 5 CPU 코어 수천만 개를 배포할 계획을 세우고 있으며, 이는 소셜 네트워크를 클라우드 기업의 자체 개발 실리콘의 최대 규모 소비자 중 하나로 만들 다년간의 협력의 일부입니다. 이 컴퓨팅 자원은 Meta의 에이전트 AI 배포를 지원할 것입니다. GPU는 생성형 AI 모델 학습 및 실행에 필수적이지만, 이러한 모델을 활용하는 데 필요한 소프트웨어 프레임워크는 여전히 CPU에서 실행됩니다. Meta 인프라 담당 부사장 Santosh Janardhan은 성명에서 AWS와의 협력을 컴퓨팅 자원 다양화 노력으로 특징지었습니다: "Meta의 AI 야망을 뒷받침하는 인프라를 확장하면서, 컴퓨팅 소스의 다양화는 전략적 필수 과제입니다. AWS는 다년간 신뢰할 수 있는 클라우드 파트너였습니다."

Amazon의 최신 Graviton 프로세서는 Arm의 Neoverse V3 코어 192개와 훨씬 더 큰 L3 캐시, 그리고 DDR5 8,800 MT/s까지의 메모리 지원을 갖추고 있습니다. 이 조합은 Graviton 4 대비 25% 성능 향상을 제공합니다.

Meta의 다양화 전략은 AWS를 훨씬 넘어섭니다. 2월에 해당 회사는 Nvidia의 독립형 Grace CPU를 대규모로 배포한 최초 기업 중 하나임을 공개했습니다. 그 이후로 소셜 네트워킹 기업은 Nvidia의 새로운 88코어 Vera CPU 배포 계획을 발표했습니다. 3월에 Arm은 Meta와 긴밀히 협력하여 첫 번째 브랜드 데이터센터 실리콘인 "AGI CPU"를 설계했음을 공개했으며, 이는 136개의 Neoverse V3 코어를 300와트 부품에 집약했습니다. Arm의 새로운 실리콘은 올해 후반까지 Meta 데이터센터에 도입되지 않을 것입니다. 그러나 AGI CPU와 Amazon의 Graviton 5 칩 사이의 유사성은 Meta가 현재 AWS에 배포했다가 Arm의 실리콘이 최종적으로 준비되면 이러한 워크로드를 다시 자체 데이터센터로 이전할 수 있음을 의미합니다.

Arm 데이터센터 프로세서의 채택, 특히 AI 응용 분야에서의 채택은 영국 칩 설계사의 시장 점유율에 상당한 이득을 가져올 것으로 예상됩니다. Counterpoint Research의 분석가들은 최근 2029년까지 Arm 기반 CPU가 AI ASIC 서버 CPU 시장의 90%를 차지할 것으로 예측했습니다. "x86 아키텍처는 현재 AI 서버 인프라에서 상당한 점유율을 유지하고 있지만, 우리의 세대별 분석은 이 확립된 우위가 독점적인 Arm 기반 설계로 빠르게 전환되고 있음을 시사합니다"라고 Counterpoint 분석가 David Wu는 블로그 게시물에서 말했습니다. 이 변화는 2023년 Nvidia의 Grace CPU 출시로 시작되었다고 할 수 있습니다. 12월에 AWS는 자신의 Trainium 3 AI 랙 시스템에서 Intel의 CPU를 자신의 것으로 교체하고 있음을 공개했으며, 이번 주 Google은 자신의 TPU 클러스터의 x86 칩을 자신의 Arm 기반 Axion 칩으로 교체하는 동일한 조치를 취할 것이라고 밝혔습니다.