AMD가 Instinct MI300x GPU 수천 개를 세계 최대 규모 민간 클라우드 컴퓨팅 플랫폼에 배송.

AMD의 Instinct MI300X는 회사의 3세대 CDNA 아키텍처와 TSMC의 첨단 5nm 및 6nm 공정으로 구축된 고성능 AI 가속기입니다. 이 프로세서는 19,456개의 스트림 프로세서, 192GB의 HBM3 메모리, 304개의 컴퓨팅 유닛, 1,216개의 매트릭스 코어, 그리고 750와트의 열설계전력(TDP)을 갖추고 있습니다. 초기 벤치마크 테스트에서 이는 Nvidia의 RTX 4090을 크게 능가했습니다. 주요 민간 클라우드 컴퓨팅 플랫폼인 Vultr는 이 첨단 AMD 하드웨어를 자신의 확장 가능한 클라우드 인프라와 통합하여 GPU 가속화 워크로드를 더욱 효과적으로 관리하고 데이터 센터와 엣지 컴퓨팅 모두에서 원활한 성능을 제공할 계획을 발표했습니다.

이 파트너십은 엔터프라이즈에 세계 수준의 AI 개발 환경에 대한 접근을 제공하는 것을 목표로 합니다. Vultr의 CEO인 J.J. Kardwell은 "혁신은 개방형 생태계에서 번성합니다"라고 말했습니다. "엔터프라이즈 AI 워크로드의 미래는 유연성, 확장성, 그리고 보안을 허용하는 개방형 환경에 있습니다. AMD 가속기는 우리 고객에게 비교할 수 없는 가격 대비 성능을 제공합니다. 높은 메모리와 낮은 전력 요구의 균형은 지속 가능성 노력을 더욱 추진하며 고객이 AI를 통해 혁신과 성장을 효율적으로 추진할 능력을 갖게 합니다." AMD의 아키텍처와 Vultr의 플랫폼이 결합되면 기업이 오픈 소스 및 사전 학습된 모델로 작업할 수 있게 되어 AI 프로젝트 개발을 간소화합니다.

AMD 데이터 센터 GPU 사업부의 비즈니스 개발 담당 부사장인 Negin Oliver는 "우리는 높은 성능의 AI 학습 및 추론 작업을 관리하고 전반적인 효율성을 향상시키도록 설계된 Vultr의 클라우드 플랫폼과의 협력에 대해 자랑스럽습니다"라고 말했습니다. AMD Instinct MI300X 가속기와 ROCm 오픈 소프트웨어의 도입으로 Vultr의 고객은 다양한 AI 집약적 워크로드를 관리하기 위해 진정으로 최적화된 시스템을 갖게 될 것입니다.

이 파트너십은 또한 전 세계적으로 복잡한 워크로드를 처리할 수 있는 GPU 가속화 Kubernetes 클러스터를 위해 Vultr의 인프라를 최적화합니다. Vultr는 주문한 Instinct MI300X 유닛의 정확한 수를 공개하지 않았고, 초기 클러스터가 "수천 개"라는 것만 언급했습니다.