AMD가 Helios 랙스케일 시스템 아키텍처를 공개하며, 서버 하드웨어와 AI 데이터센터 인프라를 응집력 있는 설계로 일원화합니다.

올해의 Advancing AI 행사에서 AMD가 발표한 Helios 랙은 동사가 지금까지 공개한 가장 중요한 제품 발표를 의미합니다. Helios는 랙스케일 시스템으로, AMD EPYC CPU, Instinct MI455X GPU, Pensando DPU/NIC을 ZT Systems의 엔지니어링과 통합하여 개별 서버 단독으로는 달성할 수 없는 성능을 제공하는 컴퓨팅 애플라이언스입니다.

AI 워크로드가 단일 서버 아키텍처의 능력을 넘어섬에 따라 랙스케일 시스템은 현대 데이터센터의 필수 인프라로 자리 잡았습니다. 이러한 시스템은 여러 이종 서버를 하나의 통합 컴퓨팅 플랫폼으로 클러스터링하여 대규모 AI의 처리 능력과 메모리 용량 요구사항을 모두 해결합니다. 이러한 패러다임은 NVIDIA의 GPU 컴퓨팅 분야 지배력을 주도했으며, 이제 AMD에게 경쟁적 균형을 확립할 기회를 제공하고 있습니다.

엔지니어링 과제는 단순히 구성 요소를 결합하는 것을 넘어서는 것입니다. 기능적인 랙스케일 AI 시스템은 CPU, GPU 및 기타 프로세서를 상호 연결하기 위해 고성능 파브릭이 필요합니다. 랙스케일 시스템을 가능하게 하는 핵심 진보는 이러한 파브릭을 GPU 자체에 통합한 후, 단일 랙 내 여러 노드 간에 해당 파브릭을 확장하는 네트워킹 하드웨어를 설계하는 데 집중되어 왔습니다.

AMD의 Helios 개발 경로는 2022년 Pensando Systems 인수 이후 가속화되었습니다. 4년 후 필요한 모든 요소가 마침내 수렴했습니다. 결과물인 시스템—AMD EPYC 9006 "Venice" CPU, Instinct MI455X GPU, Pensando NIC/DPU를 결합한 것—은 회사에게 기술적 및 비즈니스적 차원의 플래그십 성취를 나타냅니다.

양산형 Helios의 사양은 AMD의 초기 예측과 밀접하게 일치합니다. 72-GPU 구성은 최대 MXFP4 연산 성능으로 2.9 EFLOPS를 제공합니다. 각 GPU 쌍은 432GB의 HBM4 메모리와 23.3TB/초의 대역폭에 연결되며, 이는 누적 시스템 용량으로 31TB의 HBM4 메모리와 1.7PB/초의 총 메모리 대역폭을 생성합니다. 이는 원래 예측보다 약 21% 높은 수치로, 이러한 대역폭 향상은 AI 추론의 주요 병목 현상을 해결합니다.

네트워킹 측면에서 Helios는 두 가지 도메인을 통합합니다: 랙 내부 연결을 위한 스케일업 네트워킹은 노드 간 누적 대역폭 260TB/초를 제공하며, 스케일아웃 네트워킹은 43TB/초의 다중 랙 클러스터링을 가능하게 합니다. 이는 단일 랙 시스템에서 전례 없는 대역폭 능력을 나타냅니다.