AMD가 데이터센터용 MI300 엑사스케일 가속기를 발표하며 Nvidia H100과 직접 경쟁합니다.

AMD는 CES에서 Instinct MI300 액셀러레이터를 공개했으며, 소비자 중심 행사에서 엔터프라이즈급 발표를 했습니다. 액셀러레이팅 프로세싱 유닛(APU)은 CPU 코어, GPU 코어, 고대역폭 메모리(HBM)를 포함한 13개의 칩렛으로 구성되어 있으며 총 1,460억 개의 트랜지스터를 보유합니다. 이는 Intel의 Ponte Vecchio 프로세서(약 1,000억 개 트랜지스터)와 Nvidia의 Hopper H100 GPU(800억 개 트랜지스터)를 상당히 초과합니다. MI300은 24개의 Zen 4 CPU 코어, 6개의 CDNA 칩렛(AMD의 데이터센터 그래픽 기술), 그리고 3D 스택으로 설계된 128MB의 HBM3 메모리를 통합합니다.

3D 아키텍처는 CPU, GPU 및 메모리 다이 간의 막대한 데이터 처리량을 가능하게 함으로써 상당한 성능 이점을 제공합니다. 데이터는 DRAM으로의 접근 대신 HBM 스택으로 직접 흐르므로 레이턴시를 급격히 감소시킵니다. 이 설계는 또한 CPU와 GPU가 메모리의 동일한 데이터에 동시에 작동할 수 있게 하여 처리 능력을 향상시킵니다.

AMD CEO Lisa Su는 90분 CES 기조연설을 마무리하면서 칩을 발표하며 MI300이 "CPU, GPU 및 메모리를 단일 통합 설계로 함께 가져오는 최초의 칩"이라고 말했습니다. "이를 통해 우리는 메모리와 IO를 위한 시스템 리소스를 공유할 수 있으며, 성능과 효율성이 크게 증가하고 프로그래밍이 훨씬 더 쉬워집니다." Su는 MI300이 Instinct MI250 대비 AI 성능 8배와 와트당 성능 5배를 제공하며, ChatGPT 모델 훈련 시간을 수개월에서 수주로 단축할 수 있어 잠재적으로 수백만 달러의 전기 비용을 절약할 수 있다고 지적했습니다.

MI300은 현재 랩에서 개발 중이며 일부 고객들을 대상으로 샘플링되고 있으며, 올해 하반기 출시가 예상됩니다. AMD의 접근 방식은 2024년 출시 예정인 Intel의 Falcon Shores와 올해 말 출시 예정인 Nvidia의 Grace Hopper Superchip을 포함한 경쟁사의 노력과 유사합니다. 또한 AMD는 AMD가 인수한 Xilinx FPGA 라인을 기반으로 하고 XDNA AI 엔진 기술이 특징인 Alveo V70 AI 추론 액셀러레이터를 소개했습니다. V70은 75와트 전력 범위 내에서 초당 4억 개의 AI 작업을 제공하며, 경쟁업체와 비교하여 스마트시티 애플리케이션에서 70% 더 많은 거리 커버리지, 환자 모니터링을 위한 72% 더 많은 병상 커버리지, 스마트 소매점의 80% 더 많은 계산대 커버리지를 제공합니다. AMD는 V70 카드에 대한 사전 주문을 받고 있으며, 올봄부터 가용할 예정입니다.