Nvidia, 데이터센터 워크로드용 플래그십 4nm GPU인 H100 SXM (80GB HBM3 메모리) 발표

NVIDIA의 차세대 Hopper H100 GPU SXM 폼팩터가 처음으로 실물로 공개되었다. 지금까지는 H100 GPU의 렌더링 이미지만 공개되어 왔으며, 이번이 처음으로 실제 장치의 사진이 공개되는 것이다. ServeTheHome의 Patrick Kennedy가 촬영한 차세대 Hopper H100 SXM GPU는 보드 모델 "PG520"과 TSMC의 최신 CoWoS 패키징 기술을 활용하는 4nm H100 GPU 다이를 갖추고 있다.

H100 GPU는 814mm² 다이와 주변에 배치된 6개 메모리 모듈을 갖추고 있으며, 총 80GB의 초고속 HBM3 메모리를 제공한다. NVIDIA의 새로운 H100 GPU는 서로 다른 CUDA 코어 개수를 가진 두 가지 형태로 제공된다: SXM 변형은 16896 FP32 CUDA 코어를 특징으로 하며, PCIe 기반 모델은 14592개의 코어를 제공한다. 이 사진에 나타난 장치는 전체 16896 FP32 CUDA 코어와 80GB HBM3 메모리를 갖춘 SXM 변형이다.

전력 소비는 이전 GPU 아키텍처에 비해 상당한 증가를 보인다. H100은 최대 700W에서 작동하는 반면, 데이터센터 형태의 이전 Ampere 및 Volta GPU 아키텍처는 400-450W 범위에서 작동하여, 전력 소비가 최대 250-300W 증가했다.