Nvidia, 4개의 B200 GPU와 2개의 Grace CPU를 통합한 GB200 Grace Blackwell 슈퍼칩 발표.

엔비디아는 데이터 센터 시장의 서로 다른 세그먼트를 타겟팅하는 두 가지 새로운 GPU 제품을 발표했습니다. GB200 Grace Blackwell NVL4 슈퍼칩은 고성능 엔드를 대표하며, 단일 마더보드 위에 NVLink로 연결된 네 개의 B200 블랙웰 GPU와 두 개의 그레이스 ARM 기반 CPU를 탑재하고 있습니다. 이 구성체는 1.3TB의 일관된 메모리를 제공하며 HPC 및 AI 하이브리드 워크로드에 맞춰져 있습니다. 엔비디아의 성능 주장에 따르면, GB200 NVL4는 직접적인 전신인 엔비디아 GH200 NVL4 그레이스 호퍼 슈퍼칩 대비 시뮬레이션 성능은 2.2배, 학습 성능은 1.8배, 추론 성능은 1.8배 향상되었습니다. GB200 NVL4는 MSI, Asus, Gigabyte, Wistron, Pegatron, ASRock Rack, Lenovo, HP Enterprise 등 여러 공급업체를 통해 2025년 하반기에 출시될 예정입니다.

스펙트럼의 반대편에서는, 엔비디아가 기존 데이터 센터 인프라를 위해 설계된 듀얼 슬롯 공랭식 GPU인 H200 NVL을 출시합니다. H200 NVL은 128GB/s 대역폭을 갖춘 PCIe 5.0 연결성을 특징으로 하며, 랙 마운트 솔루션에 최적화된 플로우 스루 냉각 설계를 사용합니다. 이 설계는 오른쪽에서 왼쪽으로 흐르는 흡기 공기 흐름과 블로어 스타일 팬이 없는 것이 특징입니다. 이 GPU는 FP64 성능 30 TFLOPS와 FP32 성능 60 TFLOPS를 제공하며, 텐서 코어 능력은 FP64 기준 60 TFLOPS, TF32 기준 835 TFLOPS, BFLOAT16 기준 1,671 TFLOPS, FP16 기준 1,671 TFLOPS, FP8 기준 3,341 TFLOPS, INT8 기준 3,341 TFLOPS로 평가됩니다.

전신 대비 H200 NVL은 대체되는 H100 NVL보다 현저히 뛰어난 성능을 발휘하며, 메모리 용량은 1.5배, 메모리 대역폭은 1.2배 증가했습니다. 이는 최대 1.7배 빠른 추론 성능과 HPC 워크로드에 대해 1.3배 빠른 성능으로 이어집니다. 앰페어의 동급 GPU와 벤치마킹했을 때 H200 NVL은 2.5배 더 빠릅니다. 또한 이 GPU는 NVLink를 지원하여 GPU당 최대 900GB/s의 대역폭을 가능하게 하며, 시스템 공급업체가 단일 랙 내에 최대 4개의 GPU를 연결할 수 있도록 합니다.

H200 NVL은 기존 데이터 센터 설정의 대부분에 최적화되어 있습니다. 엔비디아의 설문 조사 데이터에 따르면, 약 70%의 기업용 랙이 20kW 이하의 전력으로 공냉 방식을 사용하고 있습니다. PCIe GPU인 H200 NVL은 데이터 센터 공급업체가 기존 랙을 재사용하고 GPU만 교체할 수 있게 함으로써 폐기물을 줄이고 하드웨어 업그레이드 비용을 크게 절감할 수 있게 합니다. H200 NVL은 Dell, HP Enterprise, Lenovo, Supermicro뿐만 아니라 Aivres, ASRock Rack, Asus, Gigabyte, Ingrasys, Inventec, MSI, Pegatron, QCT, Wistron, Wiwynn 등 추가 플랫폼 공급업체로부터도 구매 가능합니다.