Blackwell Ultra는 1.1 exaflops FP4 연산, 288GB HBM3e 메모리, GB200보다 50% 높은 성능을 제공한다.

NVIDIA가 1년 전 도입한 획기적인 Blackwell 아키텍처를 기반으로 Blackwell Ultra를 발표했습니다. 회사는 주요 AI 및 데이터센터 공급업체를 위한 개선된 공급 및 하드웨어 제공으로 최신 AI 강화 제품을 시장에 출시하고 있습니다. 이번 차세대 제품은 NVIDIA GB300 NVL72 랙 규모 솔루션과 NVIDIA HGX B300 NVL16 시스템을 포함하며, 초기 B100 및 B200 GPU 계열에서 상당한 진화를 나타냅니다.

Blackwell Ultra의 핵심을 이루는 B300 칩은 최대 12-Hi HBM3E 스택으로 메모리 밀도를 높여 원래의 Blackwell을 확장하여 더 빠른 AI를 위한 향상된 계산 기능을 제공합니다. 이 칩은 512-Radix 연결성을 갖춘 최신 Spectrum Ultra X800 Ethernet 스위치와 함께 제공됩니다. GB300 NVL72는 NVIDIA GB200 NVL72보다 1.5배 더 많은 AI 성능을 제공하며, NVIDIA Hopper로 구축된 것과 비교하여 AI 팩토리를 위한 Blackwell의 수익 기회를 50배 증가시킵니다.

GB300 NVL72는 랙 규모 설계에서 72개의 Blackwell Ultra GPU와 36개의 Arm Neoverse 기반 NVIDIA Grace CPU를 연결하여 테스트 시간 스케일링을 위해 구축된 단일의 거대한 GPU로 작동합니다. 이 아키텍처는 AI 모델이 플랫폼의 증가된 컴퓨트 용량에 액세스하여 문제에 대한 다양한 솔루션을 탐색하고 복잡한 요청을 여러 단계로 분해하여 더 높은 품질의 응답을 생성하고 더 고급 AI 추론 기능을 지원할 수 있게 합니다.

GB300 NVL72는 NVIDIA DGX Cloud에서 사용 가능하며, 이는 주요 클라우드의 엔드-투-엔드 완전 관리형 AI 플랫폼으로 소프트웨어, 서비스 및 AI 전문성으로 진화하는 워크로드에 대한 성능을 최적화합니다. DGX GB300 시스템이 포함된 NVIDIA DGX SuperPOD는 GB300 NVL72 랙 설계를 사용하여 고객에게 턴키 AI 팩토리를 제공합니다. 추가적으로 NVIDIA HGX B300 NVL16은 Hopper 세대와 비교하여 대규모 언어 모델에 대해 11배 더 빠른 추론, 7배 더 많은 계산 및 4배 더 큰 메모리를 특징으로 하여 AI 추론과 같은 가장 복잡한 워크로드에 대한 획기적인 성능을 제공합니다.