WEKA가 NVIDIA Grace CPU Superchips과 컴퓨팅 가속 스토리지를 결합한 AI 스토리지 클러스터를 출시합니다.

WEKA (AI 기반 데이터 플랫폼 회사)는 Supercomputing 2024에서 공개된 NVIDIA Grace CPU Superchip용 업계 최초의 고성능 스토리지 솔루션을 출시했습니다. 이 솔루션은 WEKA Data Platform 소프트웨어와 Arm Neoverse V2 코어를 탑재한 Supermicro의 강력한 신규 스토리지 서버에서 실행되며, NVIDIA Grace CPU Superchip과 NVIDIA ConnectX-7 및 NVIDIA BlueField-3 네트워킹을 활용합니다. WEKA, NVIDIA, Arm, Supermicro 간의 이번 협력은 엔터프라이즈 AI 배포를 위한 뛰어난 성능 밀도와 에너지 절감을 제공하는 것을 목표로 합니다.

오늘날의 AI 및 고성능 컴퓨팅 워크로드는 매우 빠른 데이터 액세스를 요구하지만, 대부분의 데이터 센터는 증가하는 공간 및 전력 제약에 직면해 있습니다. NVIDIA Grace CPU Superchip은 기함급 x86-64 듀얼 소켓 워크스테이션의 성능을 단일 모듈에 통합하며, 기존 x86 서버보다 2배의 에너지 효율을 제공하는 144개의 고성능 Arm Neoverse V2 코어로 구동됩니다. NVIDIA ConnectX-7 NIC와 BlueField-3 SuperNIC는 맞춤형 RDMA/RoCE 가속화를 특징으로 하며, 최대 400Gb/s 속도로 고처리량, 저지연 네트워크 연결성을 제공합니다. 고성능 맞춤 설계된 NVIDIA Scalable Coherency Fabric으로 연결된 이 아키텍처는 절반의 전력으로 듀얼 소켓 x86 CPU 서버의 성능을 제공합니다.

WEKA의 혁신적인 제로카피 소프트웨어 아키텍처와 Supermicro Petascale 스토리지 서버의 조합은 I/O 병목을 최소화하고 AI 파이프라인 지연을 줄이며, GPU 활용을 크게 향상시키고 AI 모델 훈련 및 추론을 가속화합니다. WEKA의 AI 기반 아키텍처는 첫 토큰까지의 시간을 최대 10배 가속화하며, Grace CPU의 LPDDR5X 메모리 아키텍처는 최대 1TB/s의 메모리 대역폭과 매끄러운 데이터 흐름을 보장합니다. WEKA Data Platform은 10~50배 증가된 GPU 스택 효율성을 제공하며, 데이터 인프라 공간을 4~7배 줄이면서 탄소 배출을 감소시킬 수 있습니다(연간 PB당 최대 260톤의 CO2e 회피 및 에너지 비용 10배 감소).

"AI는 전 세계 기업들의 혁신, 창조, 운영 방식을 변화시키고 있지만, 도입의 급격한 증가로 인해 데이터 센터 에너지 소비가 급증했으며, 국제원자력기구에 따르면 2026년까지 두 배로 증가할 것으로 예상됩니다"라고 WEKA의 최고 제품 책임자인 Nilesh Patel은 말했습니다. "WEKA는 NVIDIA, Arm, Supermicro와 협력하여 차세대 데이터 센터를 위한 고성능 에너지 효율 솔루션을 개발하게 되어 기쁘며, 이를 통해 엔터프라이즈 AI 및 고성능 워크로드를 구동하면서 대량의 데이터 처리를 가속화하고 실행 가능한 인사이트까지의 시간을 단축할 수 있습니다."