AIC가 Rubin 시대 키-값 캐싱 및 추론 최적화를 위해 설계된 32개 SSD 베이를 갖춘 F2032-01-G6 JBOF 저장소 시스템을 공개했다.
저장소 인프라는 현대적 AI 시스템의 중요한 구성 요소로 부상했습니다. 컴퓨팅이 언론의 주목을 받지만, 데이터 센터는 계산 리소스와 함께 키-값 캐싱을 위한 고용량 플래시 저장소를 점점 더 필요로 하고 있습니다. Computex에서 AIC는 이 요구를 충족하도록 특별히 설계된 2U just-a-bunch-of-flash (JBOF) 어플라이언스인 F2032-01-G6 (F2032-G6으로도 지정됨)을 공개했습니다.
F2032-01-G6은 32개의 PCIe Gen6 E3 SSD를 수용하며, 256TB 드라이브가 장착되었을 때 최대 8PB의 저장 용량을 제공합니다—QLC NAND를 사용한 8PB 용량 또는 TLC NAND를 사용한 약 4PB 중 하나를 선택할 수 있습니다. 이 시스템은 7.5mm 두께의 E3 드라이브의 긴 형태(E3.L)와 짧은 형태(E3.S)를 모두 지원하며, 서버의 전면부는 공기 흐름 관리를 위해 얇은 통풍구로 분리된 핫스와핑 가능한 저장소 트레이로 구성되어 있습니다.
F2032-01-G6은 PCIe Gen5 기술로 작동하고 26개의 2.5인치 U.2 베이를 포함했던 AIC의 이전 세대 F2026-01-G5를 계승합니다. 새로운 플랫폼은 저장소, I/O 및 네트워킹 기능 전반에 걸친 포괄적인 현대화를 나타내며, AIC를 Vera Rubin 랙에 통합하도록 설계된 NVIDIA의 Context Memory Storage (CMX) 플랫폼 표준과의 정렬에 더 가깝게 만듭니다.
내부적으로, 이 시스템은 Broadcom의 144-레인 PEX90144 PCIe Gen6 스위치를 I/O 백본으로 사용합니다. 이전 세대의 아키텍처를 기반으로 하여, AIC는 용량을 최대화하기 위해 SSD당 2개의 레인을 할당할 가능성이 높으며, PCIe Gen6 업그레이드는 이 구성의 대역폭 제약을 상쇄합니다.
F2032-01-G6은 이중-노드 아키텍처를 사용하며, 각 노드는 독립적인 전원 공급 장치와 최대 2개의 네트워크 확장 장치 또는 선택적으로 GPU도 수용할 수 있는 용량을 갖습니다. 이 시스템은 Grace CPU, 800Gb 이더넷 또는 InfiniBand 연결성을 갖춘 ConnectX-9 NIC, 그리고 PCIe Gen6 I/O를 특징으로 하는 NVIDIA BlueField-4 DPU에 의해 제어됩니다. 이들 DPU는 저장소 컨트롤러이자 모든 SSD 접근의 게이트웨이로 기능합니다. 중복 쌍으로 여러 DPU를 지원하면 완전히 중복된 작동을 가능하게 합니다—하나의 DPU 또는 노드가 실패하면, 어플라이언스는 계속 작동합니다.
AIC는 F2032-01-G6을 NVIDIA의 Context Memory Storage 플랫폼 내 키-값 캐시의 주요 저장소 계층으로 위치시킵니다—Vera Rubin 시스템을 위한 NVIDIA의 KV 캐싱 솔루션입니다. 유연한 아키텍처는 또한 객체 저장소, 스케일-아웃 파일 시스템, 그리고 플래시 저장소 계층화를 포함한 더 광범위한 애플리케이션을 지원합니다. 대규모 추론 클러스터가 성능을 위해 GPU 근처에 위치한 상당한 KV 캐시를 점점 더 필요로 함에 따라, 이러한 JBOF 서버는 AI 데이터 센터에서 표준 인프라가 되고 있습니다. AIC는 PCIe Gen5 및 BlueField-3 하드웨어에 대한 전문 지식을 활용하여 BlueField-4/Vera Rubin 세대로 확장하면서 시장 점유율을 확보할 수 있는 좋은 위치에 있습니다.