NVIDIA와 Samsung이 공동 설계 AI 메모리 칩 개발 협상을 벌이고 있는 것으로 보도되었습니다.

NVIDIA는 상당한 고대역폭 메모리 용량이 필요한 AI 가속기로 시장을 선점했습니다. 현재 SK Hynix가 이 메모리의 대부분을 공급하고 있으며, Samsung은 HBM3E 칩의 승인을 계속해서 추진하고 있습니다. Samsung의 인증 절차가 진행되는 가운데, Samsung과 SK Hynix는 SOCAMM(system on chip advanced memory module) 또는 시스템 온 칩 고급 메모리 모듈로 알려진 새로운 유형의 첨단 AI 메모리 칩을 상용화하기 위한 비공개 협의에 참여하고 있는 것으로 알려졌습니다. NVIDIA도 이 메모리 칩과 관련하여 SK Hynix와의 협의 중인 것으로 전해지며, 현재 NVIDIA와 프로토타입을 교환하고 있습니다.

협의는 산업계가 현재 AI 가속기의 근간을 이루는 기존 고대역폭 메모리 칩보다 진보된 것으로 평가하는 새로운 메모리 표준의 상용화를 중심으로 진행되고 있습니다. 이러한 칩들은 인공지능 슈퍼컴퓨터의 성능을 크게 향상시키도록 설계되었습니다. SOCAMM은 현재 솔루션과 비교하여 더 높은 비용 대비 성능 비율을 제공하며, 모듈 설계의 포트 수가 더 많아 AI 컴퓨팅의 주요 과제인 데이터 병목 현상을 완화하는 데 도움이 됩니다.

SOCAMM의 분리형 설계는 데이터 센터 운영자가 메모리 모듈을 교체 및 업그레이드하여 지속적인 성능 개선을 달성할 수 있도록 합니다. 컴팩트한 크기로 인해 동일한 공간 내에 더 많은 SOCAMM 모듈을 설치할 수 있어 고성능 컴퓨팅 성능을 향상시킵니다. 업계 관계자들은 NVIDIA와 메모리 업체들이 현대 인공지능 시스템의 인프라 요구 사항을 해결하기 위한 중요한 진전으로 이 개발을 평가하고 있다고 강조합니다.