SK Hynix와 Marvell Technology, AI 데이터센터용 CXL 메모리 모듈 아키텍처 공동 발표

SK하이닉스는 글로벌 시스템 칩 제조사 마벨 테크놀로지(Marvell Technology)와 협력하여 연산을 직접 처리할 수 있는 CXL(Compute Express Link) 메모리 모듈을 공개했다. CMM-Ax라는 명칭의 이 모듈은 AI 데이터센터 인프라를 발전시킬 것으로 기대되는 CXL 기반 처리근접메모리(PNM, Processing-Near-Memory) 솔루션이다.

CXL은 차세대 AI 반도체로서 HBM(High Bandwidth Memory)을 이어갈 기술로 널리 인식되고 있다. 초고속 메모리를 GPU에 직접 연결하는 HBM과 달리, CXL은 CPU, GPU, 메모리 칩이 원활하게 통신하고 서버 시스템 전체에 걸쳐 메모리를 유연하게 연결 및 확장할 수 있게 하는 인터커넥트 기술이다. SK하이닉스는 AI 추론 시대를 준비하기 위해 단순히 메모리 용량을 늘리는 것을 넘어 연산 기능을 통합하고 있다.

CMM-Ax는 SK하이닉스의 고성능 DRAM과 마벨의 CXL 기반 지능형 PNM 엔진인 Structera A를 결합하여 AI 데이터센터 내 메모리 사용을 더욱 효율적으로 만든다. CXL 컨트롤러에는 Arm 아키텍처의 고성능 데이터센터 CPU 16개가 통합되어 있어, 최대 초당 200기가바이트(Gbps) 대역폭으로 메모리 내부 연산(In-memory computation)이 가능하다.

이번 협업은 현대 AI 시스템의 중요한 병목 현상을 해결한다. AI가 학습에서 추론으로 전환되면서 대규모 언어 모델(LLM)은 효율성을 높이기 위해 이전에 계산된 정보를 KV 캐시(Key-Value Cache)에 저장한다. 이는 동일한 계산을 반복할 필요성을 없애지만, KV 캐시 용량이 급격히 불어나는 원인이 된다. CMM-Ax는 KV 캐시 작업을 GPU 대신 메모리 도메인 내에서 처리함으로써 데이터 전송 지연 시간을 크게 줄인다.

NELSSA라는 GPU 기반 백엔드 시스템에 적용했을 때, CMM-Ax는 단일 GPU 대비 최대 5.5배, 듀얼-GPU 구성 대비 3.6배 높은 처리량(throughput)을 달성했으며, 이는 장치당 512기가바이트 용량으로 검증된 결과다. 양사는 이 모듈이 긴 컨텍스트(long-context) LLM 환경에서도 고성능 추론을 제공할 수 있음을 확인했다.

SK하이닉스와 마벨은 캘리포니아주 산타클라라에서 열리는 세계적 메모리 기술 컨퍼런스인 FMS(Future of Memory and Storage) 2026에서 CMM-Ax 연구 결과를 공동 발표한다. SK하이닉스 주영표 전무는 "AI의 잠재력을 최대한 끌어내려면 대용량과 고성능 컴퓨팅을 결합한 지능형 메모리 솔루션이 필요하다"며 "CMM-Ax의 성공적인 검증은 마벨의 시스템온칩(SoC) 전문성과 SK하이닉스의 AI 메모리 리더십이 만들어낸 강력한 시너지의 결실"이라고 말했다.

반도체 업계는 CXL이 HBM과 유사한 성장 궤적을 따를 것으로 예상하며, 일부 관찰자들은 이를 AI 칩 시장의 '차세대 HBM'으로 부르고 있다. CXL은 DRAM에 버금가는 성능을 제공하면서도 용량을 크게 확장할 수 있어 AI 데이터센터 구축 및 운영 비용을 절감할 잠재력이 있다. 시장 조사 기관 Yole Group에 따르면 CXL 시장은 2026년 21억 달러 규모로 평가되며, 2028년까지 약 160억 달러로 성장할 것으로 전망된다.