SK하이닉스는 9월 15일부터 17일까지 산타클라라에서 열린 AI Infra Summit 2026에서 AI 인프라 구성요소를 위한 New Spectrum 로드맵을 공개했다.
SK하이닉스는 9월 15일부터 17일까지 캘리포니아주 산타클라라에서 열린 AI 인프라 서밋 2026에 참가했습니다. 사흘간 진행된 이번 컨퍼런스에서는 데이터 및 모델, 컴퓨팅, 데이터 이동, AI 데이터센터, 물리적 AI 등 다섯 가지 트랙을 통해 부상하는 기술 트렌드를 살펴보고 미래 방향성을 모색했습니다. 주요 글로벌 기술 기업들이 최신 혁신 기술을 선보인 가운데, 전시장은 행사 내내 매우 활발한 분위기를 유지했습니다.
AI의 급속한 성장을 지속하려면 서버와 데이터센터 같은 핵심 인프라에 대한 지속적인 혁신이 필요합니다. 이러한 우선순위를 반영하여 이번 서밋에는 전년도 대비 두 배인 약 6,000명의 참석자가 모였습니다. 이에 대응해 SK하이닉스는 부스 면적을 두 배로 확대하고 차세대 메모리 솔루션 포트폴리오를 광범위하게 선보이며 AI 인프라 분야에서의 리더십을 강화했습니다.
‘뉴 스펙트럼(New Spectrum)’이라는 테마 아래 운영된 SK하이닉스 부스는 최신 AI 메모리 기술을 강조하며 브랜드 존재감을 높였습니다. 레이아웃은 직관적인 이해를 위해 설계되었습니다: 뒷벽에는 회사의 기술 비전을 그래픽으로 표현했고, 왼쪽에는 PIM과 SALT-KV 기술을 showcased했으며, 입구에는 HBF 구조 모형이 눈에 띄게 배치되었습니다.
HBF 디스플레이는 소개 영상과 함께 실제 구조 모형을 선보였습니다. AI 산업이 훈련에서 추론으로 전환됨에 따라, 높은 대역폭을 제공하는 HBM과 막대한 저장 용량을 갖춘 SSD 사이에 위치한 새로운 메모리 계층에 대한 수요가 증가하고 있습니다. HBF(High Bandwidth Flash)는 HBM과 유사하게 TSV 기술을 활용하여 기존 저장 장치의 높은 용량과 고속 데이터 전송을 결합한 차세대 NAND 솔루션입니다. 에이전트 AI 시대의 추론 중심 시대를 위한 기반 기술로 인정받은 HBF 부스는 가장 높은 방문자 참여도를 기록했습니다. 참석자들은 종종 전체 소개 영상을 시청하며 제품의 아키텍처를 이해하기 위해 제품 목업에 상당한 시간을 할애했습니다.
PIM(Processing-in-Memory) 부스에서는 SK하이닉스의 AiM 칩, AiMX(AiM 기반 가속기) 카드, 그리고 완전히 통합된 서버를 선보였으며, 향상된 LLM 서비스의 핸즈온 데모도 진행되었습니다. PIM은 프로세서와 메모리 간 데이터 이동을 최소화하기 위해 연산 기능을 메모리에 직접 내장함으로써 ‘메모리 월’ 병목 현상을 해결하고 성능과 전력 효율성을 모두 높입니다. 방문자들은 이 기술이 AI 워크로드를 간소화할 잠재력에 강한 관심을 보였으며, 단기적인 도입에 대한 명확한 기대감을 나타냈습니다.
SALT-KV(Semantic-Aware Lifecycle Tiering for KV Cache) 디스플레이에는 SK하이닉스의 eSSD가 장착된 서버와 인접한 모니터가 있었는데, 모니터는 AI 시스템 내 실시간 데이터 이동을 시각화했습니다. SALT-KV는 LLM의 KV 캐시를 컨텍스트 기반 세그먼트로 분할한 후, 각 세그먼트의 재사용 가치와 저장 비용을 평가하여 HBM, DRAM, SSD 중 최적의 계층에 동적으로 할당합니다. 이 접근 방식은 제한된 메모리 자원 내에서 활용률을 극대화합니다. 또한 이 부스에서는 SALT-KV로 구동되는 LLM을 사용하여 간단한 게임을 구축하고 실행할 수 있는 인터랙티브 데모가 진행되었으며, 이를 직접 테스트하려는 군중이 꾸준히 몰렸습니다.
전시회와 더불어 SK하이닉스는 전용 세션 프레젠테이션을 통해 진화하는 고객 요구를 충족하겠다는 의지를 다시 한번 확인시켰습니다. 컨퍼런스 둘째 날, 솔루션 AT 부문 부사장 겸 책임자인 임의철 상무는 ‘Beyond One-Size-Fits-All: PIM, HBF and More for the New Spectrum of AI Serving’라는 주제로 데이터 이동 트랙에서 기조연설을 하며 차세대 메모리 기술의 지속적인 R&D 발전 사항을 설명했습니다.
“AI 워크로드가 초저지연 에이전트 서비스부터 비용 효율성이 중요한 긴 컨텍스트 애플리케이션까지 다양해짐에 따라, 기존의 GPU-HBM 아키텍처만으로는 점점 더 부족해지고 있습니다,”라고 임 상무는 말했습니다. “이러한 변화하는 요구에 대응하기 위해 SK하이닉스는 PIM, HBF, SALT-KV를 포함한 하드웨어 및 소프트웨어 통합 솔루션을 개발하고 있습니다.” 그는 또한 “HBF는 높은 대역폭과 큰 용량을 결합하여 긴 컨텍스트 워크로드를 최적화하고, PIM은 프리미엄 서비스의 빠른 디코딩 요구사항에 대해 성능과 효율성을 향상시킵니다. 둘 다 현재 아키텍처의 한계를 극복하기 위한 강력한 경로입니다. KV 캐시의 특성과 재사용 가능성을 고려하여 처리 효율성을 높이는 SALT-KV 역시 AI 시스템 진화를 앞당길 상당한 잠재력을 가지고 있습니다.”라고 덧붙였습니다.
SK하이닉스는 AI 인프라 서밋 2026 참가를 통해 PIM, HBF, SALT-KV를 포함한 차세대 AI 메모리 솔루션을 선보이고 AI 인프라 혁신을 선도하겠다는 전략을 명확히 했습니다. 회사는 빠르게 진화하는 AI 시대의 요구를 충족하기 위해 기술 역량을 지속적으로 발전시켜 나갈 것입니다.
**참고 정의**
* HBM(High Bandwidth Memory): 여러 개의 DRAM 칩을 수직으로 연결하여 용량을 늘리고 데이터 처리 속도를 극적으로 향상시키는 고부가가치 고성능 제품입니다. HBM은 다음과 같은 순서로 개발되었습니다: 1세대(HBM), 2세대(HBM2), 3세대(HBM2E), 4세대(HBM3), 5세대(HBM3E), 6세대(HBM4).
* TSV(Through Silicon Via): 실리콘 기판을 수직으로 관통하는 전극을 통해 칩을 수직으로 연결하는 기술입니다.
* AiM(Accelerator-in-Memory): 프로세서의 연산 기능을 메모리에 내장하는 차세대 솔루션입니다.
* LLM(Large Language Model): 빅데이터를 학습하여 자연스럽고 인간과 유사한 문장을 생성하고 이해하는 인공지능 모델입니다. 파라미터 규모를 극적으로 증가시킴으로써 복잡한 컨텍스트 이해, 추론, 번역 등의 고급 언어 처리 능력을 획득합니다.
* KV Cache(Key Value Cache): 대규모 언어 모델을 기반으로 하는 AI 에이전트가 텍스트를 생성할 때 이전에 계산된 결과를 일시적으로 저장하는 메모리입니다. 사용자와의 대화 길이가 길어지고 처리해야 할 작업이 많아질수록 지수함수적으로 증가하므로, 이를 효율적으로 저장하고 처리할 수 있는 메모리 능력이 AI 에이전트의 성능에 큰 영향을 미칩니다.