반도체·하드웨어 · 리포트

HBF 컨소시엄이 AI 메모리 병목을 겨냥한 첫 번째 High Bandwidth Flash 사양을 발표했다.

새로운 고속 스토리지 계층이 GPU 메모리와 메인 스토리지를 잇고, LLM 컨텍스트 윈도우와 배치 추론의 용량 및 지연 시간 격차를 직접 해결합니다.

업계 전문지Slicast · 2026년 8월 13일 15:37 UTC · 미국 · 출처: Crypto Briefing

중요도 67

High Bandwidth Flash 컨소시엄은 2026년 2월 출범 약 6개월 후 첫 기술 명세서를 발표했습니다. 이 명세서는 AI 인프라의 가장 난제 중 하나를 해결하기 위해 설계된 새로운 클래스의 NAND 기반 메모리를 제시합니다. 그 난제란 모델을 위한 빠르고 저렴한 메모리가 단순히 충분하지 않다는 것입니다.

Sandisk와 SK Hynix가 주도하는 이 컨소시엄에는 Google과 Tenstorrent가 회원으로 참여하고 있습니다. 이 그룹의 목표는 명확합니다. 비록 엔지니어링이 그렇지는 않지만, AI 추론 워크로드를 지원할 수 있는 플래시 메모리의 개방형 표준을 개발하되, 고대역폭 메모리(HBM)의 막대한 비용은 피하는 것입니다.

초기 HBF 명세서는 야심찬 성능 목표를 제시합니다. 개별 NAND 스택은 패키지당 최대 512GB의 용량을 지원할 수 있으며, 이는 현재 HBM 모듈로 가능한 것을 훨씬 능가합니다. 대역폭은 기본 구성에서 수백 GB/s부터 UCIe 연결을 사용할 때 최대 3TB/s까지 범위합니다. UCIe(Universal Chiplet Interconnect Express)는 패키지 내에서 칩릿을 연결하기 위한 개방형 표준입니다.

훈련과 추론 간의 구별을 검토할 가치가 있습니다. 훈련은 모델이 데이터로부터 학습하는 계산 집약적 단계입니다. 추론은 훈련된 모델이 질문에 답하거나, 이미지를 생성하거나, 자율주행 차량 인식을 실행하는 등 실제 유용한 작업을 수행하는 시점입니다. 추론은 대부분의 컴퓨팅 지출이 향하는 곳이며, 메모리 용량이 메모리 대역폭보다 훨씬 더 중요합니다.

HBF는 계층화된 메모리 접근 방식을 제안합니다. 모든 것에 HBM만 의존하는 대신, 시스템은 핫 데이터에는 HBM을 사용하고, 빠른 액세스가 필요하지만 절대적으로 빠른 액세스는 필요하지 않은 대량의 모델 매개변수에는 HBF를 사용할 수 있습니다.

Sandisk와 SK Hynix는 컨소시엄의 공식 출범 훨씬 이전부터 기반을 마련하고 있었습니다. 두 회사는 2025년 8월 고대역폭 플래시 개발에 협력하기 위한 양해각서에 서명했으며, 2025년 7월에는 자문위원회가 구성되었습니다.

HBF 컨소시엄은 진공 상태에서 운영되지 않습니다. Samsung은 이 특정 컨소시엄 프레임워크 외부에서 고대역폭 플래시 메모리에 대한 자체 접근 방식을 개발해 왔습니다. Sandisk와 SK Hynix가 독점적 솔루션보다는 개방형 명세서를 추구하기로 한 결정은 의도적인 전략적 선택입니다.

컨소시엄에서 Google의 존재는 세계 최대 규모의 AI 인프라 운영 회사 중 하나로부터의 수요를 검증하기 때문에 주목할 만합니다. AI 칩 회사인 Tenstorrent의 경우, 전설적인 칩 설계자 Jim Keller가 주도하고 있으며, 더 저렴하고 밀도 높은 메모리 옵션으로 직접적인 이점을 얻을 수 있는 추론 중심 프로세서를 설계하는 하드웨어 스타트업으로서 다른 관점을 제공합니다.

반도체 공급망의 경우, HBF는 투자 패턴을 바꿀 수 있습니다. NAND 플래시 제조는 성숙하고 대량 생산되는 제조 프로세스로, 그 경제성이 잘 알려져 있습니다. 기존 인프라를 AI 최적화 메모리로 용도 변경하는 것은 새로운 HBM 생산 라인 구축보다 훨씬 적은 자본을 필요로 하며, 새로운 라인은 전 세계 소수의 시설만 처리할 수 있는 고급 패키징 기술이 필요합니다.

원문 보기