Monday, November 23, 2026
AI 인프라 · 뉴스 & 분석
홈 › 반도체·하드웨어 › 리포트
반도체·하드웨어 · 리포트

Nvidia의 연간 GPU 업그레이드 주기가 HBM 투자 전망을 바꾸고 있다고 24/7 Wall St가 보도했다.

엔비디아의 업그레이드 주기가 계속 가속화될 경우, 메모리 공급업체들의 수요 가시성과 설비투자 계획은 단일 고객의 제품 로드맵에 더욱 크게 좌우될 것이다.
업계 전문지Slicast · 2026년 11월 18일 19:39 UTC · 미국 · 출처: 24/7 Wall St.
중요도 40

인공지능의 빠른 확산으로 고대역폭 메모리(HBM)는 반도체 산업에서 가장 중요한 성장 시장 중 하나가 되었습니다. AI 가속기의 성능이 높아지면서 메모리 제조사들은 증설, 첨단 패키징, 그리고 새로운 세대의 HBM에 대규모 투자를 해 왔으며, 점점 정교해지는 컴퓨팅 시스템의 요구 사항을 충족하기 위해 노력해 왔습니다.

그러나 GPU 성능과 메모리 수요의 관계는 변화하고 있습니다. Nvidia(NVDA)는 GPU를 매년 출시하는 방향으로 제품 개발 일정을 앞당겨 왔으며, 이에 따라 연속되는 각 세대가 HBM을 대폭 더 많이 필요로 할 것이라는 기대가 형성되었습니다. 이러한 가정은 Hopper에서 Blackwell로, 그리고 다시 Blackwell Ultra로 넘어가는 과정에서 GPU당 메모리 용량이 급격히 늘어나면서 뒷받침되었습니다.

Vera Rubin의 등장은 이 관계를 바꾸고 있습니다. Nvidia는 Blackwell Ultra와 거의 같은 GPU당 HBM 용량을 유지하면서 메모리 대역폭과 처리 성능은 크게 높이고 있습니다. 이러한 변화는 세 곳의 주요 첨단 HBM 공급사인 Micron Technology(MU), Samsung Electronics(SSNLF), SK hynix(SKHY)에 중요한 의미를 갖습니다.

핵심 투자 질문은 향후 HBM 매출 성장이 주로 가속기당 메모리 용량 증가에서 비롯될지, 아니면 고부가가치 메모리 기술, 더 많이 배치되는 시스템, 그리고 개선된 제조 경제성에서 비롯될지에 관한 것입니다. 이 차이는 중요한데, 두 요인이 메모리 공급사의 매출과 수익성에 전혀 다른 결과를 낳을 수 있기 때문입니다.

**Nvidia의 GPU 출시 주기와 HBM 용량**

Nvidia의 GPU 로드맵은 초기 AI 가속기에서 Blackwell Ultra로 넘어오는 동안 메모리 요구량이 얼마나 극적으로 증가했는지를 보여줍니다. 또한 최신 세대에서 나타난 중요한 변화도 드러냅니다. 컴퓨팅 성능을 높이는 데 반드시 설치되는 HBM 용량을 늘려야 하는 것은 아니게 되었습니다.

표 1에 따르면 GPU당 HBM 용량은 H100의 80GB에서 Blackwell Ultra B300의 288GB로 늘어나, 3.6배 증가했습니다. B200에서 B300으로의 전환만으로도 용량이 192GB에서 288GB로 늘어나 50% 증가했습니다. 그러나 Vera Rubin은 HBM3e에서 HBM4로 전환하면서도 GPU당 288GB를 유지합니다. 그 결과 Nvidia의 연간 업그레이드 주기는 GPU당 메모리 용량의 상응하는 증가 없이도 메모리 성능의 상당한 향상을 만들어내고 있습니다.

*표 1. Nvidia GPU 세대별 HBM 용량 및 메모리 기술, 2020~2027*

| GPU 세대 | 출시 연도 | GPU당 HBM | HBM 기술 |

|---|---|---|---|

| A100 | 2020 | 80GB | HBM2e |

| H100 | 2022 | 80GB | HBM3 |

| B200 Blackwell | 2024 | 192GB | HBM3e |

| B300 Blackwell Ultra | 2025 | 288GB | HBM3e |

| Vera Rubin | 2026 | 288GB | HBM4 |

| Rubin Ultra | 2027(예상) | 약 1TB(예상) | HBM4e(예상) |

*출처: Nvidia 제품 사양 및 로드맵 공개 자료; The Information Network 분석.*

이러한 흐름은 단일 제품 전환을 넘어섭니다. H100에서 B300에 이르는 기간 동안 메모리 공급사들은 GPU 출하량 증가와 가속기 한 대에 탑재되는 메모리 양의 급격한 확대라는 두 가지 혜택을 모두 누렸습니다. 이러한 결합이 첨단 DRAM 용량에 대한 수요를 배가시켰습니다.

Rubin으로의 전환은 다릅니다. HBM4는 더 넓은 인터페이스와 더 까다로운 제조 요건을 포함한 고도화된 메모리 아키텍처를 통해 대역폭을 크게 높입니다. 이러한 개선은 설치되는 기가바이트 수가 변하지 않더라도 공급되는 메모리의 가치와 복잡성을 높입니다.

메모리 제조사에게 이는 출하되는 HBM 비트 증가와 HBM 매출 증가를 구분해서 보게 만듭니다. 총 메모리 용량이 비례하여 늘지 않더라도 판매 가격 상승과 더 고부가가치인 제품 믹스를 통해 매출은 늘어날 수 있습니다. 반대로 프리미엄 가격이 하락하거나 생산 비용이 상승하면 대역폭 향상만으로는 매출 증가가 보장되지 않습니다.

Nvidia가 GPU당 약 1TB의 HBM을 제공한다면 Rubin Ultra는 결국 용량 정체를 뒤집을 수 있습니다. 다만 투자자들은 현재 Rubin 아키텍처와 이 예상되는 미래의 증가를 구분해서 보아야 하며, 매년 이어지는 모든 GPU 전환이 같은 패턴을 따를 것이라고 가정해서는 안 됩니다.

**랙 단위 HBM 수요가 보여주는 더 중요한 추세**

개별 GPU 사양만으로는 전체 그림의 일부만 알 수 있습니다. Nvidia가 통합 랙 규모 컴퓨팅 시스템을 점점 더 많이 판매하고 있기 때문입니다. 이러한 시스템은 수십 개의 GPU, CPU, 네트워킹 부품, 메모리를 하나의 컴퓨팅 플랫폼으로 결합합니다. 개별 가속기에서 통합 랙으로의 전환은 향후 HBM 수요를 평가할 때 시스템 수준의 메모리 요구량을 특히 중요하게 만듭니다.

표 2에 따르면 GB200 NVL72는 72개의 GPU에 걸쳐 약 13.4TB의 HBM을 탑재하며, GB300 NVL72에서는 20.7TB로 늘어나 설치 메모리 용량이 54.7% 확대됩니다. 그러나 Vera Rubin NVL72는 약 20.7TB를 유지하면서 총 HBM 대역폭은 576TB/s에서 1,400TB/s로 높아집니다. 이는 랙당 HBM 용량이 전혀 늘지 않았음에도 메모리 대역폭이 약 2.4배가 된다는 뜻입니다.

*표 2. Nvidia 랙 단위 HBM 용량 및 대역폭 비교*

| 지표 | GB200 NVL72 | GB300 NVL72 | Vera Rubin NVL72 |

|---|---|---|---|

| 랙당 GPU 수 | 72 | 72 | 72 |

| HBM 세대 | HBM3e | HBM3e | HBM4 |

| 랙당 HBM 용량 | 13.4TB | 20.7TB | 20.7TB |

| 용량 증가율 | 기준 | +54.7% | 0.0% |

| 총 HBM 대역폭 | 576TB/s | 576TB/s | 1,400TB/s |

*출처: Nvidia 시스템 사양; The Information Network 계산.*

이 비교는 HBM 수요를 논할 때 종종 뒤섞이는 세 가지 변수를 구분해 주기 때문에 중요합니다. 설치된 HBM 용량, 메모리 대역폭, 배치되는 시스템 수가 그 세 가지입니다. 설치 용량은 랙마다 필요한 메모리 비트 수를 측정합니다. 대역폭은 그 비트들이 GPU로 얼마나 빨리 전달될 수 있는지를 측정합니다. 시스템 출하량은 얼마나 많은 랙이 구매되는지, 따라서 업계가 총 얼마나 많은 메모리를 생산해야 하는지를 결정합니다.

세 변수는 서로 연관되어 있지만 상호 교환할 수 있는 것은 아닙니다. 예를 들어 GB300 NVL72 랙 10,000대를 배치하는 가상의 상황을 생각해 봅시다. 랙당 20.7TB이므로 약 207,000TB의 HBM 용량이 필요합니다. 이 랙들을 Vera Rubin NVL72 시스템 10,000대로 바꾸면, 메모리 대역폭과 컴퓨팅 성능은 훨씬 높아지지만 총 HBM 용량은 거의 같게 필요합니다.

배치가 Rubin 랙 15,000대로 늘어나면 총 설치 HBM은 약 310,500TB로 증가하며, 이는 50% 증가입니다. 이 성장은 시스템당 메모리 용량 증가가 아니라 추가 시스템에서 비롯됩니다.

Nvidia가 AI 인프라 배치 규모를 확대할수록 이 차이는 점점 더 중요해집니다. 메모리 제조사는 출하되는 시스템 수가 계속 늘어나기만 한다면, GPU당 HBM 용량이 변하지 않더라도 상당한 수요 성장을 볼 수 있습니다. 반대로 랙 배치가 느려지면 GPU 성능이 빠르게 발전하더라도 메모리 비트 수요 증가가 둔화될 수 있습니다.

**Nvidia는 설치된 메모리의 생산성을 높이고 있다**

HBM 용량과 GPU 성능의 관계 변화는 Nvidia 시스템 아키텍처의 더 넓은 변화를 반영합니다. 최근 메모리 최적화에 관한 기술 발표에서 Nvidia는 하드웨어와 소프트웨어 개선을 통해 주어진 양의 메모리로 수행할 수 있는 유효 연산량을 어떻게 늘릴 수 있는지 설명했습니다.

회사는 특정 워크로드에서 Vera Rubin NVL72가 설치된 HBM 용량이 거의 그대로임에도 GB300 NVL72 대비 메가와트당 에이전틱 AI 처리량을 최대 30배까지 제공할 수 있다고 밝혔습니다. 이 수치는 워크로드에 따른 것이므로 보편적인 30배 성능 향상으로 해석해서는 안 됩니다. 그럼에도 불구하고 이는 AI 컴퓨팅의 경제성을 결정하는 데 메모리 효율, 시스템 아키텍처, 소프트웨어 최적화가 얼마나 중요한지를 보여줍니다.

하이퍼스케일러에게 관련 지표는 점점 더 단순히 설치된 GPU 수나 메모리 기가바이트가 아니라 AI 워크로드를 완료하는 데 드는 비용이 되고 있습니다. 높은 메모리 대역폭은 성능 병목을 줄일 수 있고, 개선된 소프트웨어는 가용 메모리를 더 효율적으로 활용하게 할 수 있습니다. 이러한 개선이 함께 작용하면 설치된 HBM 용량을 비례하여 늘리지 않고도 더 많은 AI 연산을 수행할 수 있게 됩니다.

이러한 발전은 Nvidia에게도 유리한데, 이는 그 개선이...

원문 보기
Nvidia의 연간 GPU 업그레이드 주기가 HBM 투자 전망을 바꾸고 있다고… · Slicast