NVIDIA가 급증하는 수요, 특히 중국 고객의 수요를 충족하기 위해 H200 칩 생산 관련 TSMC 주문을 확대합니다.

Nvidia Corp.가 대만반도체제조(Taiwan Semiconductor Manufacturing Co., TSMC)에 중국 고객들의 강한 수요 대응을 위해 H200 그래픽 처리 장치(GPU) 생산 확대를 요청한 것으로 보도되고 있습니다. 로이터 통신의 소식통에 따르면 고객들이 200만 개 이상의 H200 칩에 대한 주문을 했습니다. Nvidia는 GPU당 약 27,000달러의 가격 책정으로 540억 달러 이상의 수익을 창출할 수 있을 것으로 예상됩니다.

H200은 Nvidia가 2022년 초에 출시한 그래픽 카드의 업그레이드 버전입니다. 기본 설계는 거의 동일하지만 탑재된 HBM 메모리 풀의 크기가 거의 2배 이상입니다. Nvidia는 또한 GPU의 메모리 대역폭(칩의 HBM과 메모리 회로 간 데이터 이동 속도)을 40% 향상시켰습니다. 결과적으로 이 칩은 원래 설계를 기반으로 한 2022년 그래픽 카드보다 일부 추론 작업을 2배 빠르게 수행할 수 있습니다. H200은 또한 Nvidia가 2022년 Biden 행정부의 최고급 GPU 대중국 수출 금지 이후 개발한 현재 중국에서 판매하는 가장 빠른 칩인 H20보다 6배 빠릅니다.

GPU의 메모리와 논리 회로 간의 데이터 이동은 대규모 언어 모델에서 프롬프트 응답을 생성하는 데 필요한 시간의 상당 부분을 차지합니다. 이러한 데이터 이동은 GPU의 메모리 대역폭을 높임으로써 상당히 가속화될 수 있으며, 이는 Nvidia가 H200에 적용한 최적화 중 하나입니다. 대규모 언어 모델은 수많은 단계를 포함하는 프로세스를 통해 프롬프트 응답을 생성하며, 각 단계마다 모델이 처리 결과를 기본 GPU의 메모리에 저장한 후 다음 처리 단계가 시작될 수 있도록 그 결과를 GPU의 논리 회로로 이동합니다.

올해 초 Trump 행정부는 H20에 대한 수출 금지 확대 가능성을 제기했습니다. 관계자들은 곧 이 아이디어를 폐기했고 중국으로의 GPU 선적에서 발생하는 수익의 15%가 미국 정부로 귀속될 것이라고 발표했습니다. 몇 주 전 미국 대통령 Donald Trump은 이 비율을 25%로 인상했고 인정된 중국 기업들에 대한 H200 칩 판매를 승인했습니다. 그러나 미국이 H200 수출에 승인을 내렸지만, 중국의 규제 당국이 아직 승인을 주지 않은 것으로 보도되고 있습니다. 그럼에도 불구하고 Nvidia는 TSMC에 H200 생산 확대를 요청했으며, 로이터의 소식통에 따르면 이러한 제조 확대는 2026년 하반기에 시작될 예정입니다.

로이터에 따르면 Nvidia는 현재 600,000개의 H200 칩과 각각 H200 한 쌍과 단일 72코어 중앙 처리 장치로 구성된 100,000개의 GH200 Grace Hopper Superchips를 보유하고 있습니다. Nvidia는 표준 H200 칩과 GH200을 중국 고객들에게 제공할 계획인 것으로 보도되었습니다. 중국으로 향하는 H200의 대부분은 대형 기술 기업들이 주문한 것으로 알려졌습니다. Nvidia는 기존의 700,000개 HB200 및 Grace Hopper 칩 재고를 활용하여 2월까지 첫 번째 배치 주문을 이행할 계획이며, 나머지 130만 개 장치는 2026년 후반에 배송될 예정입니다.