H100 렌탈 가격 절반으로 급락, 시간당 $3.38 2026년
엔비디아 H100을 한 시간 동안 렌탈하는 데 드는 비용은 2026년 9월 기준 제공자와 선택하는 클라우드에 따라 $1.49에서 거의 $13까지 다양하다. 한때 틈새시장에서 반올림 오차에 불과했던 이 가격 차이는 2년 전 ChatGPT가 GPU 용량을 이사회의 화두로 만든 이후 AI 컴퓨팅 공급망이 여전히 얼마나 팽팽한지를 보여주는 가장 명확한 신호가 되었다. 가격 추적 플랫폼, 은행 분석가, 그리고 엔비디아 경영진들은 지금 세 가지 겹치는 이야기를 동시에 펼치고 있다: H100 렌탈 비용은 2024년 초 이후 대략 절반 정도 하락했고, H200과 B200 같은 최신 칩들은 가파른 프리미엄을 요구하며, 전체 시장은 여전히 실리콘이 아닌 메모리로 인해 병목 상태에 있다는 것이다.
이 수치들이 중요한 이유는 인프라 구매자들의 스프레드시트를 넘어서다. GPU 시간당 1달러의 변화는 대규모 언어 모델 운영 비용, 신세대 시스템 훈련, 또는 단일 챗봇 쿼리 제공에 영향을 미친다. 이 분석은 H100, H200, B200 렌탈 가격이 오늘날 실제로 어느 정도인지, 마켓플레이스와 하이퍼스케일러 사이에서 왜 그렇게 크게 차이가 나는지, 엔비디아 리더십이 공급 격차에 대해 무엇을 말했는지, 그리고 AMD와 구글의 칩들이 대안으로서 어떻게 위치하는지를 분석한다.
클라우드 GPU 시장에서 세 가지 세력이 이 달 충돌하고 있다. 첫째, 추론 용량에 대한 수요가 계속 오르고 있다. 더 많은 기업들이 단순히 AI 기능을 실험하는 것이 아니라 프로덕션 환경에 실제로 배포하고 있기 때문이다. 둘째, 메모리 공급망이 급격히 긴장했다. 제조업체들이 데이터센터 칩을 향한 용량 재배분으로 고대역폭 메모리와 DRAM이 모두 부족하기 때문이다. 셋째, 엔비디아 자체도 기록적인 출하량에도 불구하고 수요를 완전히 충족할 수 없다고 밝혔으며, 이는 하이퍼스케일러 용량이 고갈될 때 구매자들을 이차 마켓플레이스와 전문 클라우드로 밀어낸다.
가격 추적 플랫폼 Thunder Compute는 2026년 9월 1일자 H100 가격 책정 블로그 포스트에서 RunPod의 시간당 $2.89부터 Google Cloud의 a3-highgpu-8g 인스턴스의 시간당 $10.98까지 다양한 온디맨드 H100 80GB 요금을 나열했다. 2026년 8월 말에 발표된 CloudZero의 H100 비용 분석은 전체 스프레드를 훨씬 더 넓게 제시한다: Vast.ai의 시간당 $1.49부터 Azure의 온디맨드 기준 GPU 시간당 $6.98까지. 이 두 데이터 포인트 사이에는 인프라 팀들이 매 분기마다 예산을 잡아야 하는 실제 수치가 있다.
시장에서 세 개의 계층이 나타났으며 거의 별개의 제품처럼 작동한다. 마켓플레이스 및 커뮤니티 클라우드 요금은 하한선에 있으며, RunPod의 커뮤니티 티어와 Vast.ai의 피어투피어 리스팅 같은 플랫폼들이 다른 모든 곳을 능가한다. Lambda, Nebius, Crusoe 같은 전문 클라우드는 중간에 위치하며 하이퍼스케일러 마진 없이 더 높은 신뢰성과 지원을 제공한다. AWS, Azure, Google Cloud의 하이퍼스케일러 온디맨드 가격은 상단에 있으며 똑같은 칩에 대해 마켓플레이스 하한선의 2배에서 4배까지 가격을 책정하는 경우가 많다. H100 80GB 가격은 마켓플레이스 하한에서 시간당 $1.49~$2.99, 전문 클라우드에서 $3.19~$4.59, 하이퍼스케일러에서 $6.88~$10.98로 범위를 나눈다. H200 141GB는 RunPod Community에서 시간당 $3.59, 전문 클라우드에서 $4.31~$4.59, 하이퍼스케일러에서 $5.58~$6.35로 운영한다. B200 데이터는 가장 신뢰성이 낮으며, RunPod의 시간당 $5.89 근처로 인용된 제한된 공개 마켓플레이스 데이터와 전문가 추정치가 시간당 $8.64에 도달한다.
이 수치들의 소싱은 Thunder Compute의 H200 가격 추적, RunPod의 공개된 요금표, CloudZero의 클라우드 간 비교에서 나온다. B200 수치는 세 칩 중 가장 신뢰성이 낮다. 엔비디아는 2026년 초부터 Blackwell을 대량으로 출하했지만 대부분의 클라우드 제공자들은 여전히 공개 요금표 대신 판매 대화를 통해 B200 용량을 인용하기 때문에 독립적인 추적 플랫폼은 일반 이용 가능성 후 6개월이 지난 지금도 칩을 데이터 부족 상태로 계속 표시하고 있다.
H100은 이제 제품군으로 3년이 지났으며, 이는 이 시장의 어떤 칩보다도 가장 깊고 일관성 있는 가격 책정 데이터를 가지고 있는 이유를 설명한다. 뱅크오브아메리카 분석가 Vivek Arya는 2026년 8월 12일자 TheStreet에서 다룬 연구 보고서에서 H100 스팟 렌탈 가격을 대략 시간당 $2.80로 설정했으며, GPU 스팟 가격을 광범위하게 구형 실리콘을 위해서도 사상 최고치 근처에 있다고 설명했다. TechFlowPost에서 2026년 8월 18일자로 인용된 별도의 뱅크오브아메리카 보고서는 H100을 시간당 $2.77로 평가했으며, 월간 2% 상승, 연간 33% 상승을 기록했고, A100 가격은 시간당 $1.65로 고정되어 있으며 1년 전보다 17% 상승했다고 기록했다.
노후 칩에 대한 이 연간 상승은 앉아서 생각해 볼 가치가 있는 세부 사항이다. 정상적으로 GPU 렌탈 가격은 칩이 노후화되고 최신 실리콘이 프리미엄 작업을 인수하면서 하락한다. 대신 H100 가격은 H200과 Blackwell 칩이 사용 가능해지면서도 2026년 대부분에 걸쳐 상승했다. 왜냐하면 신구를 막론한 작동하는 GPU 용량에 대한 수요가 업계의 공급 추가 능력을 압도했기 때문이다.
H200은 H100의 80GB에 비해 141GB의 HBM3e 메모리를 탑재하고 있으며, 클라우드 제공자들은 이 메모리 증가분을 렌탈 요금에 직접 반영한다. DeployBase와 Flexprice를 포함한 여러 가격 통합기에 따르면 H200 141GB에 대한 RunPod의 커뮤니티 클라우드 리스팅은 2026년 대부분에 걸쳐 대략 시간당 $3.59에 유지되었으며, 같은 칩에 대한 RunPod의 보안 클라우드 티어는 시간당 $4.39~$4.59로 운영한다. 2026년 8월 28일자로 업데이트된 Hivenet의 가격 책정 페이지는 클러스터급 배포를 위해 시간당 $4.31까지 높은 H200 SXM 구성을 나열한다.
눈에 띄는 것은 상단 끝에서 H100과 H200 가격 책정 사이의 간격이 얼마나 좁아졌는지다. 전문 클라우드 H100이 시간당 $4.59이고 H200이 같은 가격 포인트에 있으면 구매자들은 요금표가 수렴할 때마다 점점 더 새로운 칩으로 기울어진다. 추가 메모리 여유분이 그 계층에서 추가 비용 없이 오기 때문이다. 이 동학은 조용히 H100 수요를 마켓플레이스 하한선으로 밀어 내려가고 있으며, 이는 올해 피어투피어 플랫폼에서 $2 미만의 H100 리스팅이 일반화된 이유 중 일부다.
Blackwell 세대 B200 칩은 2026년 상반기에 주요 클라우드 전반에 걸쳐 일반 이용 가능성에 도달했지만, 투명한 시간당 렌탈 가격은 공개 요금표에 표시되는 것이 느렸다. 가장 명확한 수치는 뱅크오브아메리카의 추적에서 나온다: Vivek Arya의 보고서는 2026년 8월 중순 기준 B200 스팟 가격을 대략 시간당 $5.66으로 설정했고, 일주일 뒤의 TechFlowPost에서 다룬 BofA 보고서는 B200을 시간당 $5.63으로 나열했으며 월간 2% 하락했지만 여전히 1년 전보다 7% 상승했다.
소매 스타일 가격 추적 플랫폼은 더 넓은 범위를 보여준다. RunPod 가격 책정 가이드 중 하나는 B200에 대한 시간당 $5.89 요금을 인용했으며, 별도의 정규화된 비교는 멀티 GPU 포드 구성을 고려할 때 시간당 비용을 $8.64만큼 높게 설정했다. Blackwell Ultra와 GB200 랙 규모 시스템은 현재 본질적으로 공개 시간당 가격이 전혀 없다. 대부분의 용량이 여전히 개방 마켓플레이스에 나열되기보다는 하이퍼스케일러 및 대규모 AI 랩과의 직접 계약을 통해 판매되기 때문이다.
AIMultiple의 클라우드 GPU 렌탈 가격 지수는 2026년 8월 25일 업데이트 기준 추적 코호트 전반에 걸친 중앙값 H100 렌탈 가격이 현재 시간당 대략 $3.38에 앉아 있으며, 2024년 초의 시간당 $7 이상에서 하락했음을 발견했다. 이는 단 2년 반 만에 시간당 절반 이상의 정품 가격 붕괴이며, 노후 칩의 정상적인 패턴을 반영한다: 더 많은 공급이 온라인으로 올라오고, 더 많은 제공자가 같은 고객을 위해 경쟁하며, 요금이 하락한다. 별도의 추적 플랫폼은 약간 늦은 관점에서 유사한 이야기를 말한다: 2026년 9월 13일로 측정한 Mercatus GPU 지수는 27개 추적 제공자 전반에 걸친 평균 H100 요금을 시간당 $3.84로 설정했으며 Lambda는 시간당 $3.99를 나열했다. 이는 추적기가 사용하는 정확한 수치가 어느 코호트와 어느 평균 방법에 크게 의존하는지에 대한 상기다.
하지만 이 이야기는 마켓플레이스 하한선에만 적용된다. Reuters는 2026년 6월 3일자로 Morgan Stanley 분석가들이 AI "칩플레이션"에 대해 경고하고 있다고 보도했으며, 제조업체들이 더 높은 마진의 데이터센터 부품을 향한 용량 재배분으로 지난 1년 동안 대략 6배 급증한 메모리 칩 가격을 지적했다. CNBC에서 2026년 1월 20일자로 다룬 별도의 Morgan Stanley 기록은 DDR4 가격...