Nvidia A100, H100, H200 가속기의 GPU 렌탈 요금이 지속적으로 상승 중이며, B200 가격은 시간당 약 $6 수준에서 안정화되고 있습니다.

AI 인프라 구축 과정에서 GPU 감가상각은 오랫동안 논쟁의 대상이 되어 왔으며, 일부는 장비의 수명을 더 길게 설정해야 한다고 주장하는 반면, 다른 이들은 3년의 유용한 수명 추정이 가장 적절하다고 보고 있다. 그러나 최신 NVIDIA GPU 시간당 임대료 데이터는 오히려 유용한 수명의 연장을 뒷받침하며, 이는 하이퍼스케일러의 수익성에 유리한 developments이다.

AI 컴퓨팅 과잉 설비설과 달리, 새로운 용량이 가동됨에 따라 GPU 임대료가 폭락하지 않고 있다. 오히려 거의 모든 세대별로 가격이 상승하고 있다. Silicon Data에 따르면, NVIDIA H100 GPU의 시간당 임대료는 2026년 1월 기준 2달러 미만이었으나, 현재 그 임계치를 넘어 3달러에 근접했다. 한편 NVIDIA B200 GPU의 경우, 1월 초 5달러 미만에서 현재 5.50달러~5.80달러 사이로 상승했다.

이러한 직관에 반하는 가격 상승의 한 가지 설명은 모델 효율성의 급격한 향상에서 찾을 수 있다. AI 모델이 실행함에 있어 더욱 효율적이 됨에 따라, 동일한 컴퓨팅 하드웨어가 더 많은 토큰을 처리할 수 있게 되어 노드당 수익과 경제적 가치가 증가한다. 이러한 역동성은 제번스 역설(Jevons paradox)과 유사하다. 즉, 기술 장벽이 낮아질수록 채택률이 높아지며, 이 경우 기존 NVIDIA GPU들은 heightened된 수요 앞에서 가치를 더 잘 유지하게 된다.

이러한 함의는 상당하다. 마이크로소프트(CFO 아미 후드)는 "FY 27 시작부터 데이터 센터와 사무실 건물의 추정 유용 수명을 15년에서 25년으로 연장한다"고 밝혔다. 동일한 논리가 하이퍼스케일러들의 GPU 재고에도 적용된다. NVIDIA 하드웨어의 유용한 수명 추정을 늘림으로써 기업들은 손익계산서상의 연간 감가상각비를 줄일 수 있으며, 이는 실제 경제 성과 변화 없이도 순이익을 직접적으로 증대시킨다.