KuCoin은 2027년 전 세계 신규 AI 컴퓨팅의 25~40%를 OpenAI와 Anthropic이 차지할 것이라고 발표했다.

11월 3일, 반도체 리서치 기업 SemiAnalysis의 창업자 겸 CEO인 Dylan Patel은 Runtime 2026에서 컴퓨팅 파워, 자본, 데이터 센터에 관한 연설을 했다.

그는 OpenAI와 Anthropic이 컴퓨팅 파워를 대규모로 선점하고 있다고 밝혔다. 예를 들어 2027년에는 두 기업이 신규 컴퓨팅 용량의 25%에서 40%를 차지할 것으로 예상된다. 이러한 수요 압력 속에서 NVIDIA H100의 임대 가격은 저점에서 크게 반등했으며, B300의 임대 비용은 향후 시간당 7달러를 넘어설 수 있다.

자금 조달 환경도 빠듯해지고 있다. 지난 두 달간 미국 국채 금리가 급격히 상승했고, 10년물 금리는 10월 초 5%를 넘어섰다. 이에 따라 차입에 의존해 데이터 센터를 구축하는 신흥 클라우드 사업자들이 자금을 확보하기가 점점 어려워지고 있다.

이번 연설은 Anthropic이 S-1을 공개 제출한 지 일주일 뒤에 이루어졌으며, 시장은 선도 연구소 뒤에 있는 컴퓨팅 파워 대차대조표를 막 목격한 시점이었다. Patel은 NVIDIA가 약 6.5기가와트 규모의 컴퓨팅 용량을 지원하고 나섰지만, 이것으로 전체 수급 타이트함이 완화되지는 않았다고 말했다.

새로 추가되는 컴퓨팅 파워의 대부분은 두 연구소가 선점하고 있다.

컴퓨팅 파워의 병목은 구매자가 지나치게 집중되어 있기 때문에 발생한다. 전 세계 컴퓨팅 파워는 빠르게 성장해 2024년 말 약 60기가와트에 이르렀고, 올해 말에는 100기가와트를 넘어설 전망이다. 2년 만에 거의 두 배가 된 셈이다. Patel은 "2024년 말 전 세계 컴퓨팅 파워는 60기가와트였고, 올해 말에는 100기가와트를 넘어설 것으로 보이며, 2년 만에 거의 두 배가 된 것이다."라고 말했다.

증분 용량의 가장 큰 구매자는 OpenAI와 Anthropic이다. 두 기업의 총 컴퓨팅 용량은 작년 말 약 4기가와트, 올해 약 10기가와트였으며, 내년에는 20기가와트를 넘어설 전망이다. 증분 수요 측면에서 두 기업은 2027년 신규 컴퓨팅 용량의 25%에서 40%를 차지할 것으로 예상된다.

Patel은 이렇게 추정했다. "그들은 신규 컴퓨팅 파워의 25%, 30%, 심지어 40%까지 가져가고 있습니다. 작년 말, Claude Code가 OpenAI와 Anthropic의 매출을 급격히 끌어올리면서 두 회사는 컴퓨팅을 대규모로 사들이기 시작했고, Meta도 뒤따랐습니다. 이제 많은 기업에게는 컴퓨팅을 확보하는 것 자체가 불가능합니다."

그는 또한 이 컴퓨팅 파워가 사용자 서비스(추론)보다는 주로 학습에 쓰이고 있다고 지적했다. Patel은 Anthropic이 현재 4기가와트를 보유하고 있으며, Claude Code 제품 전체가 차지하는 비중은 수십 메가와트에 불과하다고 말했다.

[차트: 2024년부터 2028년까지 전 세계 데이터 센터 및 선도 연구소의 컴퓨팅 파워 수요 전망]

**오픈소스 모델 추론은 수익성이 높고, 임대 가격은 상승 중**

구매자가 많아지면 가격은 자연히 오른다. Patel은 임대 가격을 끌어올리는 또 다른 요인으로, 모델 출력의 단위인 토큰을 판매하는 것의 수익성이 극도로 높다는 점을 꼽았다. 그 결과 GPU를 비싼 가격에 임대하려는 사람이 GPU를 팔려는 사람보다 훨씬 많아졌다.

그는 메가와트당 비용을 제시했다. 직접 B300 클러스터를 구축하고 운영하면, 건설비와 5년 운영 기간에 걸쳐 감가상각한 비용이 연간 약 900만 달러에 이른다. 클라우드 사업자에게 임대해 연간 1,400만 달러를 지불하면 운이 좋은 편이라고 할 수 있다. 그러나 인프라를 오픈소스 모델 추론용으로 임대하면, 이러한 비용을 훨씬 웃도는 이익을 낼 수 있다. 활용률이 30%에 불과하더라도 여전히 상당한 수익을 거둘 수 있다.

이 계산은 SemiAnalysis의 오픈소스 InferenceX 벤치마크를 기반으로 한다. 이 벤치마크는 누구나 무료로 내려받을 수 있는 컨테이너와 vLLM, SGLang 두 가지 오픈소스 추론 프레임워크만을 사용하며, 별도의 맞춤형 최적화는 적용하지 않는다.

가격 데이터도 이 논리와 맞아떨어진다. Patel은 작년 10월이 저점이었으며, 당시 H100은 약 1.70달러, 가장 낮게 거래된 가격은 1.45달러였다고 말했다. 지금은 거래 가격이 시간당 2.40달러에서 3.20달러 사이에 형성되어 있다. 2년 전이라면 이 가격에 계약을 확보하는 것은 믿기 어려운 일이었겠지만, 지금은 사람들이 이 범위 안에서 기꺼이 계약에 서명하려 한다.

SemiAnalysis 자체의 1년 계약 지수는 올해 3월 2.35달러에 도달했으며, Nebius 같은 벤더의 공시 가격도 10월에 계속 상승했다. Patel의 논의는 주로 단기 및 2차 시장 가격에 초점을 맞추며, 하이퍼스케일 클라우드 사업자의 대규모 주문은 제외했다.

다음 단계에 대한 그의 전망은 이랬다. "H100이 3달러를 넘고 B300이 7달러를 넘더라도 놀랍지 않을 것입니다. B300을 시간당 6달러에 구할 수 있다면 계약하고, 그 후 토큰을 판매하십시오. 그것이 올바른 선택입니다."

문제는 클라우드 사업자들이 선결제를 요구한다는 점이며, 이는 스타트업에게 더 큰 어려움이 된다. 1년 계약을 확보하기도 어렵고, 스타트업은 1년 뒤에도 존속할지 예측하기 어려운 경우가 많다. 독점 모델과 관련해 Patel은 Anthropic이 이미 API 매출총이익을 포기하고 규모 확장에만 집중하고 있다고 말했다.

[차트: Anthropic과 OpenAI의 분기별 컴퓨팅 부하 내역]

[차트: NVIDIA H100 GPU 임대의 1년 계약 가격 추이]

**납품 병목과 클라우드 서비스 제공업체에 대한 엇갈린 평가**

컴퓨팅 파워를 임대하는 것은 첫 단계일 뿐이다. 진짜 가치는 클러스터가 얼마나 잘 작동하는지에 달려 있다. SemiAnalysis는 ClusterMAX라는 벤치마크를 만들었는데, 이는 323개 클라우드 사업자를 추적해 그중 77개를 평가했고, 최종적으로 19개에만 메달을 수여했다. 대다수는 "사용 불가" 또는 "성능 미흡"으로 판정되었다.

Patel의 판단으로는 최선의 선택지는 CoreWeave와 Nebius지만, 두 곳 모두 가용 물량이 극히 제한적이다. 두 기업은 이미 매진되어 향후 6개월 동안 추가 컴퓨팅 파워를 판매하지 않을 것이다. Nebius는 1년 또는 6개월 계약 모두 전액 선결제를 요구한다. 비싸지만, 이는 컴퓨팅 파워를 확보할 수 있는 몇 안 되는 방법 중 하나다.

Oracle과 Google도 우수 평가를 받았으며, Google은 1차 평가의 동메달에서 상향되었다. 평가 기준이 엄격해지면서 다른 플랫폼은 하향 조정되었다. Azure는 은메달로 떨어졌고, Together와 Lambda는 동메달로 내려갔다. AWS는 주로 번거로운 납품 절차 때문에 꾸준히 낮은 순위에 머물렀다. 클러스터를 확보하려면 여러 담당자와 광범위한 협의가 필요하고, 시간이 매우 오래 걸리며, 네트워크 구성도 복잡하다.

이 검토에서 가장 우려스러운 부분은 보안이다. SemiAnalysis는 AI 모델이 이들 클라우드 플랫폼을 대상으로 공격을 시도하도록 했다. 인터넷에 오래전부터 공개되어 있던 일부 취약점을 모델이 직접 식별하고 악용해, 다른 고객의 스토리지에 접근할 수 있었다.

한 테스트에서는 오픈소스 모델을 이용해 클러스터 전체에 대한 Slurm 전체 권한을 획득했고, 그 과정에서 어느 국가의 국방부 이름이 드러났다. 많은 클라우드 사업자는 고객이 명시적으로 알려준 뒤에야 보안 취약점을 발견하며, 경고를 받은 후에도 대응에 며칠이 걸리는 경우가 있다.

[차트: SemiAnalysis ClusterMAX 클라우드 컴퓨팅 제공업체의 납품 역량 및 보안 평가 순위]

**금리 상승과 컴퓨팅 공급의 부채 딜레마**

컴퓨팅 파워 공급을 늘리려면 막대한 자본이 필요하며, 자본 비용도 크게 오르고 있다. Patel은 전 세계 AI 자본 지출이 2029년 말까지 약 11조 달러에 이를 것으로 전망되며, 그중 약 7조 달러가 부채 조달에서 나올 것이라고 다시 강조했다. 이 지출의 대부분은 칩, 네트워크, 데이터 센터 건설에 쓰일 것이다.

이러한 금리 환경에서 대출 자금의 흐름은 극명하게 양극화되었다. 미국 10년물 국채 금리는 올해 초 3.96%에서 10월 초 5.31%로 상승했으며, AI 관련 부채 발행은 9월에 크게 식었다. Patel은 오늘날의 부채 시장에서 1기가와트 규모 데이터 센터를 짓기 위해 20억 달러를 조달하려는 신생 클라우드 사업자는 자금을 확보하기가 거의 불가능하다고 말했다.

유일한 해결책은 하이퍼스케일 클라우드 사업자에게 컴퓨팅 파워를 선판매하고, 이들이 부채 시장에서 자금을 조달하도록 하는 것이다. 이 대출은 담보가 있지만, 컴퓨팅 파워는 업계의 나머지 기업이 접근할 수 있는 공개 시장에서 완전히 제외된다.

[차트: 2024년부터 2030년까지 전 세계 AI 자본 지출 및 부채 조달 추세 전망]

그 결과 내년에 계약되는 컴퓨팅 파워의 약 65%에서 70%가 하이퍼스케일 클라우드 사업자와 선도 AI 연구소에 돌아갈 것으로 보인다. 스타트업이 클러스터를 임대하려면 비용의 절반을 선금으로 내야 하고, 납품은 3개월에서 9개월 뒤에야 이루어지므로, 컴퓨팅 파워에 접근하기가 극도로 어렵다.

NVIDIA의 접근법은 클러스터에 안전망을 제공하는 것이며, Patel은 이를 세 가지 유형으로 분류했다. SoftBank Energy는 부지, 전력, 시설만 보증한다. 2030년경 가동될 것으로 예상되는 오하이오주 9기가와트 부지는 용량 전체가 OpenAI에 예약되어 있다. Firmus는 NVIDIA가 특정 가격에 클러스터 임대를 보증해, 파트너의 이익과 손실이 모두 발생하지 않도록 하며, 이는 다시 대출 기관이 기꺼이