CNBC, 기업들이 Nvidia GPU에 접근하는 다양한 방법을 설명하다.

엔비디아의 GPU는 AI 분야에서 가장 수요가 많은 프로세서이며, 수요가 워낙 강해 이번 주 이 칩 제조사의 주가가 다시 사상 최고치를 기록했고, 시가총액은 약 6조 달러에 육박하게 되었습니다.

고객들은 이제 아마존, 마이크로소프트, 구글과 같은 거대 클라우드 사업자는 물론, 코어위브(CoreWeave) 같은 이른바 네오클라우드 업체에서도 이 칩을 이용할 방법을 비교해 볼 수 있습니다. 온라인 마켓플레이스를 찾아가거나, 비싼 하드웨어를 직접 구매할 수도 있습니다.

엔비디아에게 이는 멈추지 않는 성장으로 이어지고 있습니다. 경영진은 10월 분기 매출이 1,080억 달러에 이를 것으로 예상하며, 이는 전년 동기 대비 89% 증가를 의미합니다.

하지만 선택지가 많다는 것이 골칫거리가 될 수도 있습니다. 당장 컴퓨팅 파워가 필요한 기업들에게는 특히 그렇습니다.

클라우드 인프라 제공업체들은 수년간 엔비디아의 최대 고객 목록 상위권을 차지해 왔지만, 사업 구조는 다변화되고 있습니다. 제출된 공시 자료에 따르면, 7월 분기에 매출채권의 최소 10%를 차지한 고객은 다섯 곳으로, 1월의 세 곳에서 늘어났습니다.

업계 리서치 기관 SemiAnalysis에 따르면, 9월 기준 엔비디아 GPU 공급업체는 323곳으로, 11개월 조금 넘는 기간 전의 209곳에서 증가했습니다.

젠슨 황 엔비디아 CEO는 지난달 샌프란시스코에서 열린 골드만삭스 기술 컨퍼런스에서 이렇게 말했습니다. "수천억 달러 규모의 수주잔고를 가진 정말 흥미로운 새로운 네오클라우드 업체들이 대거 등장하는 것을 보게 될 겁니다."

다음은 GPU에 접근하는 다양한 방법과 각 방법이 합리적일 수 있는 이유를 정리한 것입니다.

**하이퍼스케일러**

많은 대기업이 아마존, 구글, 마이크로소프트의 다양한 클라우드 서비스에 연간 수천만 달러를 지출하고 있습니다. 2022년 ChatGPT 출시 이후 기업들은 생성형 AI 워크로드를 실행하기 위해 GPU를 찾아 하이퍼스케일러로 점점 더 많이 몰려들고 있습니다.

최상위 클라우드 사업자들은 평판 측면에서 강점이 있습니다. 소프트웨어 기업이 GPU와 기타 기능을 위해 아마존과 마이크로소프트에 의존한다면, 잠재 고객이 공급업체에 의문을 제기하는 상황을 걱정할 필요가 없습니다.

AI 어시스턴트 스타트업 Abacus의 빈두 레디 CEO는 마이크로소프트의 클라우드 인프라를 가리키며 이렇게 말했습니다. "기업 고객과 이야기할 때는 하위 처리업체가 반드시 Azure여야 합니다."

지난 1년간 선도적인 AI 연구소인 Anthropic과 OpenAI는 아마존과 마이크로소프트에 5,000억 달러가 넘는 지출을 약속했습니다. 업계 리서치 기관 가트너에 따르면, 이 두 기업은 2025년 클라우드 인프라 시장의 59%를 차지했습니다.

가트너의 애널리스트 하르디프 싱은 이렇게 말했습니다. "하이퍼스케일러는 10년 이상 쌓아온 풀스택 역량 덕분에 기업에 신뢰를 보여줄 수 있는 좋은 위치에 있습니다." 다만 하이퍼스케일러가 기업이 요구하는 만큼 충분한 GPU를 항상 보유하고 있는 것은 아니라고 덧붙였습니다.

아마존의 앤디 재시 CEO는 7월 애널리스트들에게 이 유통 공룡이자 클라우드 선구자가 올해 예상되는 수요를 모두 감당할 수는 없을 것이라고 말했습니다.

그는 "이러한 상황은 2027년에도 계속될 것으로 생각합니다"라고 말했습니다.

**주요 네오클라우드**

하이퍼스케일러가 충분했다면 네오클라우드가 이렇게 늘어나지 않았을 것입니다.

AI 에이전트가 주요 IT 환경과 독립적으로 작업하는 가상 샌드박스를 운영하는 스타트업 Modal은 하이퍼스케일러에서 실행되던 방식에서 주요 네오클라우드와 계약하는 방식으로 옮겨갔습니다. 현재 25개의 네오클라우드를 사용하고 있다고 에릭 번하즈슨 CEO는 말했습니다.

그는 "수백 개 또는 천 개 정도의 GPU는 구할 수 있지만, 우리 규모에서는 훨씬 더 많은 GPU가 필요했습니다"라고 말했습니다.

하이퍼스케일러들 자신도 네오클라우드를 쫓고 있습니다. 구글과 마이크로소프트는 서로 경쟁하면서도 코어위브를 활용하기 시작했습니다.

네덜란드에 본사를 두고 미국에서도 사업을 운영하는 네오클라우드 Nebius의 마크 보로디스키 최고매출책임자는 이렇게 말했습니다. "일부 하이퍼스케일러들은 고객을 제때 서비스할 역량이 없어 우려되는 고객들을 대신 맡아 달라고 우리에게 접근하고 있습니다."

영상 생성 스타트업 Reactor는 Nebius와 하이퍼스케일러를 통해 GPU를 사용하고 있습니다. 알베르토 타이우티 CEO는 사용자가 만든 영상이 즉시 나타나기를 원하기 때문에 데이터센터의 위치가 중요하다고 말했습니다. 타이우티에 따르면 Nebius는 Reactor가 필요로 하는 특정 GPU, 훌륭한 고객 서비스, 충분한 하드웨어와 소프트웨어를 합리적인 가격에 제공합니다.

가장 눈에 띄는 네오클라우드들은 선결제를 요구할 수 있으며, 공급업체가 계약을 기반으로 자금을 조달한 뒤 데이터센터 장비를 설치하기 때문에 칩이 가동되기까지 수개월이 걸릴 수도 있다고 번하즈슨은 설명했습니다.

CoreWeave의 에릭 골드버그 부사장은 하루 전에 통보받고 신규 고객에게 1만 개의 GPU를 넘기는 것은 어렵다고 말했습니다. 마이클 인트레이터 CEO는 8월 실적 발표에서 CoreWeave의 단기 가용 용량은 사실상 완전히 판매되었다고 밝혔습니다.

**신생 네오클라우드**

GPU를 즉시 확보해야 한다면 유명 브랜드 밖으로 눈을 돌려야 할 수도 있습니다. 일부 네오클라우드는 특정 국가를 대상으로 하기 때문에 대중에게 잘 알려져 있지 않지만, 특정 상황에서는 충분히 실용적일 수 있습니다.

Runpod의 천 루 CEO는 이렇게 말했습니다. "현재 용량은 빠듯하며, 저희 같은 기업에게 공급업체와의 관계는 가장 철저히 보호되는 비밀 중 하나입니다."

전문 네오클라우드는 선결제와 장기 약정을 요구하는 경우가 많은 대형 GPU 클라우드보다 더 큰 유연성을 제공할 수 있습니다. 일부는 이른바 베어메탈 GPU를 판매하는데, 이는 고객에게 더 많은 통제권을 주지만 기술 작업의 상당 부분을 고객이 직접 관리해야 한다는 뜻이기도 합니다.

이러한 소규모 네오클라우드를 이용하는 기업들은 같은 고민을 안고 있습니다. 언제 GPU를 확보할 수 있고, 어떤 가격에 확보할 수 있는가 하는 점입니다. Massed Compute의 공동 창업자이자 기술 총괄인 서니 스미스는 고객들이 가격 상승이 예상될 때 흔히 용량 약정을 기꺼이 맺는다고 말했습니다.

**자체 하드웨어 가져오기**

세계 최대 규모의 클라우드 사업자 중 하나인 오라클은 고객이 자체 GPU를 직접 가져오도록 허용하고 있습니다. 이 소프트웨어 기업은 아마존이나 마이크로소프트보다 부채가 많고 신용등급도 낮아, GPU에 대규모로 투자할 수 있는 여력이 제한적입니다. 그럼에도 불구하고 이 기술을 운영하는 것은 기꺼이 맡고 있습니다.

오라클의 힐러리 맥슨 CFO는 6월 실적 발표에서 애널리스트들에게 이렇게 말했습니다. "자체 하드웨어를 가져오는 방식의 경우 대체로 마진을 유지하거나 개선할 수 있기 때문에, 이런 구조의 투하자본수익률(ROIC)은 훨씬 더 높을 것입니다."

오라클은 이 방식을 선택한 기업의 이름을 공개하지 않았습니다. 오라클 주식 매수를 추천하는 Guggenheim Securities의 존 디파치 애널리스트는 GPU를 생산하는 상위 두 기업인 AMD와 엔비디아가 자사 제품을 오라클에 가져오는 것이 합리적일 것이라고 말했습니다.

수천 개의 GPU를 구매하는 대신, 자본이 제한된 초기 단계 스타트업은 클라우드를 통해 시간 단위로 저렴하게 빌려 쓸 수 있습니다. 대규모 컴퓨팅 수요가 있는 기업에게는 오라클의 새로운 방식이 데이터센터를 통째로 짓는 것보다 더 매력적일 수 있습니다. OpenAI는 5년간 오라클에 3,000억 달러가 넘는 지출을 약속했지만, 자체 GPU를 가져오겠다는 언급은 하지 않았습니다.

OpenAI는 논평을 거부했습니다.

이 방식은 AI 칩을 구매할 자본은 있지만 전력, 데이터센터 공간, 숙련된 인력이 충분하지 않은 기업에게 합리적일 수 있습니다. 오라클은 하이퍼스케일러 경쟁사들과 마찬가지로 이 세 가지를 충분한 규모로 확보하기 위해 공을 들이고 있습니다.

**전술적 거래**

또 다른 새로운 선택지는 GPU를 대규모로 임대할 수 있는 기업과 대형 계약을 맺는 것입니다.

SpaceX는 하이퍼스케일러 구글 및 오픈소스 스타트업 Reflection과 각각 별도의 계약을 맺고 여유 용량을 넘기기로 했습니다.

4월 SpaceX는 Cursor에 GPU를 제공하기로 합의한 뒤, 이 AI 코딩 스타트업을 600억 달러에 전액 인수했습니다. 5월에는 2029년 중반까지 Anthropic에 매달 12억 5,000만 달러에 GPU를 임대하는 계약을 따냈는데, 이는 대부분의 스타트업이 감당하기 어려운 금액입니다.

그러나 SpaceX에게는 계산이 맞아떨어집니다.

SpaceX의 재무 총괄 브렛 존슨은 8월 애널리스트들에게 "현재의 경제성으로 볼 때, 컴퓨팅을 위한 신규 자본 투입은 1년 미만에 회수됩니다"라고 말했습니다.

SpaceX만 이런 것은 아닙니다. CNBC는 7월 Meta가 AI 컴퓨팅 파워를 판매할 수 있는 클라우드 사업부를 만들기 위해 움직이고 있다고 보도했습니다.

**전통 방식으로 회귀**

한편, CEO들이 성능과 비용 통제 사이의 균형을 맞추려 노력하는 가운데, 기업들은 여전히 전통적인 방식대로 GPU가 장착된 서버를 자체 데이터센터에 설치하고 있습니다.