Nvidia는 자신의 플랫폼 기반 20,000개의 AI 스타트업을 보고했습니다.
Q1 2025 실적발표 콜에서 Nvidia CEO Jensen Huang은 생성형 AI가 산업 전반에 걸쳐 급격히 채택되고 있음을 강조하면서, "멀티미디어부터 디지털 캐릭터, 디자인, 애플리케이션 생산성, 디지털 생물학 등 다양한 분야에서 약 15,000개에서 20,000개의 스타트업"이 모두 Nvidia의 가속화 컴퓨팅 플랫폼을 활용하고 있다고 언급했다. 그는 이러한 물결이 정보 검색에서 지능형 출력 생성으로 이동하면서 "근본적인, 풀스택 컴퓨팅 플랫폼 전환"을 주도하고 있다고 강조했다. "컴퓨터는 이제 상황에 맞는 지능형 답변을 생성하고 있습니다"라고 Huang이 설명했다. "이는 전 세계의 컴퓨팅 스택을 변화시킬 것입니다. PC 컴퓨팅 스택도 혁신될 것입니다." 소비자 인터넷 회사, 기업, 클라우드 제공업체, 자동차 회사, 의료 기관의 수요는 "놀라울 정도로 높으며", 이들은 수천 개의 Nvidia GPU로 구축된 "AI 팩토리"에 투자하고 있다.
이러한 수요에 대응하기 위해 Nvidia는 Q1에 H100 "Hopper" 아키텍처 GPU 출하를 시작했으며, Hopper보다 4-30배 빠른 AI 학습 및 추론을 제공하는 차세대 "Blackwell" 플랫폼을 발표했고, 주요 컴퓨터 제조업체의 100개 이상의 Blackwell 시스템이 올해 출시될 예정이다. 하지만 Q1에 기록적인 260억 달러의 수익을 기록했음에도 불구하고, 고객 수요는 Nvidia의 공급 능력을 크게 초과하고 있다. "우리는 매일 시간과 경쟁하고 있습니다"라고 Huang이 이행 노력에 대해 말했다. 회사는 H200 및 Blackwell 플랫폼으로 전환하면서도 현재 H100 플래그십 GPU에 대한 수요가 한동안 공급을 초과할 것으로 예상한다. 이러한 긴급성은 경쟁 압력에서 비롯된 것으로, "다음 주요 단계에 도달하는 회사가 획기적인 AI를 발표할 수 있고, 그 다음 회사는 0.3% 더 나은 것을 발표할 수 있습니다"라고 Huang이 설명했다. "학습 시간이 매우 중요합니다. 학습 시간이 3개월 더 빨라지는 것이 결정적입니다." Huang은 이러한 공급 병목이 내년까지 계속될 것으로 예측하면서 "Blackwell의 수요가 공급을 크게 앞지르고 있으며 내년까지 수요가 공급을 초과할 것으로 예상합니다"라고 말했다.
이러한 수요를 주도하는 경제학은 클라우드 제공업체 및 기타 회사들에게 매력적이다. Huang은 "Nvidia AI 인프라에 지출되는 1달러당 클라우드 제공업체는 4년 동안 GPU 인스턴스 호스팅 수익에서 5달러를 벌 수 있는 기회가 있습니다"라고 말했다. 그는 구체적인 예를 제시했다: Nvidia의 최신 H200 GPU를 사용하는 700억 개 파라미터의 언어 모델은 초당 24,000개의 토큰을 생성할 수 있고 서버당 2,400명의 동시 사용자를 지원할 수 있으며, "현재 토큰당 가격으로 Nvidia H200 서버에 지출되는 1달러당 API 제공업체는 4년 동안 7달러의 수익을 창출할 수 있습니다"라는 의미이다. 이러한 경제학은 Nvidia의 지속적인 소프트웨어 최적화로 더욱 개선되고 있으며, 최근 분기에 개선 사항은 H100에서 3배 속도 향상을 제공했고, 고객에게 3배 비용 절감을 가능하게 했다. 이러한 강력한 투자 수익률은 Amazon, Google, Meta, Microsoft, Oracle 같은 클라우드 거인들의 수요를 촉발하고 있으며, 이들은 AI 용량을 공급하기 위해 경쟁하고 있다.
GPU를 넘어서 Nvidia는 데이터센터 네트워킹에서의 주요 위치를 활용하여 AI 플랫폼을 확장하고 있다. Infiniband이 네트워킹에서 강한 전년 대비 성장을 주도했지만, Huang은 Ethernet이 주요 새로운 기회를 나타낸다고 강조했다. Q1에 회사는 Ethernet 위에서 AI 워크로드에 최적화된 Spectrum-X 플랫폼 출하를 시작했다. "Spectrum-X는 Nvidia 네트워킹에 새로운 시장을 열고 Ethernet 전용 데이터센터가 대규모 AI를 수용할 수 있게 합니다"라고 Huang이 말했다. "우리는 Spectrum-X가 1년 내에 수십억 달러 규모의 제품 라인으로 급상승할 것으로 예상합니다." Huang은 Nvidia가 "Ethernet에 올인하고 있으며" Infiniband 및 NVLink 상호 연결을 보완할 Spectrum 스위치의 주요 로드맵을 제공할 것이며, 회사가 단일 노드 AI 시스템에서 대규모 클러스터까지 모든 것을 대상으로 할 수 있게 한다고 말했다. 회사는 또한 분기 중에 초당 51.2테라비트의 Spectrum-4 Ethernet 스위치 샘플링을 시작했다.