Nvidia의 Vera Rubin 아키텍처는 이전 세대 대비 3.7배 성능 향상을 제공하지만, 가격 책정과 가용성은 여전히 미해결이다.

Nvidia의 Vera Rubin NVL72가 처음으로 중요한 독립적 벤치마크 결과를 발표했으며, MLPerf Inference v6.1 테스트에서 Qwen3-VL 벤치마크에 대해 Nvidia의 GB300 NVL72 대비 최대 3.7배의 처리량을 보여주었습니다. DeepSeek-R1의 경우 개선율이 2.5배에 도달했습니다. Nvidia는 공식 MLPerf 발표를 통해 결과를 상세히 설명했으며, Vera Rubin의 제출을 광범위한 배포 이전의 미리보기 제출로 설명했습니다. 이러한 구분이 중요합니다: 3.7배 수치는 특정 워크로드에서 측정된 최고의 개선도를 나타내며, 모든 AI 애플리케이션이 갑자기 3.7배 더 빠르게 실행될 것이라는 주장이 아닙니다.

벤치마크는 기반이 되는 경제학이 얼마나 빠르게 변화하고 있는지를 보여주었습니다. Nvidia는 288개의 GPU를 포함한 4개의 GB300 NVL72 랙이 99% 스케일링 효율을 달성했다고 보고했습니다. 소프트웨어 개선만으로도 이전 MLPerf 라운드 대비 최대 1.6배의 성능 향상을 달성했습니다. AMD는 Instinct MI355X와 MI350 시리즈 가속기를 포함한 제출물로 다른 방향에서 경쟁하고 있으며, Crusoe가 운영하는 512개 GPU 시스템은 MLPerf 역사상 제출된 최고의 총 토큰 처리량을 기록했습니다.

결과적으로 비정상적으로 빠른 교체 사이클이 나타났습니다. AI 클라우드 운영자들은 더 이상 단순히 GPU를 추가하지 않으며, 기존 클러스터가 랙당 및 메가와트당 훨씬 더 많은 토큰을 생성할 수 있는 최신 시스템과 비교하여 경쟁력을 유지하는지를 반복적으로 결정하고 있습니다.

이러한 역학 관계는 업계 전반에 걸쳐 자금 조달 문제를 야기했습니다. CoreWeave는 최근 전환사채 공모를 30억 달러에서 37억 달러로 확대했으며, 이는 GPU 확장이 얼마나 빠르게 재무제표 압박으로 나타나는지를 보여줍니다. Nebius도 수십억 달러의 자금 조달에 의존하고 있습니다. 더 광범위한 AI 인프라 붐은 점점 더 부채로 자금을 조달하고 있으며, 채권 투자자들이 주목하고 있습니다. Reuters는 이번 주 투자자들이 해당 분야의 추가 자본 필요량을 의문시하면서 AI 관련 차용자들이 점점 더 높은 스프레드를 지불하고 있다고 보도했습니다.

Nvidia는 더 큰 처리량이 토큰당 비용을 낮출 수 있으며, 따라서 최신 하드웨어가 더 나은 경제성을 통해 궁극적으로 투자를 정당화할 수 있다고 주장합니다. 그러나 Nvidia는 투자자들이 3.7배 벤치마크 이득을 인수 비용과 직접 비교할 수 있도록 하는 단순한 랙 가격을 공개적으로 제공하지 않았습니다.