Nvidia CEO는 Blackwell GPU 아키텍처가 2024년 Q4에 출시될 것을 확인했다.

Nvidia의 Jensen Huang CEO가 수요일 Goldman Sachs 테크 컨퍼런스에서 Blackwell GPU 아키텍처의 출시 지연과 AI 투자 수익률에 대한 투자자의 우려를 언급했습니다. 2024년 하반기 출시라는 초기 약속에도 불구하고, Huang은 회사의 2분기 실적 발표 중 마스크 변경이 필요한 제조 결함 때문에 배송이 달력 기준 Q4부터 시작될 것임을 확인했습니다. 지난 봄 Nvidia의 GTC 컨퍼런스에서 공개된 이 아키텍처는 2.5배에서 5배 높은 성능과 대체하는 H100급 기기의 메모리 용량 및 대역폭의 2배 이상을 약속합니다. Huang은 배송 지연과 주식 변동성을 부분적으로 강한 고객 수요로 돌렸습니다: "수요가 매우 커서 우리의 컴포넌트, 기술, 인프라 및 소프트웨어의 배송이 사람들에게 정말 중요합니다. 왜냐하면 그것이 그들의 수익과 경쟁력에 직접 영향을 미치기 때문입니다"라고 그는 설명했습니다. Huang에 따르면, Blackwell 부품에 대한 수요는 ChatGPT 등장 이전인 2022년에 출시된 이전 세대 Hopper 제품의 수요를 초과했습니다.

ROI 우려와 관련하여 Huang은 GPU 가속의 성능 이득이 인프라 비용을 훨씬 초과한다고 주장했습니다. 그는 "아마도 오늘날 세계에서 가장 많이 사용되는 데이터 처리 엔진"인 Spark를 사용하면 "20:1 속도 향상"을 달성할 수 있다고 주장했으며, 이는 인프라 비용이 2배가 높더라도 "10배 절감"으로 이어집니다. 생성형 AI와 관련하여 Huang은 이렇게 말했습니다: "그것의 투자 수익률은 환상적입니다. 왜냐하면 수요가 너무 많아서 [서비스 제공자]가 우리와 함께 쓰는 매 달러가 5달러 상당의 임대료로 변환되기 때문입니다." 그러나 그는 이 인프라 위에 구축된 애플리케이션과 서비스에 대한 ROI는 여전히 덜 확실하다고 인정했습니다.

AI 사용 사례를 다루면서 Huang은 자신의 회사가 배포한 맞춤형 AI 코드 어시스턴트를 강조했으며 "소프트웨어 엔지니어가 모든 코드 라인을 작성하던 시대는 완전히 끝났습니다"라고 주장했습니다. 또한 그는 생성형 AI의 컴퓨터 그래픽 응용을 언급했으며, Nvidia의 DLSS 기술을 설명했습니다: "우리는 1개의 픽셀을 계산하고 나머지 32개는 추론합니다." 그는 이러한 기술이 자율주행 자동차, 로봇공학, 디지털 생물학 및 기타 신흥 분야에 필수적일 것이라고 주장했습니다.

Huang은 더 현명한 데이터센터 설계가 비용을 낮추는 데 도움이 될 수 있다고 주장했습니다. 그는 SuperPOD라고 불리는 Nvidia의 모듈식 클러스터 설계가 대규모 컴퓨팅을 단일 시스템으로 압축할 수 있는 전체 데이터센터를 구현하기 때문에, Nvidia가 랙당 수백만 달러를 청구할 수 있다고 지적했습니다. 각 시스템이 "수천 개의 노드를 대체"하기 때문입니다. 그러나 그는 이러한 고밀도 시스템(랙당 최대 120킬로와트)을 기존 데이터센터에 설치하는 것이 비효율적이라고 경고했습니다. 대신 그는 광범위한 50, 100, 또는 200메가와트 데이터센터를 효율성을 위해 액체 냉각을 활용할 수 있는 소규모 시설로 압축할 것을 제안했습니다. Blackwell을 통해 Nvidia의 최상위 사양 부품은 액체 냉각되도록 설계되었으며, 이는 이 데이터센터 현대화를 주도할 수 있는 위치에 회사를 놓고 있습니다.