NVIDIA가 현재 GPU 아키텍처를 넘어선 차세대 AI 칩 기술 R&D에 $20 billion을 투자합니다.
크리스마스 이브, 엔비디아는 칩 스타트업 그로프(Groq)로부터 기술을 라이선스 받고 CEO 조나단 로스를 포함한 핵심 임원들을 영입하기 위해 200억 달러 규모의 거래를 발표했다. 로스는 이전에 구글에서 엔비디아의 AI 프로세서에 대한 주요 대안으로 자리 잡은 텐서 처리 장치(TPU) 개발을 돕기도 했다. 이 중요한 경쟁적 움직임은 캘리포니아 샌지애에서 열리는 엔비디아 연례 GPU 기술 컨퍼런스(GTC)에서 큰 주목을 받을 예정이다. 행사는 샌지애 맥이니리 컨벤션 센터에서 개최되며, 제슨 황(Jensen Huang) CEO의 기조연설은 인근 SAP 센터에서 진행된다. 엔비디아는 지난 2월 말 실적 발표 통화에서 "GTC에서 여러분과 공유하고 싶은 멋진 아이디어가 있다"고 밝히며, 그로프의 칩 기술을 엔비디아의 AI 컴퓨팅 생태계에 통합하겠다는 회사의 비전을 공개할 계획임을 시사했다. 'AI의 슈퍼볼'로 불릴 만큼 주목받는 이번 컨퍼런스에서는 차세대 베라 루빈(Vera Rubin) 시리즈 그래픽 처리 장치(GPU) 로드맵에 대한 업데이트도 포함될 예정이다.
엔비디아는 그로프의 기술을 활용하여 추론(inference), 즉 AI 모델의 일상적 사용을 목표로 하는 새로운 칩을 구축할 것으로 예상된다. 이는 성장세에 있고 경쟁이 치열해지는 시장 세그먼트다. 엔비디아의 GPU는 AI 모델이 실제 사용에 대비되는 학습(training) 단계에서 압도적인 우위를 점하고 있지만, AI 채택이 주류로 확산되고 고객들이 비용 효율적인 솔루션을 추구함에 따라 추론 시장은 더욱 혼잡해지고 있다. 이러한 경쟁 속에서도 엔비디아는 2024년 매출의 약 40%가 추론에서 발생했다고 밝혔으며, 재무 책임자 콜레트 크레스(Colette Kress)는 최근 업계 출판사 세미애널리시스(SemiAnalysis)가 "엔비디아를 추론의 왕으로 선언했다"고 지적하며, 현재 세대인 그레이스 블랙웰(Grace Blackwell) GPU가 전작 호퍼(Hopper) 대비 막대한 성능 개선을 제공한다고 강조했다. 작년 GTC에서 제슨 황은 "오늘날 세계 추론의 대부분이 엔비디아 위에서 이루어지고 있다"고 분석가들에게 말했다.
그러나 추론 시장은 몇몇 강력한 경쟁자들을 보유하고 있다. GPU 제조사 중 2위인 어드밴스드 마이크로 디바이시스(AMD)는 메타 플랫폼스(Meta Platforms)를 주요 파트너십 발표와 함께 신규 고객으로 확보했다. 브로드컴과 공동 설계하는 구글의 자체 텐서 처리 장치(TPU)는 학습과 추론 모두에서 formidable한 도전자로 부상했으며, TPU 기반 젬마(Gemini) 챗봇은 엔비디아의 최대 위협으로서 입지를 다졌다. 아마존은 자체 트레니엄(Trainium) 칩의 양쪽 작업 능력을 강조하고 있으며, 클로데(Claude) 모델을 개발한 AI 스타트업 앤트로픽(Anthropic)은 트레니엄을 TPUs 및 가을에 체결된 엔비디아와의 계약과 함께 사용하고 있다. 또한, 상장을 준비 중인 AI 스타트업 세라이버스(Cerebras)도 주목받고 있는데, 오라클(Oracle)의 공동 CEO 클레이 마구이르크(Clay Magouyrk)가 최근 실적 발표 통화에서 이 회사를 언급하기도 했다.
엔비디아는 분명히 추론 분야에서의 입지를 강화할 기회를 포착했고, 이에 따라 그로프에 200억 달러를 투자했다. 전체 인수 시 반독점 심의를 유발할 수 있었으나, 이번 거래는 독점적이지 않은 라이선싱 계약 형태로 구조화되어 그로프가 자체 전용 칩 기반 추론 클라우드 서비스를 계속 운영할 수 있도록 했다. 그로프의 창립자이자 전직 CEO였던 조나단 로스는 엔비디아의 수석 소프트웨어 아키텍트로 합류했다. 2016년 그로프를 설립하기 전, 로스는 최초의 TPU를 개발한 구글 팀의 일원이었다. 그로프는 언어 처리 장치(Language Processing Units, LPU)의 약자인 추론 특화형 LPU를 개발했다. 로스는 팟캐스트 인터뷰에서 일관되게 그로프가 학습 분야에서 엔비디아와 경쟁하려 하지 않았다고 밝혔다. 대신 스타트업은 추론 컴퓨팅 분야에서 혁신을 이루고 입지를 확립할 수 있는 영역을 식별했다고 설명했다.