NVIDIA와 Microsoft는 엔터프라이즈 AI 및 클라우드 서비스를 위한 대규모 AI 슈퍼컴퓨터를 공동 구축하기로 파트너십을 발표했습니다.

Nvidia Corp.와 Microsoft Corp.는 Microsoft의 Azure 퍼블릭 클라우드 플랫폼에 구현될 인공지능 소프트웨어 실행에 최적화된 슈퍼컴퓨터 구축을 위한 파트너십을 발표했습니다. "AI 기술의 발전과 업계 도입이 가속화되고 있습니다"라고 Nvidia의 엔터프라이즈 컴퓨팅 부사장 Manuvir Das는 말했습니다. "Foundation 모델의 혁신이 대규모 연구 물결을 촉발했으며, 새로운 스타트업을 육성하고 새로운 기업 애플리케이션을 가능하게 했습니다. Microsoft와의 협업은 연구자와 기업들에게 최첨단 AI 인프라 및 소프트웨어를 제공하여 AI의 혁신적인 힘을 활용할 수 있도록 합니다."

Microsoft는 Azure에 수만 개의 Nvidia 그래픽 처리 장치(GPU)를 탑재할 예정입니다. GPU는 AI 및 과학 애플리케이션을 가속화하는 능력으로 슈퍼컴퓨터에서 널리 사용됩니다. 이 시스템은 GPU와 Quantum-2 시리즈 네트워크 스위치를 포함한 여러 Nvidia 기술을 함께 구성합니다. Azure는 이미 2020년 출시 당시 Nvidia의 플래그십 데이터센터 그래픽 카드였던 A100 칩으로 구동되는 여러 컴퓨팅 인스턴스를 포함하고 있지만, 이번 파트너십은 3월에 출시된 Nvidia의 현재 플래그십 데이터센터 GPU인 H100으로 구동되는 Azure 클라우드 인스턴스를 도입합니다. H100은 800억 개의 트랜지스터를 탑재하고 있으며 이전 세대 A100 그래픽 카드보다 최대 6배 빠르게 AI 모델을 학습시킬 수 있습니다. 또한 자연어 처리에 광범위하게 사용되는 고급 신경망인 Transformer 모델 실행에 최적화되어 있습니다. Quantum-2 InfiniBand 스위치 시리즈는 네트워크 포트당 초당 400기가비트의 트래픽을 처리할 수 있으며, 이는 Nvidia의 이전 세대 하드웨어의 2배입니다.

소프트웨어 최적화는 이번 협업의 주요 초점입니다. Microsoft와 Nvidia는 개발자들이 신경망의 인프라 요구 사항을 줄이는 데 사용하는 Microsoft의 오픈소스 DeepSpeed 도구킷을 H100 그래픽 카드에서 실행하도록 최적화할 것입니다. 최적화 작업은 H100에 내장된 Transformer Engine 기능을 통해 Transformer 신경망 아키텍처를 사용하는 AI 모델을 가속화하는 데 집중할 것입니다. Transformer Engine은 신경망이 계산을 완료하기 위해 처리해야 하는 데이터량을 줄임으로써 신경망을 가속화합니다. 기업들이 자신의 칩에서 AI 애플리케이션을 실행하도록 돕고 쇼핑 추천 생성과 같은 작업에 최적화된 사전 구성된 신경망을 포함하는 Nvidia의 소프트웨어 플랫폼인 Nvidia AI Enterprise도 Azure의 새로운 H100 기반 인스턴스에서 실행하도록 인증될 것입니다.

"NVIDIA와의 협업으로 Microsoft Azure의 모든 기업을 위해 최첨단 AI 기능을 제공하는 세계에서 가장 확장성 높은 슈퍼컴퓨터 플랫폼을 구현합니다"라고 Microsoft의 Cloud + AI 그룹 담당 부사장 Scott Guthrie는 말했습니다. Nvidia는 파트너십의 일환으로 Azure 사용을 확대할 것이며, 생성형 AI 분야의 연구 노력을 지원하기 위해 Azure 인스턴스를 활용할 것입니다. 이 칩메이커는 이 분야에 상당한 투자를 하고 있으며, 10월에 530억 개의 파라미터를 갖춘 생성형 AI 시스템 MT-NLG를 선보였습니다. 당시에는 이를 해당 카테고리에서 가장 강력한 것으로 평가했습니다.