Nvidia 확장 가능한 AI 데이터센터 설계 블루프린트·참조 아키텍처 공개, AI factories 브랜딩
엔비디아(Nvidia Corp.)는 오늘 조직이 차세대 지능형 애플리케이션을 지원하기 위해 고급이고 미래지향적인 '인공지능(AI) 공장'을 계획하고 구축할 수 있도록 설계된 상세한 청사진인 일련의 엔터프라이즈 레퍼런스 아키텍처(Enterprise Reference Architectures)를 발표했습니다. 이러한 AI 공장은 "지능을 제조"하도록 설계된 고성능이고 보안이 강화된 데이터센터입니다. 조직들이 직면한 과제는 아직까지 AI 공장을 구축한 사례가 없다는 점이며, 대규모 언어 모델(Large Language Model) 기능과 소프트웨어 프레임워크의 발전 속도가 매우 빠르기 때문에 이러한 데이터센터를 구축하기 위한 모범 사례와 표준화된 접근 방식은 아직 초기 단계에 머물러 있어, 기업들이 자신감을 가지고 데이터센터 인프라에 투자하는 것이 어렵습니다.
엔비디아의 엔터프라이즈 레퍼런스 아키텍처는 AI 공장에 필요한 풀스택 하드웨어 및 소프트웨어에 대한 상세한 권장 사항을 제공하고, 가장 최적화된 서버, 클러스터 및 네트워크 구성과 같은 측면에 대한 가이드라인도 제시합니다. 엔비디아에 따르면, 엔터프라이즈 RA(Reference Architectures)를 사용하면 기업들은 다양한 서드파티 하드웨어 및 소프트웨어 컴포넌트와 상호 운용 가능하여 향후 쉽게 업그레이드할 수 있는 "비용 효율적인 가속화 인프라"를 구축하고 배포할 수 있습니다.
이 레퍼런스 아키텍처는 대부분의 AI 애플리케이션에서 핵심 역할을 수행하는 그래픽 처리 장치(GPU)를 탑재한 엔비디아 인증 서버에 대한 권장 사항과 함께, 엔비디아 스펙트럼-X(Spectrum-X) AI 이더넷 플랫폼과 회사의 블루필드-3(BlueField-3) 데이터 처리 장치(DPU)를 활용한 AI 최적화 네트워킹에 대한 지침을 제공합니다. 또한 이 청사진에는 AI 애플리케이션 구축 및 배포를 위한 엔비디아 네모(NeMo)와 엔비디아 NIM과 같은 마이크로서비스를 포함한 엔비디아 AI 엔터프라이즈 플랫폼과, 인프라 프로비저닝, 워크로드 관리 및 리소스 모니터링을 위한 도구를 제공하는 엔비디아 베이스 커맨드 매니저 에센셜(Base Command Manager Essentials)이 포함되어 있습니다. 이 레퍼런스 아키텍처는 델 테크놀로지스(Dell Technologies Inc.), 휴렛팩커드 엔터프라이즈(Hewlett-Packard Enterprise Co.), 슈퍼마이크로컴퓨터(Super Micro Computer Inc.), 레노버 그룹(Lenovo Group Ltd.) 등 서버 제조 파트너를 통해 기업들에게 제공되어, 기업들이 기반 서버 플랫폼을 선택하는 데 유연성을 부여합니다.
엔비디아 레퍼런스 아키텍처 사용의 주요 이점은 빠른 배포와 최대 성능입니다. 엔비디아의 엔터프라이즈 플랫폼 부문 부사장 겸 일반 관리자(Bob Petter)는 다음과 같이 언급했습니다. "엔터프라이즈 RA는 유연하고 비용 효율적인 가속화 인프라를 구축하기 위한 간소화된 접근 방식을 제공함으로써 AI 인프라 솔루션 배포에 소요되는 시간과 비용을 줄여줍니다." 또한 이 레퍼런스 아키텍처는 하드웨어 및 소프트웨어 분야의 새로운 혁신이 도입됨에 따라 미래지향적으로 유지되고 쉽게 업그레이드되도록 설계되었습니다. 콘stell레이션 리서치(Constellation Research Inc.)의 애널리스트 홀거 뮐러(Holger Mueller)는 대부분의 기업이 자체적으로 AI 인프라를 구축할 수 있는 필요한 기술과 경험을 갖추지 못하고 있으며, 엔비디아의 접근 방식이 이러한 격차를 해소한다고 지적했습니다. 뮐러는 "엔비디아는 거의 모든 생성형 AI 프로젝트가 성공하도록 하는 데 핵심적인 역할을 하며, 그 청사진은 조직이 온프레미스 AI 아키텍처를 구축하고 업그레이드하는 과정을 훨씬 더 쉽게 만들어줄 것입니다. 따라서 기업들이 엔비디아 칩을 사용하는 데 만족한다면(그리고 많은 기업들이 그러하듯), 이는 윈윈 시나리오가 됩니다. 기업은 자신의 AI 프로젝트를 더 빨리 가동할 수 있게 되고, 엔비디아는 또 다른 장기 고객을 확보하게 됩니다."