NVIDIA는 AI 추론 워크로드와 중국 시장으로의 공격적 확장을 주요 성장 기회로 전략적으로 우선순위를 정하고 있습니다.

NVIDIA의 데이터센터 사업은 현재 연간 약 $1.6B의 수익을 창출하고 있으며, 주로 Machine Learning 및 Artificial Intelligence 애플리케이션을 위한 심층 신경망 학습 수요에 의해 주도되고 있습니다. 이 사업의 대부분은 Amazon, Google, Facebook, IBM, Microsoft가 운영하는 미국 최대 데이터센터에서 비롯됩니다. NVIDIA는 연례 Beijing Graphics Technology Conference (GTC) 행사에서 추론 분야의 시장 점유율 확대 및 중국 AI 시장에서의 입지 강화를 목표로 하는 새로운 기술과 고객 이니셔티브를 발표했습니다. 추론(학습된 신경망이 표본 데이터를 예측하고 분류하는 단계)은 조직들이 연구개발에서 클라우드 및 엣지 환경 모두에서의 상용 배포로 전환됨에 따라, 결국 칩 단위 수량 측면에서 학습 시장을 초과할 것으로 예상됩니다.

NVIDIA CEO Jensen Huang은 NVIDIA GPUs에서 추론을 위해 학습된 신경망을 최적화하도록 설계된 TensorRT3 소프트웨어를 발표했습니다. TensorRT3는 모든 ML 프레임워크로 구축된 신경망을 NVIDIA의 데이터센터 및 엣지 디바이스 포트폴리오 전반에 배포하기 위해 패키징하며, "본질적으로 추론의 CUDA"로 기능합니다. 이 소프트웨어는 현재 중국 최대 인터넷 데이터센터인 Alibaba, Baidu, Tencent, JD.com에서 ML 워크로드를 위해 배포되고 있습니다. Huang은 회사의 역량을 보여주는 설득력 있는 성능 벤치마크를 제시했으며, 이전 V100 (Volta) 결과와 비교하여 새로운 NVIDIA 소프트웨어와 ResNet-50을 사용한 이미지 추론 처리의 성능이 약 20배 증가했음을 강조했습니다.

TensorRT3 발표에 보완되어, 중국 최대 클라우드 서비스 제공자인 Alibaba, Baidu, Tencent는 과학 및 딥러닝 애플리케이션을 위해 NVIDIA의 최신 Tesla V100 GPUs를 고객들에게 제공한다고 발표했습니다. 자신의 데이터센터에서 딥러닝을 배포하는 기업들의 경우, Huawei, Inspur, Lenovo는 Volta GPUs가 장착된 HGX 기반 서버를 전 세계 고객 기반에 판매할 것이라고 발표했습니다. NVLink 상호연결이 있는 8-GPU 섀시인 HGX 플랫폼은 높은 GPU 스케일링 밀도를 제공하도록 설계되었으며 Microsoft와 함께 설계되었고 Open Compute 프로그램을 통해 오픈소스 하드웨어 플랫폼으로 이용 가능합니다. 현재 HGX를 제공하는 유일한 글로벌 OEM인 Lenovo는 회사가 대규모 학습 워크로드를 위해 고밀도 GPU 서버를 추구함에 따라 특히 의미 있는 성과를 나타냅니다.

데이터센터 애플리케이션을 넘어, NVIDIA는 JD.com의 배송 자회사가 육상 및 항공 드론 배송 서비스를 안내하고 제어하기 위해 NVIDIA Jetson 플랫폼을 배포할 것이라고 발표했습니다. 중국의 혼잡한 도시 교통 인프라가 야기하는 문제의 해결책으로, JD.com은 2020년까지 약 1백만 개의 Jetson 장착 드론을 서비스에 배포할 계획입니다. Machine Learning이 연구에서 상용 배포로 전환됨에 따라, NVIDIA는 다양한 데이터센터 및 엣지 처리 요구사항 전반에서 CPUs, FPGAs, ASICs와 경쟁하기 위해 자신을 포지셔닝하고 있습니다. 발표된 고객 확보는 NVIDIA의 경쟁 위치를 보여주고 있습니다. 그러나 학습에서 NVIDIA가 지배력을 유지하는 것과 달리, 추론 데이터, 지연시간, 전력 요구사항의 다양성은 여러 실행 가능한 솔루션이 있는 경쟁 환경을 만들 것으로 예상됩니다.