NVIDIA는 H100 시스템을 독점 AI 소프트웨어와 함께 제공하는 통합 하드웨어-소프트웨어 제품 제공을 발표했습니다.
Nvidia는 곧 서버에 출시될 PCIe 기반 H100 GPU 모두와 함께 자사의 상용 AI Enterprise 소프트웨어 5년 라이선스를 번들로 제공할 계획이며, 이 전략은 차세대 H100 데이터센터 GPU 출시에 앞서 Supercomputing 2022 컨퍼런스에서 공개되었습니다. 회사는 H100이 A100 대비 상당한 성능 개선을 제공할 것이라고 약속했습니다. 이러한 번들링 이니셔티브는 실리콘 수익을 보완하는 수십억 달러 규모의 소프트웨어 사업을 구축하려는 Nvidia의 광범위한 야망의 일부입니다.
H100은 수많은 제조업체의 서버에서 사용 가능하게 될 것입니다. Dell은 Nvidia의 HGX 보드를 사용하여 8개의 H100 또는 A100 GPU와 2개의 4세대 Intel Xeon Scalable 프로세서를 공냉식 설계로 수용하는 XE9680을 포함한 새로운 PowerEdge 시스템을 제공할 것입니다. Supermicro는 8개의 H100을 장착한 새로운 8U Universal GPU 서버로 "지금까지 가장 첨단의 GPU 서버"를 출시하고 있으며, HPE의 Cray 슈퍼컴퓨터 부서는 XD6500으로 H100을 지원할 것입니다. H100 기반 서버를 계획하는 다른 공급업체에는 Asus, Atos, Gigabyte, Lenovo, Penguin Computing, QCT, 및 Ingrasys가 포함되며, 일부는 2023년 1분기에 출시될 것으로 예상됩니다.
Nvidia AI Enterprise는 PyTorch 및 TensorFlow와 같은 프레임워크와 Nvidia Inference Server 같은 제품을 포함한 AI 도구 번들로, VMware의 vSphere 또는 Red Hat의 OpenShift 플랫폼에서 컨테이너 또는 가상 머신으로 실행되도록 최적화되었습니다. 5년 구독 라이선스는 일반적으로 CPU 소켓당 $8,000입니다. 이 라이선스를 H100 PCIe GPU와 번들로 제공함으로써, 2개의 H100 PCIe 카드가 있는 듀얼 소켓 서버는 Nvidia AI Enterprise 라이선스가 완전히 포함되지만, H100 PCIe 카드보다 CPU 소켓이 많은 서버는 추가 구매가 필요합니다.
Nvidia는 여러 라이선싱 경로를 제공합니다. 구독 라이선스는 표준 지원 서비스를 포함하며, 중요 지원은 1년에 $450부터 시작하여 5년에 $2,250에 도달합니다. 영구 라이선스는 1년, 3년, 5년 지원 계획과 함께 제공되며, CPU 소켓당 $4,494에서 $80,90까지 범위입니다. Nvidia는 소프트웨어를 특히 H100의 PCIe 버전과 번들로 제공합니다. Nvidia의 DGX 시스템 및 HGX 마더보드에서 사용되는 SXM 폼 팩터와 달리, 이 폼 팩터는 주류 서버에 적합하기 때문입니다.
Nvidia의 데이터센터 제품 마케팅 책임자 Dion Harris에 따르면: "H100 플랫폼에 포함시킴으로써, 기본적으로 부가 가치로 제공되고, 고객이 프로덕션 환경에서 이를 배포하고 사용하도록 권장하려고 합니다. 따라서 이를 통해 우리가 고객을 지원할 것이라는 확신을 제공할 수 있습니다." 이 전략은 기업이 상용 소프트웨어의 가치를 인식하는 것에 달려 있으며, 무료 사용자가 결국 확대된 배포에 대해 비용을 지불할 것이라는 기대가 있습니다.