NVIDIA가 AI 슈퍼컴퓨팅용 고성능 GPU인 H200 NVL을 출시했습니다.

Nvidia는 Atlanta의 SC24 고성능 컴퓨팅 컨퍼런스에서 최신 데이터 센터급 그래픽 처리 장치인 H200 NVL의 가용성을 발표했습니다. GPU는 저전력, 공기 냉각식 랙에서 실행되도록 설계된 Nvidia의 Hopper 계열 GPU의 최신 제품입니다. 회사에 따르면 엔터프라이즈 데이터 센터의 약 70%가 20,000킬로와트시 이하로 운영되어 공기 냉각이 가능하므로, PCIe GPU는 특수한 냉각 시스템이 필요하지 않기 때문에 유연성을 위해 필수적입니다. 새로운 GPU는 H100 NVL에 비해 1.5배의 메모리 효율성 증가 및 1.2배의 대역폭 증가를 제공하여, 기업이 몇 시간 내에 대규모 언어 모델을 미세 조정할 수 있으며, 배포 시 최대 1.7배 더 빠른 성능을 구현할 수 있도록 합니다.

University of Mexico는 과학 연구 및 학술 응용을 위해 Nvidia의 가속 컴퓨팅 기술을 도입했습니다. UNM Center for Advanced Research Computing의 이사인 Prof. Patrick Bridges는 "공립 연구 대학으로서, AI에 대한 우리의 약속은 대학이 과학 및 기술 발전의 최전선에 있을 수 있도록 합니다. H200 NVL로 전환하면서 우리는 데이터 과학 이니셔티브, 생물정보학 및 게놈 연구, 물리 및 천문학 시뮬레이션, 기후 모델링 등 다양한 응용을 가속화할 수 있을 것입니다"라고 말했습니다.

과학 연구에서 AI를 발전시키기 위해 Nvidia는 약물 발견 및 분자 설계를 지원하는 오픈소스 BioNeMo 프레임워크를 출시했습니다. Nvidia의 의료 담당 부사장인 Kimberly Powell은 "AI, 가속 컴퓨팅 및 확장되는 데이터셋의 수렴은 최근 화학 분야의 노벨상 수상으로 증명되듯이 제약 산업에 전례 없는 기회를 제공합니다"라고 말했습니다. 또한 Nvidia는 연구원들이 NIM 마이크로서비스를 통해 AI 모델을 최적화할 수 있도록 하는 ALCHEMI를 발표했습니다. ALCHEMI를 사용하면 연구원들은 실제 랩에서 구조를 구축할 필요 없이 시뮬레이션된 가상 AI 랩에서 화학 화합물 및 재료를 테스트할 수 있습니다. Nvidia에 따르면 마이크로서비스는 NIM 없이 테스트하는 것보다 재료 화학 테스트를 위한 사전 훈련된 모델을 사용하여 H100에서 100배 빠르게 실행할 수 있습니다. 예를 들어, 1,600만 개의 구조를 평가하는 데 몇 개월이 걸릴 수 있지만, 마이크로서비스를 사용하면 단 몇 시간이 걸릴 것입니다.

Nvidia는 날씨 및 기후 상태를 시뮬레이션하고 시각화하는 플랫폼인 Earth-2를 위한 두 개의 새로운 NIM 마이크로서비스를 발표했습니다. Bloomberg 보도에 따르면 자연재해는 2024년 상반기 동안 약 620억 달러의 보험 손실을 야기했으며, 이는 10년 평균보다 약 70% 높습니다. CorDiff NIM은 기상 예측을 위해 킬로미터 규모 해상도에서 생성형 AI를 사용하며, Weather Research and Forecasting 모델로 훈련되어 12배 높은 해상도에서 패턴을 생성합니다. CorDiff NIM은 중앙 처리 장치를 사용한 기존 예측보다 500배 빠르고 100,000배 더 에너지 효율적입니다. FourCastNet은 전 지구적 중기 저해상도 예측을 제공하며 기존 수치 날씨 모델보다 5,000배 더 빠른 예측을 제공할 수 있습니다.