New York University(NYU)는 뉴욕주의 학술 연구를 지원하기 위한 슈퍼컴퓨터 Torch의 도입을 발표했다.

뉴욕대학교(NYU)는 뉴욕주에서 가장 높은 성능을 갖춘 학술용 컴퓨팅 시스템이자 미국 고등교육기관 중 최상위권에 속하는 슈퍼컴퓨터 Torch를 도입했습니다. 이 시스템은 NYU 로고에서 이름을 따왔으며, 대학 연구 공동체의 컴퓨팅 역량을 확장합니다. Torch는 LINPACK 벤치마크에서 공식적으로 10.79 페타플롭스를 기록했으며, 이는 NYU의 이전 클러스터인 Greene보다 다섯 배 높은 수치입니다. 이러한 역량을 교내에 도입함으로써 NYU는 교수, 연구원, 학생들이 고성능 하드웨어를 더 폭넓게 이용할 수 있는 로컬 컴퓨팅 환경을 마련했습니다.

**고급 아키텍처를 통한 연구 가속화**

Torch는 데이터 집약적 작업과 다차원 시뮬레이션을 위해 설계되었으며, 병렬화된 하이브리드 아키텍처를 사용합니다. NYU는 HPE 및 NVIDIA와 협력하여 인프라를 구축하고 이를 대학의 연구 운영 규모에 맞게 확장했습니다.

주요 사양은 다음과 같습니다.

- **AI 엔진:** 핵심 작업은 HBM3e 메모리를 사용하는 500개 이상의 NVIDIA H200 Tensor Core GPU에서 실행됩니다. 이 GPU를 통해 NYU 연구자들은 대규모 언어 모델(LLM)을 학습시키고 딥러닝 작업을 수행할 수 있습니다.

- **시스템 통합:** HPE는 학술 및 기업용 슈퍼컴퓨팅 분야의 경험을 바탕으로 HPE Cray XD670 클러스터를 설계, 통합, 배포하여 운영 처리량을 극대화했습니다.

이 하드웨어를 교내에 배치함으로써 NYU 연구팀은 이론적 모델을 과학적 결과로 전환하는 데 걸리는 시간을 단축할 수 있습니다.

**지속 가능한 혁신에 대한 집중**

Torch는 연산 속도와 환경적 고려 사이의 균형을 추구합니다. 초당 10경 회 이상의 연산을 처리할 수 있으며, 세계에서 에너지 효율이 가장 높은 슈퍼컴퓨터를 꼽는 Green500 목록에서 40위에 올랐습니다.

이 시스템은 부품 단위에서 열을 제거하는 액체 냉각 방식을 사용하며, 이를 통해 데이터센터의 전통적인 공조 시스템 의존도를 낮춥니다. 이러한 에너지 특성은 2040년까지 탄소중립을 달성하겠다는 NYU의 기관 목표를 뒷받침합니다.

NYU 지도부는 Torch가 학술 컴퓨팅 성능과 에너지 효율의 균형을 이룬다고 밝혔습니다. 대학 관계자들은 이 시스템이 인공지능, 기후 모델링, 생명과학 연구를 지원하고, Global AI Frontier Lab과 같은 국제 협력에도 기여할 것이라고 말했습니다.

**다섯 배 성능 향상의 맥락**

Torch의 전신인 Greene은 초당 약 4경 회의 연산을 제공했습니다. 이는 대학에 중요한 자산이었으며, 처음에는 Green500 목록에서 50위를 기록했습니다. 그러나 기계학습, 양자역학 시뮬레이션, 신경망 학습이 빠르게 성장하면서 업그레이드가 필요해졌습니다.

Greene은 332개의 NVIDIA GPU 배열을 사용했습니다. 이 구성은 일반적인 고성능 컴퓨팅에 적합했지만, 수천억 개의 매개변수를 가진 최신 대규모 언어 모델을 실행할 때는 운영상 한계에 부딪혔습니다.

Torch는 이러한 기준을 바꿉니다. NVIDIA H200 Tensor Core GPU는 이전에는 교내에서 불가능했던 속도로 행렬 곱셈을 처리합니다. 고처리량 호스트 처리 아키텍처는 데이터 전달 지연을 방지하여 GPU의 실행 파이프라인에 데이터가 끊임없이 공급되도록 합니다. 전반적으로 Torch는 Greene 클러스터에서 몇 주가 걸리던 작업을 훨씬 짧은 시간에 완료할 수 있습니다.

**연구 파이프라인의 병목 제거**

결과를 얻기까지의 시간은 학술 컴퓨팅에서 중요한 지표입니다. 자체 인프라가 없는 대학들은 국가 연구소에 컴퓨팅 시간을 신청하거나 공공 클라우드 제공업체에 의존해야 했습니다. 클라우드 대안은 반복적인 운영 비용, 데이터 송신 수수료, 기관 연구 보조금을 복잡하게 만드는 개인정보 제약을 수반할 수 있습니다.

교내 인프라를 통해 NYU 학과들은 모델을 현지에서 테스트하고, 네트워크 구성을 즉시 디버깅하며, 대기열 없이 연속적인 실행 주기를 수행할 수 있습니다. 이는 다음 분야에 도움이 됩니다.

- **인공지능 및 체화된 지능:** 실제 로봇공학 응용을 위해 트랜스포머와 컴퓨터 비전 시스템을 학습시킵니다.

- **기후 모델링:** 국지적 기상 패턴, 해양 열 분포, 장기적인 탄소 변동을 세밀한 규모로 시뮬레이션합니다.

- **생명과학:** 알츠하이머병 연구를 위해 단백질 접힘 계산, 유전자 서열 분석, 분자 동역학 모델링을 가속화합니다.

**지속 가능한 인프라를 위한 공학 설계**

최상위 AI 하드웨어를 수용하는 데이터센터에서 에너지 소비는 핵심 과제입니다. NVIDIA H200 GPU는 많은 전력을 필요로 하고 상당한 열을 발생시킵니다. 환경 공학에 변화가 없다면 이 규모의 클러스터에는 전력 소모가 큰 대형 전통적 공조 시스템이 필요했을 것입니다.

Torch는 환경 설계를 통해 이 문제를 해결합니다. 액체 냉각 시스템은 냉각수를 프로세서와 메모리 부품에 직접 공급합니다. 이는 공기 기반 시스템보다 효율적으로 열을 제거하며, 시설의 전체 전력 사용 효율(PUE) 비율을 낮춥니다.

이러한 효율 덕분에 Torch는 세계 Green500 지수에서 40위에 올랐습니다. 이번 도입은 NYU의 환경 발자국을 줄이려는 노력을 뒷받침하며, 학술 연구 역량이 탄소중립 목표에 부합하면서도 확장될 수 있음을 보여줍니다.

**장기적인 기관적 영향**

Torch는 NYU를 계산과학의 중심지로 자리매김하도록 설계되었습니다. 고등교육에서 컴퓨팅 자원에 대한 접근성은 대학이 교수, 박사후 연구원, 대학원생을 유치하는 데 도움이 됩니다.

대학은 또한 Torch를 학사 과정에 통합할 계획입니다. 데이터 과학, 물리학, 공학, 디지털 인문학 분야의 대학원생과 학부생은 고성능 컴퓨팅 클러스터에 대한 직접적인 교육을 받게 됩니다. 이를 통해 학생들은 세계 연구소와 첨단 기술 기업에서 사용하는 것과 유사한 하드웨어 구성을 직접 경험할 수 있습니다.

국제 전략의 일환으로 Torch는 Global AI Frontier 이니셔티브의 기반 컴퓨팅 엔진 역할을 합니다. 이 이니셔티브는 NYU의 캠퍼스와 글로벌 파트너를 연결하여 세계적 과제에 대한 다기관 연구를 지원합니다. NYU는 Torch가 가동됨에 따라 향후 10년간 데이터 과학 발전을 뒷받침하는 데 필요한 기술 인프라를 갖추게 되었다고 밝혔습니다.