National Compute Grid가 여러 제공자의 유휴 AI 컴퓨팅 용량을 통합하기 위해 출시되어, 활용도가 낮은 하드웨어 속에서의 명백한 GPU 부족에 대응합니다.

AI 컴퓨팅 부족과 더 강력한 칩, 더 큰 데이터 센터의 필요성에 대한 많은 논의에도 불구하고, 간과된 현실이 있습니다. 워크로드 사이에 상당한 양의 기존 용량이 유휴 상태로 있다는 것입니다. 기술 회사들이 거대한 새로운 시설을 건설하려고 경쟁하는 동안, 다른 데이터 센터의 비싼 GPU들은 사용되지 않고 있습니다.

National Compute Grid는 이를 바꾸려고 합니다. 이는 GPU 자원을 풀링하고 필요한 곳 어디서나 이를 사용 가능하게 하는 전국적인 회사 네트워크입니다. 계속해서 새로운 데이터 센터를 구축하거나 더 강력한 칩을 구매하는 것에서 벗어나는 전환입니다. 이미 배포된 컴퓨팅 자원을 더 잘 활용하려는 것이 핵심입니다.

데이터 센터와 클라우드 제공자는 Grid Exchange라는 소프트웨어 플랫폼을 통해 유휴 용량을 제공할 수 있으며, 이는 고객(AI 회사, 스타트업, 연구자 등)을 사용 가능한 자원에 매칭합니다. Grid는 하드웨어 요구 사항, 사용 가능한 용량, 가격을 고려하여 최적의 매칭을 찾습니다.

네트워크는 다양한 칩 아키텍처를 지원합니다: NVIDIA와 AMD의 GPU, Google의 TPU. 다만 서로 다른 하드웨어 유형 사이에 워크로드를 이동하면 소프트웨어 호환성 문제가 발생합니다. 규모는 이미 상당합니다: 조직자들은 약 760메가와트의 컴퓨팅 용량이 연결되었거나 파이프라인에 있으며, 2030년까지 2기가와트에 도달하는 것을 목표로 보고합니다. 단일 테넌트 데이터 센터는 평균적으로 컴퓨팅 용량의 15% 미만을 사용하여 일부 시설에서 상당한 유휴 전력을 시사합니다.

Grid는 특히 더 작은 AI 회사들에게 이점이 있습니다. 대규모의 장기 컴퓨팅 계약을 협상할 수 있는 OpenAI와 Anthropic과 달리, 더 작은 개발자들은 종종 그럴 수 없습니다. 로봇공학 회사 1X의 AI 담당자인 Sam Sinha는 Axios에 몇 주 또는 특정 프로젝트를 위해 다른 곳에서 추가 GPU에 액세스할 수 있다면 매우 귀중할 것이라고 말했습니다.

정부 기관, 학술 기관, 국가 연구소도 이득을 볼 수 있습니다. 연구 프로젝트는 때때로 기관의 컴퓨팅 용량을 초과하며, 기존 시스템에 대한 액세스가 항상 가능한 것은 아닙니다. Grid는 연구자들에게 필요한 용량을 제공하고 트럼프 대통령의 Genesis Mission에 1억 달러의 컴퓨팅 크레딧을 기여할 수 있으며, 정부 슈퍼컴퓨터와 전용 클라우드 계약의 대안으로 AI 연구를 지원합니다.

이 이니셔티브는 AI 지주 회사 Amp의 Anjney Midha가 주도하고 있으며, Vultr을 확인된 설립 멤버로 포함합니다. National Compute Labs가 그리드와 교환 플랫폼을 개발 중이며, 다른 AI 회사, 인프라 운영자, 투자자가 참여하고 있으나, 전체 회원 목록은 아직 공개되지 않았습니다.

컨소시엄은 "goodput"이라는 독특한 가격 책정 방식을 사용합니다. 고객은 원시 GPU 시간이 아닌 완료되고 중단되지 않은 컴퓨팅 작업에 대해 청구됩니다. National Compute는 약 50억 달러의 예약을 받았다고 보도되었으나, 이는 약정을 반영하며 실현된 수익이 아닙니다.

앞으로 도전 과제가 있습니다. 서로 다른 공급자의 GPU를 조립하는 것은 한 가지입니다. 이들이 요구 사항이 높은 AI 워크로드를 안정적으로 처리하도록 보장하는 것은 별개의 문제입니다. 대규모 AI 모델 훈련은 일반적으로 매우 빠른 네트워크로 연결된 수천 개의 GPU가 필요합니다. 여러 데이터 센터에 분산된 여유 GPU는 반드시 그러한 작업을 위해 함께 작동할 수 있는 것은 아닙니다. 시설 간에 대규모 데이터 세트를 이동하는 것도 비용이 많이 들고 시간이 많이 소요됩니다.

초기에는 Grid는 대규모 병렬 GPU 클러스터가 필요 없는 더 작은 훈련 실행, 추론, 연구 워크로드를 제공할 수 있습니다. 더 큰 작업을 안정적으로 지원할 수 있는지는 아직 증명되지 않았습니다.