데이터센터 · 리포트

Argonne National Laboratory는 과학 연구 수요가 늘어남에 따라 AI 추론 인프라를 확충하고 있다.

정부 운영 추론 역량의 확충은 상업용 클라우드와 함께 공공 재원에 기반한 새로운 AI 컴퓨팅 수요원을 만들어 낸다.

업계 전문지Slicast · 2026년 11월 5일 16:54 UTC · 글로벌 · 출처: HPCwire

중요도 45

AI 모델을 학습하는 데 필요한 컴퓨팅 성능은 많은 관심을 받아 왔고, 그럴 만한 이유가 있다. 가장 큰 모델을 학습하려면 막대한 양의 하드웨어와 상당한 비용이 필요하다. 하지만 학습은 이야기의 일부일 뿐이다. 모델이 준비된 뒤에도 누군가가 사용할 때마다 컴퓨팅 자원이 필요하다. 이 단계를 추론(inference)이라 부르며, AI가 과학 연구 분야로 들어오면서 이 부분이 점점 더 중요한 고려 사항이 되고 있다.

과학자는 AI를 활용해 실험 데이터를 분석하거나 시뮬레이션을 준비할 수 있다. 이 작업 자체는 많은 컴퓨팅 성능을 요구하지 않을 수 있다. 그러나 AI 에이전트가 더 복잡한 작업을 맡기 시작하면서, 과정 중에 AI 모델을 수백 또는 수천 번 호출하는 경우도 생기고 있다. 이러한 요청 하나하나에 컴퓨팅 자원이 필요하며, 비용은 빠르게 늘어날 수 있다.

아르곤 국립연구소(Argonne National Laboratory)는 이 문제를 해결하기 위해 노력하고 있다. 연구소는 2026년 5월 Sophia 및 Metis 시스템을 기반으로 처음 출시된 ALCF 추론 서비스(ALCF Inference Service)를 대폭 확장한다고 발표했다. 이번 확장은 AI가 과학 연구 및 개발에서 훨씬 더 큰 역할을 하도록 하는 에너지부(Department of Energy)의 제네시스 미션(Genesis Mission)도 지원한다.

HPE 및 Nvidia와 공동 개발한 새로운 Tara 시스템은 ALCF 추론 서비스에 이용 가능한 컴퓨팅 자원을 크게 늘리며, 더 고급 AI 모델과 점점 더 다양해지는 과학 응용 분야를 지원한다.

아르곤의 전산 과학자 Murat Keçeli는 이 문제를 직접 경험했다. 그는 연구자들이 화학 시뮬레이션을 계획하고 실행하도록 AI 에이전트를 활용하는 ChemGraph 개발에 참여했다. 문제는 이러한 에이전트가 단일 작업을 수행하는 데도 AI 모델을 여러 번 호출할 수 있다는 점이다.

Keçeli는 이 에이전트들이 일반적인 챗봇 대화보다 훨씬 많은 토큰을 소비할 수 있으며, 그 때문에 상용 AI 모델의 사용 비용이 높아질 수 있다고 말한다. 아르곤의 추론 서비스를 통해 연구자들은 요청마다 상용 제공업체에 비용을 지불하지 않아도 되는 another 선택지를 갖게 된다.

"도구 호출은 빈번할 수 있고 대용량 입력과 출력을 수반할 수 있기 때문에, 토큰 소비량은 일반적인 대화 방식의 사용보다 훨씬 많아질 수 있으며 최첨단 AI 모델에서는 비용이 많이 듭니다," Keçeli가 말했다. "따라서 추론 서비스는 비용을 최소화하려는 에이전트형 AI 응용에 매우 유용합니다."

많은 연구팀은 값비싼 GPU를 구매하거나 AI 시스템을 관리할 인력을 고용할 여건이 되지 않는다. 자금과 기술 지원이 충분한 연구 기관조차 예산과 기술 인력은 제한적이다. 아르곤의 서비스는 이러한 부담의 일부를 덜어 주어, 연구자들이 모델을 어떻게 실행할지 알아내는 데 시간을 쓰기보다 실험과 시뮬레이션에서 AI를 활용하는 데 집중할 수 있게 한다.

늘어나는 수요에 대응하기 위해 아르곤은 상당한 컴퓨팅 성능을 추가하고 있다. 가장 큰 추가분은 HPE와 함께 Cray EX4000 아키텍처를 사용해 개발한 Tara다. Tara는 2,688개의 Nvidia GH200 Grace Hopper Superchip이 장착된 672개의 노드를 갖추고 있다. 아르곤에 따르면 Tara만으로도 이 서비스에 이전에 제공되던 GPU 메모리의 약 100배에 달하는 용량을 제공한다.

이 서비스에는 Minerva도 추가된다. Minerva는 8개의 노드와 64개의 Nvidia B200 GPU를 갖춘 훨씬 작은 시스템으로, 연구자들에게 AI 모델을 실행할 또 다른 플랫폼을 제공한다.

Nvidia만 하드웨어 공급에 참여한 것은 아니다. 아르곤은 SambaNova 기반 시스템인 Metis도 SambaRack 2대에서 6대로 확장해, SambaNova SN40L 프로세서 96개를 갖추게 했다. 이 프로세서는 처리량이 많고 지연 시간이 짧은 추론을 위해 설계되었다. 서로 다른 AI 모델은 컴퓨팅 요구 사항이 다르므로, 한 가지 모델에 잘 맞는 하드웨어가 다른 모델에는 최선의 선택이 아닐 수 있어 하드웨어 구성이 중요하다.

연구자들은 웹 인터페이스를 통하거나, OpenAI 호환 API를 통해 모델을 자체 응용 프로그램에 연결하는 두 가지 방식으로 서비스를 이용할 수 있다. 아르곤은 인증에 Globus를 사용하며, 추론 요청은 연합 컴퓨팅 클러스터 전반에 분산될 수 있다.

이 서비스는 아르곤 과학자에게만 제한되지 않는다. 오크리지, 로스앨러모스, 로렌스 리버모어, 브룩헤이븐 연구소 과학자를 포함해 다른 DOE 연구소의 연구자들도 접근을 요청할 수 있으며, 일부는 이미 이용한 바 있다.

하드웨어 외에도 이 서비스는 폭넓은 모델 선택지를 제공한다. Google의 Gemma, Meta의 Llama, 그리고 아르곤 자체 모델인 AuroraGPT를 포함해 50개 이상의 모델을 제공한다.

아르곤의 과학자들은 AI 추론을 활용해 실험 데이터를 분석하고, 핵융합 실험에서 플라스마 붕괴(plasma disruption)를 예측하는 데 도움을 받았다.

아르곤은 확장 이후 업데이트된 사용량 수치를 공개하지 않았으므로, 서비스에 얼마나 많은 수요가 몰리고 있는지, 또 연구자들이 자원을 기다려야 하는지는 불분명하다. AI 에이전트가 더 많은 과학 업무를 맡게 되면서 또 다른 질문이 떠오른다. 과학자들은 결과가 실제로 정확한지 어떻게 확인하는가? 이는 AI가 작업의 여러 단계에 관여할 때 특히 중요하다.

원문 보기