DeepInfra는 토론토에 첫 국제 데이터센터를 개설했으며 1,000개 이상의 NVIDIA Blackwell B300 GPU를 탑재하여 급증하는 수요를 충족하기 위해

고처리량 AI 추론을 위해 특화된 클라우드 플랫폼 DeepInfra는 2026년 7월 8일 토론토에 새로운 데이터 센터를 개설했다고 발표했다. 용량 1.7MW 규모의 이 시설은 동사의 아홉 번째 데이터 센터이자 미국 외 첫 해외 진출 사례다.

발표문에 인용된 McKinsey & Company의 연구에 따르면, AI 추론은 2030년까지 전체 데이터 센터 수요의 40% 이상을 차지할 것으로 전망되며, 연평균 성장률(CAGR)은 약 35%로 예상된다. 이러한 변화는 실시간 애플리케이션, 에이전트 시스템(Agentic systems), 대용량 API 트래픽에 힘입어 기업들이 모델 학습에서 프로덕션 규모 배포로 전환하고 있음을 반영한다. 이로 인해 GPU 가용성에 압박이 가해지면서, 낮은 지연 시간 추론에 최적화된 분산형 고밀도 컴퓨팅 클러스터에 대한 필요성이 가속화되고 있다.

토론토 시설에는 1,000개 이상의 NVIDIA Blackwell B300 GPU가 설치되어 DeepInfra의 글로벌 추론 능력을 크게 확장하고, 북미 및 국제 시장에서 낮은 지연 시간과 비용 효율적인 AI 추론 서비스를 제공할 수 있는 역량을 강화할 예정이다. 공동 창업자 겸 CEO인 Nikola Borisov는 "기업들은 전례 없는 속도로 실험 단계에서 프로덕션 단계로 이동하고 있으며, 이러한 변화는 확장 가능하고 전 세계적으로 분산된 인프라를 요구합니다. 이번 토론토 클러스터 구축은 미국의 역량을 넘어 우리의 수용 능력을 확대하고, 고객이 사용자와 데이터가 위치한 곳에 더 가까이 AI 워크로드를 실행할 수 있도록 보장하는 데 중요한 초석이 될 것입니다"라고 밝혔다.

이번 토론토 증설은 DeepInfra가 조달한 1억 7천만 달러 규모의 시리즈 B 투자 라운드 이후 이루어진 것이며, GPU 집약적 워크로드에 대한 수요가 지속적으로 증가함에 따라 전략적으로 입지한 지역 전반으로 추론 역량을 확장하려는 동사의 지속 가능한 전략의 일환이다. 또한 추가적인 해외 증설도 검토 중이다. 2022년에 설립된 DeepInfra는 자체 GPU 인프라를 운영하며, 200개 이상의 오픈소스 모델을 지원하고 매주 거의 5조 개의 토큰을 처리하고 있다.