컴퓨트·클라우드 · 리포트

E2E Networks가 인도의 Sovereign AI Factory에서 종량제 토큰 방식의 AI 추론 서비스 Blaze를 출시했다.

인도의 국산 컴퓨팅 스택에 종량제 추론 서비스가 추가되었으며, 이를 통해 현지 개발자들은 가속기 자원을 더 낮은 약정 부담으로 이용할 수 있게 되었다.

업계 전문지Slicast · 2026년 11월 3일 16:33 UTC · 미국 · 출처: CXOToday.com

중요도 50

NVIDIA DSX OS 기반으로 구축된 Blaze는 인도 내 NVIDIA GPU 인프라를 바탕으로, 인도의 AI 개발자들이 단일 API를 통해 주요 오픈 모델에 접근할 수 있도록 합니다.

E2E Networks Ltd.는 오늘 오픈 AI 모델을 위한 토큰당 과금 추론 서비스인 Blaze를 공식 출시했습니다. Blaze는 개발자와 기업에게 주요 오픈 모델로 연결되는 단일 OpenAI 호환 엔드포인트를 제공합니다. NVIDIA GPU 인프라와 NVIDIA DSX OS의 오픈소스 구성 요소를 기반으로 하는 Blaze는 E2E의 인도 내 AI 팩토리 역량을 실서비스용 추론 서비스로 전환하며, 모델 호스팅과 확장은 E2E가 관리합니다. 고객은 사용한 토큰에 대해서만 비용을 지불합니다.

인도의 AI 기업들은 파일럿 단계에서 실서비스 단계로 옮겨가고 있으며, AI 에이전트가 토큰 사용량을 늘리면서 추론 비용과 지연 시간이 제품의 사업성을 좌우하는 핵심 요소가 되고 있습니다. 데이터 주권과 컴퓨팅 자원을 인도 내에 유지하는 것도 주요 우선순위입니다. 아울러 AI 지원 개발 비용이 늘어나면서 CIO들은 토큰 효율성을 높여야 한다는 압박을 받고 있습니다.

E2E Networks의 창립자 겸 대표이사인 Tarun Dua는 "Blaze는 실서비스 추론을 실행할 수 있는 곳입니다."라며 "프런티어급 오픈 웨이트 모델을 NVIDIA 참조 설계 클러스터를 갖춘 NVIDIA Cloud Partner(NCP)에서 소버린 컴퓨트로 실행하려는 고객 수요가 있습니다. Blaze는 인도의 E2E Cloud에서 이를 제공합니다. 또한 Blaze는 E2E Cloud 플랫폼의 모든 서비스와 손쉽게 통합됩니다."라고 말했습니다.

**지금의 AI 활용 방식에 맞춘 설계**

Blaze는 지연 시간과 토큰당 비용이 가장 중요한 추론 집약적 제품을 위해 설계되었으며, 음성, 코딩 에이전트, 문서 AI 및 OCR, 이미지 및 영상 생성, 언어 애플리케이션 등이 여기에 해당합니다.

지연에 민감한 음성 및 채팅 애플리케이션을 위해 Blaze는 첫 문장이 나오기까지의 시간을 단축하며, 오픈 웨이트 모델은 높은 KV 캐시 재사용률의 이점을 누려 추론 비용을 낮춥니다.

**NVIDIA DSX OS로 AI 팩토리 역량을 실서비스로 전환**

Blaze는 NVIDIA DSX AI Factory Platform 내의 개방형 모듈식 소프트웨어 계층인 NVIDIA DSX OS의 오픈소스 구성 요소를 통합합니다. NVIDIA Dynamo는 KV 캐시 인지 라우팅, 분리된 prefill 및 decode, NVIDIA NIXL을 통한 GPU 간 고속 데이터 전송 기능으로 분산 모델 서빙을 제공합니다. NVIDIA Grove와 KAI Scheduler는 E2E의 Kubernetes 플릿 전반에서 추론 워크로드를 조율합니다. NVIDIA BlueField DPU, NVIDIA DOCA, NVIDIA Infra Controller는 고객 간 하드웨어 수준의 격리를 적용하며, 이는 엄격한 데이터 규정을 따르는 은행, 의료기관, 공공 부문 기관에게 중요합니다.

NVIDIA의 南아시아 담당 상무이사 Vishal Dhupar는 "AI 컴퓨팅과 추론 서비스에 대한 접근은 인도 AI 생태계를 발전시키는 데 필수적입니다."라며 "NVIDIA의 가속 컴퓨팅 플랫폼은 E2E Networks와 같은 클라우드 제공업체가 인도의 개발자와 기업에게 AI를 더 쉽게 제공할 수 있는 기반이 됩니다."라고 말했습니다.

**학습에서 토큰까지 하나의 플랫폼**

Blaze와 E2E의 AI 플랫폼인 TIR은 고객이 AI 워크로드를 확장할 수 있는 유연한 경로를 제공합니다. Blaze는 최적화된 성능과 원활한 확장을 갖춘, 오픈 웨이트 모델을 위한 API 기반의 토큰 효율적 추론을 제공합니다. TIR은 관리형 Kubernetes를 통해 고성능 NVIDIA Blackwell GPU 클러스터에서 자체 호스팅 추론과 모델 사전 학습 및 사후 학습을 가능하게 하여, 인프라와 모델 커스터마이징에 대한 더 큰 제어권을 제공합니다. 고객은 통합된 NVIDIA Dynamo가 탑재된 TIR의 관리형 Kubernetes에서 자체 모델 또는 파인튜닝된 모델을 서빙할 수 있습니다.

E2E의 AI 팩토리 역량은 약 14.6MW로 확대되고 있으며, 여기에는 2026년 5월부터 가동 중인 1,024개 GPU 규모의 NVIDIA Blackwell GPU 클러스터와 HGX B300 시스템 및 기타 Blackwell GPU를 포함한 추가 5.4MW의 Blackwell 역량이 포함됩니다.

원문 보기