TensorBay가 Nvidia Blackwell 컴퓨팅을 기반으로 한 1MW급 컨테이너형 AIPod를 출시했다.

TensorBay가 컨테이너형 AI 서비스를 출시했습니다. AIPods라는 이름의 이 1MW급 컨테이너 노드는 최대 64개의 Nvidia HGX B300 시스템을 지원할 수 있으며, 12주 만에 배치할 수 있습니다.

AIPods는 하드웨어와 분산형 프라이빗 추론 플랫폼을 결합하며, KV 인식 라우팅과 분리형 서빙을 포함한 Nvidia Dynamo 기반 추론 최적화 기능을 갖추고 있습니다.

이번 출시를 알리는 LinkedIn 게시물에서 TensorBay는 다음과 같이 밝혔습니다. "진정한 돌파구는 단순히 GPU를 컨테이너 안에 넣는 데 있는 것이 아닙니다. 지리적으로 분산된 AI 역량이 하나의 조율된 추론 플랫폼으로 작동하도록 만드는 데 있습니다.

"모든 것을 하나의 거대한 시설에 집중시키는 대신, 기업들은 역량을 사용자와 더 가까운 곳에 배치하고, 지역별로 확장하며, 모델과 데이터에 대한 통제권을 유지하고, 중앙집중식 제3자 추론 서비스 제공업체에 대한 의존도를 줄일 수 있습니다."

캘리포니아주 산호세에 본사를 둔 TensorBay는 미국, 브라질, 유럽, 아시아태평양의 Tier III 데이터센터에서 AI 인프라에 대한 접근을 제공하며, 현재 5개 거점을 운영하고 있습니다. 회사는 자사 거점 전체에서 24,000개 이상의 GPU가 가동 중이라고 주장합니다.

여러 기업이 컨테이너형 AI 솔루션을 제공하고 있습니다. 지난달 LG는 AI Box 제품을 출시했으며, ZTE도 소규모 AI 컨테이너 솔루션을 보유하고 있습니다.