Karman은 캐나다 몬트리올에 있는 NextGen 데이터센터에서 전력 오케스트레이션 파일럿을 완료했으며, NextGen의 유럽 사업장 전반으로 소프트웨어 도입을 확대할 예정이다.

Karman는 캐나다 몬트리올에 있는 NextGen Cloud의 데이터센터에 AI 기반 전력 오케스트레이션 소프트웨어를 배포했다고 밝혔다.

회사에 따르면, 이 소프트웨어를 통해 16대의 Nvidia B300 서버가 10대 서버에 할당된 전력 예산 내에서 작동할 수 있었다. 회사는 이로써 명판 기준 컴퓨팅 용량과 토큰 처리량이 60퍼센트 증가했으며, 추론 품질과 신뢰성은 그대로 유지되었다고 밝혔다. Karman은 지속적인 고전력 워크로드를 포함한 다양한 작업 부하에서도 이러한 성능이 유지되었다고 주장했다.

이번 파트너십은 3월에 처음 발표되었으며, 전력 공급이 제약된 환경에서 NextGen Cloud의 기존 데이터센터 설비 내 가용 AI 컴퓨팅 용량을 늘리는 것을 목표로 한다고 밝혔다. 이번 시연이 성공적으로 끝난 후, 양사는 이제 소프트웨어 도입 범위를 NextGen Cloud의 유럽 클라우드 사업으로 확대했다.

NextGen Cloud의 CEO 크리스 스타키(Chris Starkey)는 "AI 컴퓨팅 수요가 계속 가속화됨에 따라 효율성은 용량만큼이나 중요해지고 있습니다. Karman과 함께 달성한 결과는 추가 전력 할당 없이도 기존 인프라에서 훨씬 더 많은 컴퓨팅을 제공할 수 있음을 보여줍니다"라고 말했다.

그는 이어 "이를 통해 인프라 활용도를 높이고 배포 속도를 높이며, 궁극적으로 고객에게 더 큰 가치를 제공할 수 있는 매력적인 기회가 생겼습니다. 유럽 전역으로 파트너십을 확대하면서 이 성과를 바탕으로 더 발전시킬 수 있기를 기대합니다"라고 덧붙였다.

Karman의 플랫폼은 AI를 활용해 전력망 운영자와 데이터센터 기업에 실시간 가시성을 제공한다. 분산형 에너지 자원을 식별하고 관리하는 방식으로 작동하며, 회사는 이를 통해 복원력이 높아지고 향후 인프라 투자의 필요성을 줄일 수 있다고 설명한다. 이 플랫폼은 스마트 미터와 연동할 수 있어 유틸리티 기업과 그 고객을 위한 AI 솔루션을 제공한다.

회사는 Edge AI 플랫폼인 Nvidia Jetson Orin Nano를 맞춤 제작한 버전으로 이 플랫폼을 개발했으며, 이는 다른 미터 기반 솔루션 대비 100배의 처리 성능을 제공한다고 주장한다. 이 플랫폼은 수백만 개의 엔드포인트에 연결되어 실시간 상황을 모니터링하고 대응하도록 조율할 수 있다.

Karman의 CEO 조시 브럼버거(Josh Brumberger)는 "오늘날 AI를 가장 빠르고 저렴하게 확장하는 방법은 이미 구축된 인프라에서 더 많은 컴퓨팅을 끌어내는 것입니다"라고 말했다.

그는 또한 "데이터센터는 거의 일어나지 않는 최악의 상황에 대비해 전력을 예비로 확보해 둡니다. Karman은 그렇게 묶여 있는 용량을 사용 가능한 컴퓨팅으로 전환합니다. 이러한 가치를 NextGen Cloud와 그 고객에게 전달하게 되어 기쁩니다"라고 덧붙였다.

Karman은 이달 초 기존 사명인 Utilidata에서 사명을 변경했다. 또한 이달 회사는 프랑스 산업 그룹 Legrand와 협력하여 Karman을 데이터센터 전력 분배 제품 라인에 통합했다.

회사는 6월에 플랫폼 확장을 위해 6,030만 달러 규모의 시리즈 C 투자를 유치했다. 이번 라운드는 Renown Capital Partners가 주도했으며, Quanta, Nvidia, 기존 투자자 Keyframe Capital이 참여했다.