EV charging company Xeal plans to deploy 100,000 Nvidia GPUs in pods at roadside charging sites across the U.S., creating a distributed edge inference network.

전기차 충전 회사 Xeal은 기존 미국 네트워크를 활용하여 "유휴 전기차 충전 용량을 활용한 세계 최초의 엣지 추론 컴퓨팅 네트워크"라고 자신들이 설명하는 것을 배포할 계획입니다. 이 회사는 전국에 1,600개 이상의 충전소를 운영하며 200메가와트의 허가된, 설치된 전기 기반시설을 보유하고 있습니다. 이 회사의 전략은 각각 최대 48개의 NVIDIA Hopper 또는 Blackwell Ultra GPU를 수용할 수 있는 Latient Pods라는 맞춤형 인클로저를 통해 100,000개 이상의 NVIDIA GPU를 배포하는 데 중점을 두고 있습니다.

Xeal의 공동 창립자이자 최고경영자인 Nikhil Bharadwaj는 이 이니셔티브를 컴퓨팅 확장의 중요한 병목을 해결하는 것으로 설명했습니다. "Latient는 이미 허가되고 계통에 연결된 유휴 에너지 용량을 활용하여 초저지연으로 필요한 곳에 새로운 컴퓨팅을 가장 빠르게 온라인에 배치할 수 있는 방법이며, 물 공급이 필요하지 않습니다"라고 Bharadwaj는 말했습니다. 이 회사의 전기차 충전소들은 일반적으로 허가된 용량의 10% 미만에서 운영되며, 도시 지역에 걸쳐 있는 분산 네트워크를 통해 처리 능력을 제공할 수 있습니다. 이는 새로운 데이터 센터 개발의 가장 어려운 장애물 중 하나인 계통 연계를 우회합니다.

NVIDIA는 이 접근 방식을 지지했으며, NVIDIA 대표는 Latient Pods를 기존 기반시설을 더욱 효과적으로 활용하면서 저지연 추론을 사용자 가까이에 가져오는 혁신적인 방법으로 칭찬했습니다.

Latient Pods 자체는 내구성과 단순성을 위해 설계되었습니다. 이미지에서는 광대역 광섬유 캐비닛과 유사하게 표현되며, 각 포드는 독립적인 자체 냉각 시스템을 갖추고 있으며, 물 공급이 필요하지 않고, 65데시벨 이하로 작동합니다. 이는 세탁기와 비슷한 수준입니다. 장비는 NEMA 4 실외용 인클로저에 담겨 오며, 몇 시간 내에 설치 및 운영이 가능하며, 물 공급이 필요하지 않습니다. 전력 비용은 세입자 통과 요금으로 처리되며, 부지 소유자는 고정 임대료 또는 부대 수익을 받으며, 포드당 최대 100만 달러의 부동산 가치 상승 가능성이 있습니다.

1,600개 이상의 기존 충전소와 각 포드에 최대 48개의 GPU를 고려하면, Xeal의 100,000개 이상 GPU 목표는 일부 부지에 여러 포드를 배포하거나 부지 수를 약 2,100개 위치로 확장해야 함을 의미합니다. 도시 지역에 분포한 포드들은 Xeal이 "Metro Edge"라고 부르는 기능으로, 20밀리초 이하의 지연을 달성하며, 이는 원거리 데이터 센터에서 호스팅되는 추론에 비해 상당한 개선입니다.

분산 GPU 네트워크는 전기차 산업의 초기 제안들을 반영합니다. 지난해 Elon Musk는 Tesla의 수백만 대 차량 보유량을 개발되지 않은 컴퓨팅 자산으로 활용할 것을 제안했으며, 이를 "차량이 유휴 상태일 때 사용 가능한 100기가와트의 추론"이라고 부렸습니다. Xeal의 접근 방식은 이 개념을 기존 충전 기반시설을 통해 구현합니다.

그러나 보안 측면에서는 주의가 필요합니다. 전기차 충전소는 이미 도난 대상이 되어 왔으며, 케이블 도난은 구리 스크랩 가치로 인해 주도되고 있습니다. 48개의 Blackwell GPU를 포함한 Latient Pod는 약 200만 달러의 하드웨어 가치를 나타내며 - 정교한 도난을 억제하기 위해 강력한 보호가 필요한 상당한 자산입니다.

Xeal은 올해 말까지 첫 번째 Latient Pod를 가동할 계획입니다.