Xeal is developing edge AI inference datacenters powered by spare capacity at electric vehicle charging stations across parking lots.
Xeal은 유휴 전기차 충전 용량을 활용하기 위해 설계된 엣지 데이터센터 네트워크인 Laitent를 출시했습니다. 미국 전역 500개 도시에서 충전 인프라를 운영하는 이 회사는 플랫폼이 1,600개의 서로 다른 장소에서 승인되고 설치된 200MW 이상의 전기 인프라를 활용할 수 있다고 말합니다.
Xeal은 이러한 장소에서 AI 추론 작업 부하를 실행하기 위해 100,000개의 Nvidia GPU를 배포할 계획입니다. EV 충전소는 최대 에너지 충전 부하로 승인되지만 일반적으로 승인된 용량의 10% 미만으로 운영됩니다. Xeal에 따르면 이는 그 용량의 90%가 이론적으로 여유가 있고 GPU에 할당할 수 있다는 의미입니다.
Laitent Pod는 단일 GPU 슬라이스를 활성화하거나 도시 내 여러 설치 시설에 걸쳐 네트워크를 조율할 수 있는 동적 전력 오케스트레이션 소프트웨어를 사용합니다. 각 포드는 대략 한 개의 주차 공간 크기이며 최대 48개의 Hopper 또는 Blackwell GPU를 수용할 수 있습니다. 물 연결이 필요하지 않습니다.
"오늘 추론 컴퓨팅이 필요하고 새 데이터센터가 온라인으로 올 때까지 기다릴 수 없다면 Laitent는 귀사의 구현 시간을 수년에서 수개월로 단축할 수 있습니다"라고 Xeal의 공동 창립자이자 CEO인 Nikhil Bharadwaj가 말했습니다. "Laitent는 이미 승인되고 그리드에 연결된 유휴 에너지 용량을 활용하여 초저지연이 필요한 곳에 바로 위치하면서 물 연결 요구 사항이 없는 새로운 컴퓨팅을 온라인으로 가져오는 가장 빠른 방법입니다."
Xeal은 AI 인프라 오케스트레이션을 위해 Rafay Systems와, 광섬유 제공을 위해 Spectrum Business와, 포드 가동을 위해 JVM Realty와 협력했으며, 첫 번째 배포는 연말 전에 예상됩니다.
이 회사는 포드가 거의 또는 전혀 투자하지 않고도 주차장 소유자 자산의 가치에 100만 달러를 추가할 수 있다고 주장합니다.
이것이 주차장에 AI 컴퓨팅을 배치하는 첫 번째 시도는 아닙니다. AI 음악 플랫폼에서 데이터센터 회사로 전환한 Auddia는 3월에 의료 부동산 회사가 소유한 사이트의 주차장에 태양광 전원 GPU를 배포하려고 하며, 파일럿이 Dallas 지역에서 시작될 예정이라고 발표했습니다. 벨기에 스타트업 Tonomia는 작년에 영국 하드웨어 제공업체 Panchaea와 협력하여 주차장의 태양광 캐노피 시스템에 설치되는 eCloud라는 분산형 AI 플랫폼을 제공하고 있다고 발표했습니다.