电动车充电公司Xeal计划在美国各地充电站部署10万块英伟达GPU,建立分布式边缘推理网络。
电动汽车充电公司Xeal计划利用其现有美国网络部署其称之为"世界上首个利用闲置电动汽车充电容量的边缘推理计算网络"。该公司在全美运营超过1,600个地点,拥有200MW的许可、已安装的电力基础设施。其战略的核心是通过称为Latient Pods的定制外壳部署超过100,000个NVIDIA GPU,每个外壳最多可容纳48个NVIDIA Hopper或Blackwell Ultra GPU。
Xeal联合创始人兼首席执行官Nikhil Bharadwaj将该举措定位为解决计算扩展的关键瓶颈。"Latient是使新计算上线的最快方式,利用已获许可且并网但闲置的能源容量,位于超低延迟所需的位置,无需水连接要求,"Bharadwaj表示。该公司的电动汽车充电地点通常以许可容量的不到10%运营,可通过跨越城市地区的分布式网络提供处理能力——绕过电网互连,这是新数据中心开发最具挑战性的障碍之一。
NVIDIA已支持这种方法,公司代表称赞Latient Pods是一种创新方法,可将低延迟推理更贴近用户,同时更充分利用现有基础设施。
Latient Pods本身设计用于耐久性和简洁性。在图像中呈现为类似宽带光纤柜的外观,每个pod具有自包含的独立冷却,不需要水连接,运营噪音低于65分贝——相当于洗衣机的噪音。设备采用NEMA 4级户外额定外壳,可在数小时内安装并运行,无需水连接。电力成本作为租户转移费用支付,地点所有者获得固定租赁收入或附加收益,每个pod的潜在房产价值增长高达100万美元。
凭借1,600多个现有地点,每个pod最多包含48个GPU,Xeal超过100,000个GPU的目标意味着在某些地点部署多个pod或将其地点占地扩展至约2,100个地点。pod在城市地区的定位——Xeal称之为"Metro Edge"的功能——使延迟低于20毫秒,相比托管在远处数据中心的推理有了实质性改进。
分布式GPU网络呼应了电动汽车行业早期的建议。去年,Elon Musk提议利用特斯拉数百万辆车队作为未开发的计算资产,称其为车辆闲置时可用的"100吉瓦推理"。Xeal的方法则通过现有充电基础设施来传达这一概念。
然而,安全影响值得关注。电动汽车充电站已成为盗窃目标,电缆盗窃由铜废料价值驱动。包含48个Blackwell GPU的Latient Pod将代表约200万美元的硬件价值——一项需要强有力保护来阻止老练盗窃的重要资产。
Xeal计划在年底前让首个Latient Pod上线。