分析指出ZeroGPU如何作为AI推理的去中心化市场运作,绕过传统的数据中心要求。
ZeroGPU 将自己定位为“AI 推理领域的优步(Uber)”,通过在闲置的边缘设备上运行开源权重的 AI 模型,而非建设传统数据中心。该公司不追求资本密集型的基础设施建设,而是向出借计算能力的设备所有者提供补偿。
每次向 ChatGPT 发送请求时,底层的计算资源都来自特定地点。对于大多数 AI 服务而言,这个地点是一个庞大的数据中心——一个装满服务器、消耗大量电力和水资源并产生显著噪音的设施。年轻的初创公司 ZeroGPU 正在通过彻底翻转计算模式来挑战这一范式。它不再扩大数据中心的规模,而是将 AI 推理分散到闲置的消费级设备上,并向其所有者提供经济奖励。
这种“优步”式的类比是刻意为之。正如 Airbnb 在不拥有房产的情况下运营住宿网络,或 Uber 在不拥有车辆的情况下管理交通一样,ZeroGPU 通过去中心化的“主机”网络提供服务。这些主机由日常硬件组成——包括游戏 PC、智能手机和智能电视——这些设备在一天中的大部分时间都处于未充分利用状态。ZeroGPU 利用这些休眠能力,通过其应用程序编程接口(API)处理路由而来的 AI 任务。
在使用 ChatGPT 时,推理能力直接由模型创建者 OpenAI 提供。ZeroGPU 颠覆了这种集中式结构。它将用户请求分解为加密数据包,分发到其网络中进行并行处理,然后重新组装最终输出。该公司表示,目前其推理服务分布在超过 100,000 个边缘设备上,声称与传统 GPU 云提供商相比,推理速度提高了多达 10 倍,成本降低了 50% 至 70%。
开源权重的 AI 模型可以免费下载,但大多数消费者缺乏执行这些模型所需的硬件。像 CoreWeave 和 Amazon Web Services 这样的传统基础设施提供商分配昂贵的资源来服务于这些模型,并通过令牌费用向客户收费。ZeroGPU 声称,通过在不建造或不拥有庞大新设施的情况下扩展推理容量,可以将大幅节省的成本直接传递给用户。
ZeroGPU 支持的模型目录包括著名的开源架构,如 OpenAI 的 gpt-oss-120b、阿里巴巴的 qwen3-30b-a3b-fp8、Z.ai 的 glm-5.2、DeepSeek 的 deepseek-v4-flash 以及微软的 deberta-v3-small,以及其他变体。这些模型涵盖了从轻量级文本分类模型到大型混合专家系统,其运营成本仅为前沿专有模型的一小部分。
安全始终是任何分布式计算框架的主要关注点。当数据在未受控的硬件上处理时,隐私保障变得至关重要。ZeroGPU 创始人兼首席执行官 Maddy Arvapally 将该平台描述为一个混合推理云,它将专用云基础设施与分布式边缘节点相结合。边缘网络作为突发计算能力,利用专有的编排软件在集中式云环境和去中心化边缘环境之间动态路由工作负载。
Arvapally 通过电子邮件表示:“对于企业工作负载,安全和数据控制是架构的核心。”“所有推理流量在传输过程中均经过加密。客户数据保持私密,不会用于训练我们的模型。我们可以控制哪些工作负载适合在边缘运行,而哪些完全保留在专用云基础设施内。敏感或受监管的工作负载可以限制在批准的基础设施上,而不是分布在设备上。”她补充说,该平台在客户之间隔离模型和工作负载,在 API 层进行身份验证和访问控制,并设计为企业能够“保持对其提示词、输入、输出和数据的拥有权和控制权”。
除了经济效益外,分布式模式还解决了社区对新数据中心日益增长的抵制情绪。在美国和全球范围内,尽管数据中心创造了就业机会,但市政当局仍在反对大规模设施。哈佛研究人员指出,数据中心推高了当地的公用事业成本,需要大量用水,并产生噪音污染。《消费者报告》记录了数据中心密集地区的电价在五年内上涨超过 250%,而研究机构 Data Center Watch 报告称,基层抵制已阻止或推迟了数十亿美元的开发项目。
ZeroGPU 辩称,其去中心化方法完全规避了这些冲突。“与其给社区带来更高的公用事业负担,ZeroGPU 则恰恰相反。它为任何向其平台提供计算能力的人支付报酬,”该公司表示。安装 ZeroGPU 应用程序的用户可以将原本闲置的处理时间货币化。根据连接的硬件和活动水平,该公司估计收入可能足以覆盖每月的杂货开支加上可支配收入,从而有效地让个人电脑、智能电视或 PlayStation 游戏机被动产生收益。
归根结底,ZeroGPU 的架构标志着 AI 计算分布更广泛的结构转型。物理处理能力正从少数几个有争议的超大规模园区转移到数百万现有的消费级设备上。虽然企业在分布式边缘处理敏感工作负载的采用情况仍不确定,但 ZeroGPU 的混合设计正是对此的直接回应。当前的价值主张简单明了:在现有硬件上运行 AI,补偿设备所有者,并在不建设额外数据中心的情况下扩展计算能力。