谷歌开发Frozen v2 AI推理芯片，运行Gemini模型的效率比上一代提升10倍。

据报道，谷歌正在开发一款内部代号为"Frozen v2"的定制AI芯片，其运行Gemini模型的功效比最新的张量处理单元（TPU）高6至10倍。Frozen v2不是为了替代现有的TPU产品线，而是通过将Gemini架构的部分内容直接嵌入硬件中，预计将形成一类新的高度专业化的AI加速器。

该项目反映了谷歌随着Gemini驱动服务需求激增而日益关注AI基础设施优化。报道表明，该公司面临内部计算限制，这在某些情况下迫使谷歌云拒绝了外部AI基础设施交易。通过创建为Gemini量身定制的硬件，谷歌旨在大幅提高推理效率，同时降低能耗和运营成本。

与设计用于运行各种模型的通用AI加速器不同，Frozen v2专为Gemini系列设计。这种方法——处理器针对特定神经网络架构进行优化，而不是支持广泛的模型——类似于模型专用AI硬件概念。由于AI推理已成为大规模部署大型语言模型的公司最大的运营支出之一，将Gemini直接嵌入硬件可以消除冗余处理步骤，使芯片能够生成更多AI输出，同时消耗明显更少的电力。这将改善跨搜索、Workspace、Android、YouTube和谷歌云等产品服务数十亿次AI查询的经济效益。

谷歌预计将维持双芯片战略：可编程TPU用于训练未来的Gemini模型，专业化的Frozen芯片用于以更低成本部署成熟的生产模型。这项开发报道出现在谷歌面临AI基础设施需求快速增长之际。计算能力短缺造成了内部紧张局势，限制了谷歌云接受某些外部客户工作负载的能力。Frozen v2旨在通过大幅提高推理效率来缓解这些瓶颈，而无需数据中心基础设施成比例地增长。

提高推理效率可以降低谷歌对第三方AI硬件的依赖，同时最大化其内部硅策略——这与微软的做法不同，微soft正在为Copilot测试更便宜的开放权重模型，而不是构建模型专用硅。

专业化芯片有其权衡：由于Frozen v2的部署目标是2028年左右，工程师必须确保硬件与未来的Gemini模型架构保持兼容。印度是谷歌搜索、Android、YouTube和Workspace的最大用户之一，占Gemini推理的很大一部分。更便宜的每瓦特令牌数直接转化为为印度消费者提供更实惠的AI功能，以及为使用谷歌云的印度初创公司和IT服务公司降低云账单。功耗效率也很重要，因为印度数据中心的容量受到电力供应和冷却成本的限制。

定制AI硅芯片依赖于先进的代工能力和日益政治化的出口规则，正如北京提出的AI模型和芯片出口管制所示。谷歌尚未宣布Frozen v2针对印度的具体部署计划，该芯片仍然是一个未经确认的内部项目。

谷歌报告的Frozen v2项目凸显了AI基础设施竞赛的下一阶段，公司正从通用AI加速器向针对特定基础模型优化的芯片转变。如果Frozen v2实现其报告的每瓦特令牌数6至10倍的改进，它可以显著降低运行Gemini的成本，同时扩展谷歌的AI容量。虽然该项目仍在开发中，目标部署时间早至2028年，但它强调了谷歌对AI软件和硬件垂直整合的长期承诺。随着谷歌、OpenAI、微软、Meta和Anthropic之间竞争加剧，专业化AI硅芯片可能成为越来越重要的差异化因素，用于提供更快、更高效和更具成本效益的生成式AI服务。