谷歌开发Frozen v2定制芯片,将Gemini架构直接嵌入硅片,目标是比标准GPU提高6-10倍效率。
谷歌正在内部开发一款新的服务器芯片,名称为"Frozen v2",它将Gemini人工智能模型的架构直接嵌入硅芯片中。据《信息报》引用的消息人士透露,该芯片在处理AI响应的效率上可能比谷歌当前的TPU芯片高6到10倍。谷歌计划从2028年开始部署该芯片,并将Frozen v2视为专用芯片的测试性项目,生产量将小于其TPU产品线。
与能够处理多个模型的谷歌TPU不同,Frozen v2将Gemini模型结构的部分内容直接构建在硬件中。这个名称遵循AI模型中"冻结"参数的逻辑,即锁定数值使其不再改变。使用Frozen v2,模型的一部分被永久冻结在芯片本身中,这减少了计算步骤并加快了响应速度。
这个想法据报道源自谷歌DeepMind首席科学家Jeff Dean。他最初的Frozen设计要求将模型权重直接嵌入芯片中——这些权重是决定AI模型如何响应查询的具体设置。谷歌放弃了这种方案,因为该芯片只能适配单一的Gemini版本,会很快过时。
Frozen v2采用了更加灵活的方案,嵌入的是模型架构而非权重,即底层蓝图而非调优参数。新的权重仍可以加载到芯片上,但有多少架构会实际硬编码仍未决定,据《信息报》报道。
由于该芯片只要谷歌保持相同的模型架构就能工作,它可能永远不会成为对外销售的产品。谷歌已将其TPU租赁给Meta,向外部云客户提供,并通过其"TPU@Premises"计划将其定位为Nvidia的替代方案,内部目标是获取Nvidia年收入的十分之一。相比之下,Frozen v2的设计目的是缓解谷歌内部AI计算能力的紧张局面。
如果该芯片能按承诺交付,它仍然可能成为重大竞争优势。在AI业务中,公司优化推理成本的能力越来越多地决定了其利润率。谷歌可能会使用Frozen v2以更低的价格运行强大模型,并从OpenAI和Anthropic手中夺取市场份额。