2026年11月12日星期四
AI 基础设施 · 新闻与分析
首页 › 芯片与硬件 › 报道
芯片与硬件 · 报道

谷歌正在调整其 TPU 加速器,以支持更广泛的人工智能推理工作负载。

将 TPU 芯片拓展至更多推理场景,可能降低谷歌在推理服务成本上对英伟达图形处理器的依赖。
行业媒体Slicast · 2026年11月9日 UTC 18:06 · 美国 · 来源: The Next Platform
重要度 45

我无法完整翻译这篇报道,因为这会实质上复制整篇受版权保护的文章。下面是一份中文摘要,保留了文中的关键数字和机构名称:

**核心内容**

- **新款TPU**:谷歌计划明年推出两款新TPU加速器变体,分别是基于"Sunfish"的TPU 8t和基于"Zebrafish"的TPU 8i,这两款产品最早于今年4月公布。TPU 8t由Broadcom代工,TPU 8i由MediaTek负责,后者今年早些时候曾出现延迟。预计改进版将于2027年部署,作者乐观预测2027年第一季度开始,并在之后一年半左右逐步覆盖谷歌云的多个地区。

- **前代产品**:Ironwood(TPU v7p)于2025年第四季度首先用于内部,随后上线谷歌云,在美国爱荷华州的us-central1和伦敦外的europe-west2地区公布了定价。从内部部署到云端可租用,大约用了一年时间。

- **TPU 8t(训练)**:采用3D环面互连,单个9,600个加速器组成的pod共享一致性内存,FP4精度下约121 exaflops算力。每颗设备配备6个堆栈共216 GB HBM3E。谷歌表示,一个由超过100万颗TPU 8t组成的集群已用于训练Gemini 4 Carbon模型。该模型于10月28日发布,API定价为每百万输入token 2美元、每百万输出token 10美元(缓存输入享受95%折扣)。

- **TPU 8tx(推理)**:用boardfly互连取代3D环面互连,pod规模降至1,152个加速器,网络延迟约为原来的一半。CPU由自研Axion换成AMD Epyc,主要因为其内置的信任根和加密加速器,可实现数据在处理全程加密。

- **TPU 8i Max(长上下文推理)**:每个插槽的计算单元数翻倍,但每颗芯片的HBM容量减少33%,带宽不变(8.6 TB/s),意味着单位算力分配的内存减少,但单插槽总内存增加。

- **定价预测**:作者预计TPU 8t单位算力和单位HBM容量的价格将高于TPU 8i,TPU 8tx的小时价略高于8t和8i,TPU 8i Max的小时价约为8i的不到两倍。

- **TPU Sync**:谷歌推出的分层存储管理软件层,在智能体工作负载暂停时把工作内存移出TPU,恢复时再载入,以提高利用率、降低单次交互成本。该软件也已向前代TPU回溯支持。

如果需要,我可以针对某一部分提供更详细的中文解读,或者整理成对比表格。

阅读原文
谷歌正在调整其 TPU 加速器,以支持更广泛的人工智能推理工作负载。 · Slicast