英伟达Blackwell GPU平台需要重新设计,面临出货延迟,GB200A也在重新设计中。
英伟达Blackwell系列芯片在实现大规模生产方面遭遇重大问题,影响了2024年第三、四季度和2025年上半年的生产目标。这对英伟达的产量和收入造成了影响。作为应对,英伟达延长了Hopper的生命周期和出货量以弥补延迟。Blackwell的产品时间表被推迟,但产量受到的影响远超首次出货时间表。这些技术挑战迫使英伟达仓促开发完全是未计划的新系统,对数十家下游和上游供应商产生了影响。
英伟达Blackwell系列中技术最先进的芯片是GB200,英伟达在系统级别做出了激进的技术选择。72 GPU机架的功率密度约为每机架125 kW,而大多数数据中心部署的标准是每机架12 kW至20 kW——这是前所未有的计算和功率密度。与电源传递、过热、水冷供应链扩产、快速断开接头水泄漏和电路板复杂性挑战相关的众多问题随之出现。虽然这些问题让一些供应商和设计师措手不及,但大多数都是次要的,并非英伟达产量下降或重大路线图重做的原因。
影响出货的核心问题与英伟达Blackwell架构的设计和原始Blackwell封装的供应直接相关,由于台积电的封装问题而受到限制。Blackwell是首款采用台积电CoWoS-L技术进行大规模生产的设计,该技术使用带有本地硅互连和嵌入在中介层中的桥接芯片的RDL中介层。CoWoS-L取代CoWoS-S的原因是台积电已将CoWoS-S扩展至约3.5倍的网版尺寸中介层——这是实际极限——由于硅的易脆性和处理大型薄硅中介层的困难。嵌入在有机中介层中的硅桥可以在有机中介层本身电气性能不足以满足更强大加速器需求的地方补充信号密度。
CoWoS-L是代表未来的更复杂技术,英伟达和台积电目标是每季度超过一百万芯片的激进扩产计划。嵌入在有机中介层中的多个细微凸点间距桥接导致硅芯片、桥接、有机中介层和基板之间的热膨胀系数不匹配,造成翘曲。桥接芯片放置需要非常高的精度水平,特别是对于支持10 TB/s芯片对芯片互连的两个主要计算芯片之间的桥接。一个主要的设计问题涉及桥接芯片的重新设计,有传言表明还涉及Blackwell芯片的顶部几层全局布线金属层和凸点的重新设计,这是数月延迟的主要原因。此外,台积电缺乏足够的CoWoS-L总体产能;虽然台积电在近几年建立了广泛的CoWoS-S产能,英伟达获得了最大份额,但英伟达对CoWoS-L需求的快速转变迫使台积电为CoWoS-L建造新工厂AP6,并转换AP3的现有CoWoS-S产能,使得扩产具有不均匀的性质。
综合这些问题,台积电无法按英伟达的意愿供应足够的Blackwell芯片,因此英伟达将几乎所有可用产能集中在GB200 NVL 36x2和NVL72机架规模系统上。采用B100和B200的HGX形式因素实际上已被取消,除了一些初期较低产量外。为了满足需求,英伟达推出了基于B102芯片的Blackwell GPU B200A,该芯片也将用于Blackwell的中国版本,称为B20。B102是一个单片计算芯片,具有4堆HBM,允许使用CoWoS-S而不是CoWoS-L进行封装,或者甚至使用英伟达的其他2.5D封装供应商,如Amkor、ASE SPIL和Samsung——原始Blackwell芯片用于C2C I/O的广泛内陆地区在单片SOC中是不必要的。