英伟达路线图确认摩尔定律已死;未来性能提升来自架构创新而非密度扩展。

英伟达在加速AI计算增长方面面临多重相互关联的挑战，正如首席执行官黄仁勋本月在GTC大会上所揭示的那样。他不仅宣布了下一代Blackwell Ultra处理器，还公布了即将推出的平台详细路线图，包括一个600kW机架规模系统（搭载576个GPU）和一个将于2028年推出、以理查德·费曼命名的新GPU系列。根本的制约是近年来工艺技术的进展已经陷入停滞，这给英伟达留下了越来越有限的调整空间。为了弥补这一不足，英伟达的策略是尽可能地扩大每个计算节点的硅晶体数量，从目前最密集的系统（通过高速1.8TB/s NVLink互连将72个GPU整合为单个计算域）扩展到每机架144个GPU，最终达到576个。

这一扩展策略的功耗需求令人震惊。Blackwell加速器比Hopper多消耗500瓦的功率，且需要双倍的芯片数量，但按FP16归一化后的性能提升仅约1.25倍——1,250 dense teraFLOPS对比GH100的989。到2027年，英伟达预计随着Rubin Ultra NVL576的推出，机架功耗将飙升至600kW，芯片数量将从两个光刻极限的芯片增加到四个，同时受益于台积电2nm工艺技术带来的约20%效率提升。即使有这些改进，黄仁勋在新闻发布会的问答环节中表示："机架的实际极限取决于你能供应多少功率"，目前数据中心的容量为"250兆瓦"，未来的潜在上限可能达到"每机架1千兆瓦"。

除了计算规模扩展外，英伟达还在大幅扩展内存架构。Rubin Ultra的单芯片包内存将从Rubin的288GB跃升至1TB，其中大约一半来自更快、容量更大的内存模块，另一半来自将专用于内存的硅晶体数量从Blackwell和Rubin的8个模块增加到Rubin Ultra的16个。这使得单个芯片包可容纳约2万亿个FP4精度参数，或每个单独芯片500亿个参数。HBM4e预计将在HBM3e基础上有效实现内存带宽翻倍，带宽将从Blackwell单芯片的约4TB/s增加到Rubin Ultra的约8TB/s。

为了弥补工艺改进带来的有限收益，英伟达正在积极推进精度降低策略，从16位精度降至8位精度，有效地将吞吐量翻倍，同时将内存需求减半。从Hopper到Blackwell，英伟达降低了4个比特并增加了一倍的硅晶体，声称浮点性能提升了5倍。该公司继续探索这一方向，研究人员正在进行超低精度量化研究，精度低至1.58比特同时保持准确性。不过在4比特精度以下，大语言模型推理会遇到困难，困惑度迅速上升。对于Blackwell Ultra，英伟达通过限制芯片的双精度（FP64）张量核心性能来优先考虑计算密集型工作负载，以换取50%更多的4位FLOPS，这表明专化精度优化正在成为GPU设计的核心。

这些趋势的累积效应——更大的芯片数量、更高的功率密度、扩展的内存层级结构和精度优化——意味着英伟达的计算平台将继续变得更大、更密集、更炎热、更耗电。虽然为超密集计算散热处理兆瓦级功率对于Cray、Eviden和联想等供应商来说并非新鲜事，但规模和频率已经发生了戏剧性的变化，从每年仅有少数专业级计算集群发展到数十个要求越来越高的配置，这对数据中心运营商在电力供应、散热和基础设施成本管理方面构成了重大挑战。