华为计划提前推出下一代Ascend 960DT NPU，将其定位为国内顶级AI加速器替代方案。
在年度 Connect 大会上，华为发布了一款新一代 AI 加速器，其性能旨在超越目前在中国市场可用的任何英伟达硬件。这一发布为长期以来依赖性能较弱的本土替代方案的中国开发者带来了战略优势。该芯片代号“昇腾 960DT”（其中“DT”代表解码与训练），计划于 2027 年第一季度上市，比最初预测提前了三个季度。这款芯片最高配备 288 GB 华为定制的 HiZQ 内存（作为全球高带宽内存标准的国产替代品），并提供高达 4 petaFLOPS 的 FP4 性能（FP8 性能减半）。相比今年早些时候推出的 950 系列加速器，960DT 的性能和内存容量均实现翻倍。
与美国 GPU 直接对比，960DT 在内存容量和带宽方面与英伟达 B300 系列持平，但其 FP8 计算性能约为后者的一半，FP4 计算性能约为三分之一。尽管这对华为而言是重大进步，但仍落后于英伟达的 Rubin 和 AMD 新发布的 MI455X 等全球领先产品，后两者提供了显著更高的计算吞吐量和内存带宽。仅 Rubin 一款芯片就提供 35 至 50 petaFLOPS 的 FP4 性能、288 GB HBM4 内存以及 22 TB/s 的带宽，使其处于不同的性能层级。然而，这两款芯片均无法在中国合法销售，使得国内开发者缺乏更优的替代方案。目前，获准在中国销售的最顶级英伟达 GPU 提供相当密集浮点性能、两倍的内存容量、两倍的内存带宽以及支持更大规模的扩展配置。
性能差距可能不如表面看起来那么关键，因为现代 AI 模型很少在单个 GPU 或 NPU 上进行训练或部署。平台可扩展性已成为决定性指标。主要竞争对手如英伟达和 AMD 目前在机架级计算平台上部署 72 个 GPU，并通过光互连技术扩展至 576 个单元，以实现规模扩展（scale-up）和规模扩张（scale-out）网络。华为计划采用类似的架构，利用近封装光学（NPO）技术将计算域扩展到最多 4,096 个芯片，提供高达 16 exaFLOPS 的 FP4 计算能力。在原始计算密度方面落后的华为，通过大规模扩展来弥补——这是谷歌 TPU 集群此前已证明的策略。鉴于华为在高速网络方面的历史优势，这种方法是合乎逻辑的。NPO 技术解决了早期华为设计中可插拔光学器件带来的关键扩展瓶颈和可靠性问题，后者功耗高、故障率高且占用空间大。通过将 48,000 个 800 Gbps 的可插拔光学器件整合为 5,500 个 Hi-One NPO 单元，华为报告称功耗降低了 550 千瓦，故障率降低了 50%。该公司表示，新架构实现了 99.8% 的系统正常运行时间。这一可靠性改进对于面临监管和供应链压力、需从西方硬件转型的中国模型开发者尤为重要。值得注意的是，DeepSeek 此前曾在使用早期华为 NPU 时遇到训练限制，并转而使用英伟达 GPU。
除了高带宽的 960DT 之外，华为还在开发一款计算优化变体 Ascend 960PR，计划于 2027 年第三季度推出。960PR 的功能类似于英伟达取消的 Rubin CPX 加速器。“PR” designation 表明其侧重于预填充操作和推荐工作负载，华为以牺牲内存容量和带宽为代价，换取显著更高的低精度计算吞吐量。PR 变体将提供高达 8 petaFLOPS 的 FP4 性能，搭配 192 GB 定制 HiBL 内存，带宽为 2.4 TB/s。960PR 设计用于与 DT 芯片协同工作，旨在提升大语言模型的推理能力。在推理管道中，计算密集的预填充阶段（处理输入提示）由 960PR 负责，而受内存限制的解码阶段（生成输出令牌）则在 960DT 上运行。这种异构架构已展现出强劲的性能提升，这与英伟达 Vera Rubin 系列和 Groq LPX 系统中看到的配置类似。然而，华为目前缺乏专用的重 SRAM 解码加速器，无法完全匹配这些实现。
在 Connect 大会上，华为概述了其将计算基础设施扩展至超过 500,000 个 NPU 集群的雄心。在最近的概念验证中，该公司成功将其基于 Ascend 950 的 TaiShan superpod 扩展至 4,096 个加速器。利用两级四层 Clos 网络拓扑，华为预计短期内将支持多达 512,000 个 NPU 的集群，多轨拓扑有可能实现百万级 NPU 的超级集群。这些数据仍是理论性的，尚未在生产环境中得到验证。
展望未来，华为预览了其下一代两款昇腾系列芯片，预计将实现持续的性能提升、内存扩展和互连加速。预计在 2028 年左右推出的 Ascend 970 系列将提供高达 3.6 petaFLOPS 的 FP8 性能或 14 petaFLOPS 的 FP4 性能。这种向低精度计算的转变符合 AMD 和英伟达最新架构中观察到的行业趋势。内存容量将保持在 288 GB，但带宽预计将达到 14.4 TB/s，这将极大地惠及 AI 推理工作负载。到 2029 年，华为的目标是将性能翻倍至 7.2 petaFLOPS FP8 和 28 petaFLOPS FP4，同时将内存扩展至 384 GB，带宽扩展至 38.4 TB/s。鉴于时间线较长，随着开发的推进，这些路线图仍可能进行调整。