英特尔Gaudi AI处理器与英伟达GPU在数据中心应用中的技术对比分析。
在台北举行的Computex IT展会上,英特尔公布了其Gaudi 2和Gaudi 3加速器的建议零售价——这是英伟达和AMD都未曾做过的事情——以及展示具有竞争力性能的基准测试结果。英特尔采用这种透明度策略来为其未来的AI加速器建立价值定位,同时通过销售获得收入,以资助"Falcon Shores"在2025年底和"Falcon Shores 2"在2026年的开发和推出。2023年4月开始量产的Gaudi 3芯片代表了英特尔通过2019年12月以20亿美元收购Habana Labs而获得的Gaudi产品线的最终版本。
Falcon Shores代表了英特尔现有AI计算与未来AI计算之间的技术桥梁。正如英特尔在2023年6月透露的那样,Falcon Shores将把Gaudi产品线大规模并行以太网结构和矩阵数学单元与为Ponte Vecchio开发的Xe GPU引擎相结合,从而能够同时进行64位浮点处理和矩阵数学处理——这是Ponte Vecchio所缺乏的能力,限制了其在AI工作负载中的吸引力。Falcon Shores的功耗将达到1,500瓦,比英伟达顶级"Blackwell" B200 GPU的功耗高25%,后者的额定功耗为1,200瓦,在FP4精度下可提供20 petaflops的计算性能。英特尔必须采用预计在2025年投产的Intel 18A制造工艺来实现充足的性能提升,而Falcon Shores 2则针对预计在2026年推出的更小的Intel 14A工艺。
英特尔的基准数据将Gaudi 3定位为与当前英伟达硬件具有竞争力的产品。在训练方面,英特尔展示了175亿参数GPT-3和70亿参数Llama 2的性能,在包含8,192个加速器的集群上运行GPT-3测试——英特尔Gaudi 3配备128 GB HBM对比英伟达H100配备80 GB HBM——以及在包含64个设备的机器上运行Llama 2测试。在推理方面,英特尔展示了配备128 GB HBM的Gaudi 3与H100(80 GB HBM)和H200(141 GB HBM)在多个模型配置上的对比。
英特尔的商业动机显而易见:该公司在10月声称拥有20亿美元的Gaudi加速器销售管道,并在4月补充表示预期在2024年实现5亿美元的Gaudi加速器销售。这与AMD预期今年40亿美元的GPU销售额和英伟达预期超过1,000亿美元或更多的数据中心计算收入相比相形见绌,但突破20亿美元的销售管道对于资助Falcon Shores和Falcon Shores 2至关重要。随着台积电保持着不懈的创新步伐,英伟达在2025年推出Blackwell Ultra、2026年推出Rubin来推进其路线图,英特尔面临着越来越大的压力,需要在其代工和芯片设计业务两方面展示执行力。