英特尔公开披露了8芯片Gaudi 3平台的价格,打破行业保密惯例。
英特尔打破行业惯例,公开披露即将推出的Gaudi 3 AI加速器芯片平台的价格清单,这一举措标志着对数据中心加速器芯片定价通常采取保密态度的重大背离。在2024年台湾Computex大会上,英特尔宣布,其配备八个Gaudi 3 OAM模块的通用基板的建议零售价为$125,000,销售对象是包括戴尔科技公司(Dell Technologies)、惠普企业(Hewlett Packard Enterprise)、联想和超微电脑(Supermicro)等服务器供应商,这些公司计划在芯片于第三季度推出时提供支持。该公司还透露其Gaudi 2平台的建议零售价为$65,000,该平台使用2022年推出的八个Gaudi 2芯片。
根据英特尔AI加速办公室副总裁兼主任Anil Nanduri的说法,英特尔的定价策略将Gaudi 3平台定位在英伟达HGX H100平台估计成本的三分之二,英特尔的计算约为$187,000。除了成本外,Gaudi 3还提供显著的性能优势——根据英特尔的测试,在推理吞吐量方面比H100提供2.3倍更高的单位成本性能,在训练吞吐量方面的单位成本性能提高90%。Gaudi 2平台的成本约为英伟达HGX H100平台估计成本的三分之一。英特尔指出,英伟达不会披露其数据中心GPU或平台的定价,定价可能因购买量和服务器配置方式而异。Gaudi 3芯片将在第三季度以PCIe和OAM两种版本推出,英特尔拒绝提供单个Gaudi 3芯片的定价。
Nanduri解释说,英特尔决定披露定价是为了帮助客户——尤其是那些通常缺乏对供应商定价和采购流程可见性的初创公司——更有效地规划其AI计算投资。"很多创新来自初创公司。他们不熟悉生态系统以及采购、招投标等工作流程,所以这有助于他们了解应该预期什么,"他表示。虽然CPU的公开定价在数据中心行业已成为标准,但加速器芯片传统上一直保持不透明,英伟达和AMD等供应商保持定价保密。"我们在CPU方面历来都是这样做的。至于GPU,惯例总是把定价当作一种商业机密,"Nanduri指出。
披露定价的决定反映了不断变化的市场动态和客户优先级。Gaudi 3不仅获得了戴尔、惠普企业、联想和超微电脑等主要合作伙伴的支持,还获得了包括华硕、技嘉和QCT在内的其他服务器供应商的支持,这些供应商都在Computex大会上宣布计划用各自的系统来支持该处理器。根据Nanduri的说法,客户越来越关注以"从成本角度看在计算上可持续"的方式定制AI模型,特别关注推理成本。"当客户查看每美元的令牌吞吐量或百万令牌成本时,你会看到成本方面存在巨大差异,其中很多根本上是由模型大小或基础设施成本驱动的,"他表示。