英特尔推出为AI推理和高性能计算工作负载优化的至强6处理器。
英特尔在人工智能技术方面的最新进展在科技社区引起了重大关注,Xeon 6 AI Accelerator的推出以及围绕Gaudi 3定价的讨论标志着人工智能计算领域的重要发展。人工智能融入日常生活以前所未有的速度发展,新的以人工智能为中心的公司频繁涌现,导致一些观察人士推测该行业可能正经历类似1990年代后期互联网泡沫的现象,当时大量互联网初创公司迅速出现,却也迅速消亡,只有少数幸存者最终主导了该行业。
部署人工智能技术面临的最大挑战之一是满足人工智能训练和运营所需的高强度计算需求。传统中央处理器(CPU)在处理各种计算任务时具有多功能性和高效性,但它们不适合人工智能过程(特别是训练阶段)所需的高度并行和计算密集型任务,这源于架构限制,不允许它们同时处理大量数据块——这是机器学习算法的关键要求。为了解决这些限制,许多工程师采用了图形处理器(GPU),它们非常适合人工智能的并行处理需求,可以同时执行多个操作,大大加快人工智能模型的训练和运营。然而,这种能力是有代价的:GPU不仅成本高昂,而且需要消耗大量电力,这成为扩展人工智能应用的制约因素。
由于GPU的高成本和功耗需求,许多组织依赖配备这些处理器的数据中心,由此带来数据隐私问题、高运营成本和部署时间延迟等挑战。为了寻求更可持续的解决方案,一些研究人员和公司正在探索神经处理单元(NPU),这是为神经网络计算专门设计的硬件,相比GPU提供更高效的处理能力和更低的功耗。然而,NPU的开发面临挑战:开发成本高昂,目前仅适用于特定类型的人工智能任务,其专业化设计需要牺牲原本可用于内存和其他电路的硅面积,可能会限制设备的多功能性。在CPU、GPU和NPU之间进行选择涉及处理能力、能耗、成本和具体人工智能应用需求之间的复杂权衡。
在最近的发布中,英特尔推出了第六代至强服务器CPU——至强6900P系列,该系列可扩展至128个核心,旨在为人工智能应用优化性能和能效。搭载性能核心(P核心)的英特尔至强6处理器包含集成矩阵引擎,专门用于提升人工智能和高性能计算(HPC)任务的性能。至强6900P处理器被定位为CPU技术中的关键发展,特别是在人工智能推理方面,既适合在纯CPU服务器中使用,也适合作为由功耗更高的GPU(如Nvidia产品)加速的系统中的主机CPU。凭借P核心和E核心的独特组合,至强6900P系列为各种人工智能应用场景提供了灵活性:P核心专为处理高吞吐量计算而优化,E核心管理较轻的工作负载,有助于在整个系统中平衡能效和处理能力。英特尔最新处理器还引入了多项增强功能,例如支持DDR5 MRDIMM模块,这些模块相比标准内存模块提供了改进的带宽和延迟性能。