2026年10月28日星期三
AI 基础设施 · 新闻与分析
首页 › 芯片与硬件 › 报道
芯片与硬件 · 报道

三星将存算一体芯片集成到AMD MI100 GPU上,推进AI加速器架构。

展示存算一体设计创新;表明下一代AI加速器的架构演进方向。
行业媒体Slicast · 2022年12月13日 UTC 12:00 · 全球 · 来源: theregister.com
重要度 72

三星推出了一台超级计算机,其中包含96个AMD Instinct MI100 GPU,每个GPU都配备了处理器内存(PIM)芯片,三星声称这可以显著提高训练大型AI模型的性能和能源效率。该超级计算机于周二在韩国举行的一次行业活动中披露。处理器内存技术通过将一些计算转移到内存本身内部,减少了需要在CPU和DRAM之间移动的数据量。

根据三星电子高等技术研究院AI研究中心主任Choi Chang-kyu的说法,与没有PIM芯片的相同集群配置相比,该集群能够以2.5倍的速度训练Google的Text-to-Test Transfer Transformer (T5)语言模型,同时功耗降低2.7倍。Choi表示:"这是世界上仅有的一个。"三星预计其PIM技术可以将集群的年能源消耗减少2,100千兆瓦小时,并减少960,000吨碳排放——相当于160亿棵城市树木在十年内吸收的碳量。

性能提升源于三星在每个PIM芯片上使用高带宽内存(HBM),这是一项在业界越来越多地用于高性能计算和AI工作负载的技术。三星的HBM-PIM芯片与其他公司的HBM实现的区别在于,PIM芯片上的每个内存银行内部都包含一个处理单元,减少了与CPU和内存之间移动数据相关的瓶颈。

三星正在努力通过使用SYCL(一个免费的、跨架构编程抽象层)的软件开发来推动其PIM技术的采用。该公司还计划通过其所谓的AXDIMM(加速DIMM的缩写)将该技术推向市场。如果PIM开始出现在未来几年由研究机构、学术机构和其他组织部署的新超级计算机中,更广泛的采用将变得显而易见。

阅读原文
三星将存算一体芯片集成到AMD MI100 GPU上,推进AI加速器架构。 · Slicast