芯片与硬件 · 报道
美光宣布HBM3e内存进入量产,为NVIDIA H200 AI GPU供货。
HBM3e产能成为H200交付的关键瓶颈,直接影响全球AI GPU部署速度。
行业媒体Slicast · 2024年2月27日 UTC 12:00 · 全球 · 来源: tweaktown.com
重要度 85美光科技宣布开始大规模量产其HBM3e内存,其已知良好芯片堆(KGSD)已作为NVIDIA即将推出的H200 AI GPU的一部分开始交付。这标志着在交付先进内存解决方案以支持不断增长的AI工作负载需求方面取得了重大里程碑。
NVIDIA H200 AI GPU将配备最多141GB的美光高速HBM3e内存,来自其大规模生产的24GB 8-Hi HBM3e内存模块。这些模块的数据传输速率为9.2GT/s,每个GPU的峰值内存带宽超过1.2TB/秒,相比上一代HBM3内存的内存带宽提升了44%。总体而言,H200将配备最高4.8TB/秒的内存带宽,大幅优于配备80GB HBM3内存和最高3.35TB/秒内存带宽的H100 AI GPU。
美光科技执行副总裁兼首席商务官苏密特·萨达纳(Sumit Sadana)表示:"美光通过这一HBM3E里程碑实现了三重优势:上市时间领先、业界一流的性能,以及差异化的功耗效率特点。"萨达纳进一步强调:"AI工作负载严重依赖内存带宽和容量,美光通过业界领先的HBM3E和HBM4产品路线图,以及我们为AI应用提供的完整DRAM和NAND解决方案组合,处于非常有利的位置来支持未来显著的AI增长。"H200扩展的内存容量和带宽直接满足了内存解决方案跟上AI工作负载不断扩展需求的关键需要,因为市场需求继续激增。