Nvidia发布GH200 Grace Hopper超级芯片，集成CPU和GPU，配备141GB HBM3e内存用于AI工作负载。

英伟达于周二推出了其下一代Grace Hopper超级芯片平台的改进版本，采用HBM3e内存用于人工智能和高性能计算。新版本GH200 Grace Hopper保留了原有的Grace CPU和GH100 Hopper计算GPU，但搭载了容量更大、带宽更高的HBM3e内存，相比上一代产品性能有所提升。

新GH200 Grace Hopper超级芯片以72核Grace CPU为核心，配备480 GB的ECC LPDDR5X内存，搭配配有141 GB HBM3e内存的GH100计算GPU。HBM3e由六个24 GB堆栈组成，采用6,144位内存接口，尽管英伟达在物理上安装了144 GB内存，但仅有141 GB可供访问以提高良率。

相比英伟达现有的GH200 Grace Hopper超级芯片（配备96 GB HBM3内存，带宽不足4 TB/s），性能改进幅度巨大。新款产品将内存容量增加了约50%，带宽提升超过25%。这些升级使新平台能够运行比原始版本更大的人工智能模型，并提供显著的性能改进，这对训练工作负载尤为重要。

关于可用性方面，采用HBM3内存的英伟达GH200 Grace Hopper平台目前正在生产中，将从下月开始商用推出。采用HBM3e的GH200 Grace Hopper平台目前正在抽样送样中，预计将在2024年第二季度推向市场。英伟达强调，新GH200 Grace Hopper使用与原始版本相同的Grace CPU和GH100 GPU硅片，无需进行新的版本修订或步进。两个版本将在市场上并存，鉴于其更高的性能，HBM3e变体将以溢价销售。

该新平台与英伟达的MGX服务器规范完全兼容，可作为现有服务器设计的直接替代品。英伟达首席执行官詹森·黄（Jensen Huang）表示："为了满足对生成式人工智能的激增需求，数据中心需要具有专门化需求的加速计算平台。新GH200 Grace Hopper超级芯片平台通过卓越的内存技术和带宽来改进吞吐量、无损连接GPU以汇聚性能的能力，以及可轻松部署在整个数据中心的服务器设计来满足这一需求。"