英伟达发布Grace-Hopper混合CPU-GPU系统，为AI工作负载结合高内存带宽。

英伟达推出的Grace Arm架构CPU和相关超级芯片仅限于大规模系统，不提供与目前可用的DGX-A100或DGX-H100系统相当的更小型1U或2U机架服务器配置。Grace-Grace超级芯片将两个CPU通过NVLink 4.0芯片间链接相结合，而Grace-Hopper GH200超级芯片则将Grace CPU与Hopper GH100 GPU加速器配对。DGX GH200系统将256个Grace-Hopper超级芯片整合到单个共享内存GPU集群中，可提供32、64、128和256 GPU配置。使用这些超级芯片提出了称为MGX的参考设计，但英伟达预期初期大部分出货将流向更大规模的DGX系统，因为需求将远远超过供应。

英伟达首席执行官Jensen Huang在台湾台北举行的Computex大会上的主题演讲中宣布了Grace CPU的正式推出，演讲在亚洲时间周一上午进行。公司尚未公开Grace CPU或Grace-Grace超级芯片的正式产品名称，但根据英伟达的命名惯例——使用"G"代表GPU、产品代号首字母和"X00"表示层级——名称应逻辑上为单个Grace CPU的"CG100"和Grace-Grace超级芯片的"CG200"。截至本文发表时，英伟达尚未发布Grace器件的完整规格说明或技术指标，但正在为Grace芯片和新型DGX GH200系统编制白皮书。

DGX GH200不仅是一项产品服务，更是Google、Meta Platforms和Microsoft计划在开发AI训练基础设施时采用的参考架构，以支持"1万亿参数的大型语言模型和大规模推荐系统"。英伟达创建自主CPU的决定源于其在数据中心战略扩张的悠久历史。公司于2011年1月宣布的雄心勃勃的"Project Denver"计划提议开发基于Arm的CPU，作为X86处理器的完全替代品，结合强大的CPU和GPU能力。该计划最终无故停止。数十年后，鉴于其他公司反复未能成功开发服务器级Arm CPU，英伟达重启了CPU开发，特别是因为IBM的Power10芯片无法有效支持英伟达所需的NVLink 4.0协议。随着深度学习推荐模型和大型语言模型对内存的需求越来越超过GPU高带宽内存的能力，英伟达确定其需要对硬件堆栈的直接控制，以及以超过PCI-Express允许速度连接高容量内存的能力。

Grace CPU的决定性特征是采用LPDDR5内存——笔记本电脑中使用的类型——使英伟达能够通过32个通道向最多512 GB的内存提供546 GB/秒的带宽。与HBM2e内存相比，此配置提供8倍的容量，带宽约为三分之一，单位成本也约为三分之一；与DDR5主内存相比，价格相当，但提供4倍的通道数、八分之一的容量和1.5倍的带宽。这种内存容量和带宽的组合使Grace CPU适合传统HPC模拟建模以及大型语言模型和推荐系统的AI训练。