AMD扩展MI300 GPU产品组合，推出单GPU型号和具有1.5TB HBM3内存的八GPU平台。

AMD在加州旧金山举办的数据中心与AI技术首秀活动上发布了全面的新型AI和数据中心产品组合。该公司推出了配备3D堆叠CPU和GPU核心（与HBM集成在同一封装中）的Instinct MI300A处理器，以及拥有8个加速器和1.5TB HBM3内存的全新GPU型MI300X。此次发布还包括用于云原生应用的5nm EPYC Bergamo处理器、具有高达1.1GB L3缓存的EPYC Genoa-X处理器，以及计划于2023年下半年推出的用于电信和边缘部署的EPYC Sienna处理器。结合其Alveo和Pensando网络及DPU产品，AMD正在AI加速解决方案领域与市场领导者英伟达和英特尔进行直接竞争。

Instinct MI300A是一款数据中心APU，由13个芯粒组成，其中许多采用3D堆叠，集成24个Zen 4 CPU核心、一个CDNA 3图形引擎，以及8个HBM3内存堆栈，总容量为128GB。该芯片包含1460亿个晶体管，是AMD投入生产的最大芯片。9个计算芯粒（5nm CPU和GPU的组合）3D堆叠在4个6nm基础芯粒之上，这些基础芯粒充当有源中介层，处理内存和I/O流量。MI300A将为埃尔卡皮坦(El Capitan)双百亿亿次超级计算机提供动力，该计算机计划在今年晚些时候上线时成为全球最快的超级计算机。

GPU型MI300X针对大型语言模型进行了优化，配备CDNA3 GPU芯片和192GB HBM3内存，这些内存分布在24GB的HBM3芯片中。AMD声称这使该芯片能够运行参数量达800亿的大型语言模型，该公司表示这是单个GPU的纪录。MI300X在8个通道上提供5.2 TB/s的内存带宽，Infinity Fabric带宽为896 GB/s。该芯片由混合工艺（5nm GPU和6nm I/O芯粒）的12个不同芯粒组成，总计包含1530亿个晶体管。

AMD展示了一个拥有400亿参数的Falcon-40B模型在单个MI300X GPU上运行，这标志着该公司所声称的这样大规模模型首次在单个GPU上运行。与英伟达H100相比，MI300X的HBM密度提高2.4倍，HBM带宽提高1.6倍，使AMD能够在其芯片上运行更大的模型。缓存相干内存架构减少了CPU和GPU之间的数据移动，降低了延迟，并通过减少数据移动产生的功耗来改进性能和能效——数据移动往往比计算本身消耗更多的功率。

AMD还发布了AMD Instinct平台，该平台将8个MI300X GPU集成在单个服务器主板上，总计1.5TB HBM3内存，符合OCP标准，与英伟达的专有MGX平台形成对比。开源设计旨在加快部署。MI300A已开始样品供应，而MI300X和8-GPU Instinct平台将在第三季度进行样品供应，并在第四季度正式推出。