AMD Instinct MI300采用3D芯片堆叠、HBM3内存和PCIe 5.0，功耗超过600W。

AMD的下一代Instinct MI300加速器将成为该公司面向数据中心的下一代GPU，预计将有多个版本上市。根据Moore's Law is Dead的最近泄露信息，这些细节背后的架构师强调说："首先需要说明的是，每个信息来源都告诉我(Tom @ MLID)MI300有许多变体。我今天详细说明的只是我熟悉的其中一个。"MI300使用CDNA 3架构、5nm和6nm工艺节点、3D晶粒堆叠、8个HBM3堆栈内存、PCIe 5.0支持以及600W或更高的功耗，代表了一个重大进展。

MI300的架构以复杂的多层设计为中心。每个6nm晶粒具有两个HBM3内存堆栈的连接，总共包括12+个金属层。6nm晶粒的设计目的是"与多个产品兼容"，可以相互堆叠。在基础处是一个巨大的中介层，尺寸约为2750mm²，顶部位置"一系列矩形6nm芯片块，容纳I/O控制器、IP块和可能的缓存"，根据信息来源，每个6nm芯片块约占320-360mm²。

计算晶粒尺寸约为110mm²，而中介层达到2750mm²的规格。每个计算晶粒包含约20,000个连接——这是一个相当高的数字，是Apple M1 Ultra SoC中晶粒之间连接数的两倍，突出了MI300用于组件间高带宽数据传输的先进互连密度。

功率效率通过分层方法来管理，1个6nm和1个5nm芯片块的配置消耗150W的功率。完整的高端Instinct MI300加速器预计功耗约600W，将其定位为满足苛刻数据中心应用需求的高性能解决方案。