AMD宣布推出用于数据中心的MI300超大规模加速器，直接与Nvidia H100竞争。

AMD在CES上推出了其Instinct MI300加速器，这是在以消费者为主的活动中做出的一项重要企业公告。这个加速处理单元(APU)由13个芯粒组成，包括CPU核心、GPU核心和高带宽内存(HBM)，总共包含1460亿个晶体管。这远远超过了英特尔预期的Ponte Vecchio处理器(约1000亿晶体管)和英伟达的Hopper H100 GPU(800亿晶体管)。MI300集成了24个Zen 4 CPU核心、六个CDNA芯粒(AMD的数据中心图形技术)和128MB的HBM3内存，采用3D设计堆叠。

3D架构通过实现CPU、GPU和内存晶圆之间巨大的数据吞吐量，提供了显著的性能优势。数据直接流向HBM堆栈，而不是需要往返于DRAM，大大降低了延迟。这种设计还允许CPU和GPU同时在内存中处理相同的数据，加快了处理能力。

AMD首席执行官Lisa Su在其90分钟的CES主题演讲结束时宣布了这款芯片，声称MI300是"第一款将CPU、GPU和内存整合到单一集成设计中的芯片。这使我们能够共享内存和IO的系统资源，从而显著提高了性能和效率，也更容易编程。" Su强调MI300提供了Instinct MI250八倍的AI性能和五倍的每瓦性能，并指出它可以将ChatGPT模型训练时间从几个月减少到几周，可能节省数百万美元的电力成本。

MI300目前在实验室中进行样品供应，预计将在下半年推出。AMD的方法与竞争对手的努力相似，包括英特尔的Falcon Shores(2024年推出)和英伟达的Grace Hopper超级芯片(今年晚些时候推出)。此外，AMD推出了Alveo V70 AI推理加速器，它基于AMD收购的Xilinx FPGA产品线，并采用XDNA AI引擎技术。V70在75瓦的功耗范围内每秒提供4亿次AI操作，与竞争对手相比，在智能城市应用中提供70%更多的街道覆盖，在患者监测中提供72%更多的医院床位覆盖，在智能零售店中提供80%更多的结账通道覆盖。AMD正在接受V70卡的预订，将在今年春季供货。