SK Hynix和Marvell Technology联合推出AI数据中心CXL内存模块架构
SK Hynix与全球系统芯片厂商Marvell Technology联合推出了一款名为CMM-Ax的CXL(Compute Express Link)内存模块,该模块具备直接处理计算的能力。这是一款基于CXL的内存计算解决方案(PNM),旨在推动AI数据中心基础设施的发展。
CXL被广泛认为是继HBM后的下一代AI芯片。与直接将超高速内存附加到GPU的HBM不同,CXL是一种互连技术,能够使CPU、GPU和内存芯片无缝通信,同时灵活地在整个服务器系统中连接和扩展内存。SK Hynix正在超越单纯扩展内存容量的做法,通过集成计算功能为AI推理时代做准备。
CMM-Ax将SK Hynix的高性能DRAM与Marvell基于CXL的智能内存计算引擎Structera A相结合,能够在AI数据中心中实现更高效的内存使用。该CXL控制器集成了Arm的16个高性能数据中心CPU,可在200GB/s的带宽下实现内存计算。
这一合作解决了现代AI系统中的一个关键瓶颈。随着AI从训练转向推理,大语言模型在KV缓存(Key-Value Cache)中存储先前计算的信息以提高效率。虽然这消除了重复计算的需要,但导致KV缓存容量迅速膨胀。CMM-Ax通过在内存域而非GPU上处理KV缓存操作来解决这一问题,大大降低了数据传输延迟。
当应用于名为NELSSA的基于GPU的后端系统时,CMM-Ax的吞吐量比单个GPU高5.5倍,比双GPU配置高3.6倍,验证过程使用每个设备512GB的容量。两家公司确认该模块能够在长上下文LLM环境中提供高性能推理。
SK Hynix和Marvell将在召开于加州圣克拉拉的全球领先内存技术会议——2026年未来存储与存储大会(FMS 2026)上共同展示CMM-Ax的研究成果。SK Hynix执行副总裁Joo Young-pyo表示,"释放AI的全部潜力需要兼具大容量和高性能计算的智能内存解决方案。CMM-Ax的成功验证是Marvell芯片系统专业知识与SK Hynix在AI内存领域领导地位的强大协同的成果。"
半导体行业预计CXL将追随与HBM类似的增长轨迹,一些观察人士将其称为AI芯片市场的"下一代HBM"。CXL能够提供与DRAM相当的性能,同时大幅扩展容量,有望降低构建和运营AI数据中心的成本。根据市场研究公司Yole Group的数据,CXL市场在2026年的价值为21亿美元,预计到2028年将增长至约160亿美元。