NVIDIA与Samsung据报在合作设计的AI内存芯片的开发中进行洽谈。

英伟达以其AI加速器主导市场，这些加速器需要大容量的高带宽内存。目前，SK海力士供应大部分此类内存，而三星则继续争取其HBM3E芯片的批准。随着三星的认证过程进行，据报三星和SK海力士正在进行秘密讨论，以商业化一种名为SOCAMM（片上系统高级内存模块）的新型先进AI内存芯片。据说英伟达也在与SK海力士就这款内存芯片进行谈判，目前正在与英伟达交换原型。

这些谈判围绕商业化这一新内存标准展开，业界将其视为对当今AI加速器骨干的现有高带宽内存芯片的升级。这些芯片旨在显著提高人工智能超级计算机的性能。相比当前解决方案，SOCAMM提供更高的成本性能比，其模块设计具有更多端口数量，有助于缓解数据瓶颈——这是AI计算中仍存在的挑战。

SOCAMM的可拆卸设计将使数据中心运营商能够交换和升级内存模块，实现持续的性能改进。鉴于其紧凑的尺寸，可以在相同区域内安装更多SOCAMM模块以提升高性能计算。业内人士指出，英伟达和内存公司将这一发展视为解决现代人工智能系统基础设施需求的重要进展。