AI推理芯片初创公司d-Matrix（获得三星和SK早期投资）正式加入英伟达生态。
估值为20亿美元（约合2.7万亿韩元）的美国AI推理芯片初创公司d-Matrix，正加入英伟达的AI基础设施生态系统。该公司将把其专有的AI加速器整合到英伟达的数据中心部署平台中。鉴于海力士、三星和大韩航空自2022年最早融资轮次以来便对该公司提供支持，这一发展引发了 renewed 关注。
上周，d-Matrix宣布与英伟达建立合作伙伴关系，将其推理加速器“Raptor XPU”整合到英伟达的AI基础设施平台中。此次整合通过英伟达的NVLink Fusion架构，将Raptor XPU与数据中心的GPU、CPU和网络基础设施连接起来。英伟达正积极将核心数据中心操作的推理工作负载从通用GPU转移到专用XPU上，以提高效率并降低成本。d-Matrix的合作案例体现了英伟达更广泛的战略，即将定制AI芯片设计商吸收进其生态系统。
d-Matrix成立于2019年，是一家无晶圆厂AI推理芯片设计公司。去年11月，该公司在C轮融资中筹集了2.75亿美元（约合3700亿韩元），估值达到20亿美元。海力士在2022年领投了A轮融资中的4400万美元（约合600亿韩元），从早期阶段就认可了该公司的潜力。三星风险投资和未来资产参与了2023年的1.1亿美元（约合1500亿韩元）B轮融资，未来资产于2025年11月再次参与C轮融资。三星风险投资由包括三星电子在内的六家三星关联公司共同拥有。
半导体巨头的早期支持源于d-Matrix的核心技术：数字存内计算（DIMC）和3D DIMC。DIMC将计算功能直接嵌入内存中，而3D DIMC则将内存垂直堆叠在计算晶粒之上。在AI半导体市场中，随着性能需求的提升，减少内存和计算单元之间的物理距离变得至关重要。随着AI模型的扩展，在内存和处理器之间传输数据所需的功耗和延迟增加，使得所谓的“内存墙”成为主要瓶颈。虽然高带宽内存（HBM）通过中介层与GPU水平传输数据，但3D DIMC将内存垂直且直接连接到逻辑或计算晶粒上，有效地消除了物理数据传输距离。d-Matrix声称，这种架构转变将功耗降低至HBM4的十分之一。
分析师指出，3D DIMC不会取代HBM，而是将与HBM一起推动整体内存需求的增长。除了传统的以GPU为中心的HBM外，新的AI工作负载预计将刺激对针对推理优化的3D DRAM、存内处理（PIM）及类似架构的需求。主要内存制造商已经超越HBM进行多元化发展，积极开发针对AI的产品，如AI-DRAM、3D DRAM和PIM。
三星的战略投资不仅限于韩国，还包括对荷兰AI半导体初创公司Euclide的投资。14日，三星电子领投了Euclide的2亿欧元（约合2.307亿美元）A轮融资。该融资还得到了Somerset Capital Partners和由欧洲投资公司EQT管理的Scale-up Europe Fund的参与。Euclide成立于2024年，使用与巩固英伟达主导地位截然不同的架构设计AI推理芯片。该公司专门为推理任务重新设计了处理和内存/数据传输。Euclide的目标是在2028年发布实体芯片，并在2030年前吸引数千名企业客户，尽管商业验证仍在进行中。
Euclide首席执行官Bernardo Kastrup是荷兰设备制造商ASML的前高管，他在接受CNBC采访时强调了三星的战略价值。“三星是世界上最大的内存制造商之一，”他指出，并补充说该公司“很好地理解[半导体]供应链和系统，并且拥有庞大的网络。”这句话凸显了三星提供运营和供应链优势的能力，而不仅仅是资金。在另一项采访中，Kastrup确认了生产细节：“芯片目前正在韩国制造。我们像英伟达一样利用亚洲生产线。”他进一步解释说：“我们正在构建一个多芯片模块系统。”
三星已加速与该两年历史的初创公司的代工合作，对其潜力充满信心。两家公司目前都在2028年商业化目标之前制造首批测试芯片。这笔投资使三星能够在其代工厂捕获Euclide下一代芯片的大批量生产订单，同时也极有可能为其推理加速器提供定制内存供应。行业观察人士认为，三星的投资展示了其在代工、内存和封装方面的端到端“交钥匙”能力。分析师将此举动解读为一种战略努力，旨在锁定下一代欧洲AI半导体客户，涵盖三星的代工和内存部门。
此前，三星最近投资了法国领先的AI初创公司Mistral AI，并与之形成战略合作伙伴关系，共同开发专为半导体设计和制造的AI模型。从Mistral AI到Euclide，三星正在执行对欧洲AI企业的激进扩张。从三星的角度来看，这笔投资也是对不断演变的AI加速器格局的准备。包括Google、Meta和Microsoft在内的大型科技公司各自正在开发专有AI芯片，以减少对英伟达GPU的依赖。通过与专门设计架构上与GPU不同的推理芯片的Euclide合作，三星获得了新兴硬件需求的关键视野。
英伟达与d-Matrix的合作被广泛解读为一种有意策略，即将定制AI芯片设计商吸收进其生态系统。虽然GPU在AI训练中仍占主导地位，但推理领域越来越被视为专用加速器可以提供更高效率和成本优势的空间。韩国半导体公司的早期投资被视为不仅是财务赌注，更是确保下一代内存客户的战略举措。随着AI推理市场的扩大，对3D DRAM和PIM等先进内存架构的需求也将随之增长，这一前景得到了预测的支持。