英伟达推出专为吉瓦级数据编排和下一代AI训练工作负载设计的Vera Rubin系统。

英伟达最新的Vera Rubin架构正以紧密集成的系统形式推出，而非作为独立的GPU。该协调堆栈包括Rubin GPU、Vera CPU、Groq 3 LPX推理加速器以及专为存储和网络设计的机架。这一部署标志着战略重心向数据编排的转移，随着AI计算规模进入吉瓦级范围。

据英伟达存储技术副总裁Jason Hardy介绍，Vera CPU解决了一个根本性的瓶颈：在日益庞大的内存池中高效移动数据。“Vera很重要，因为你能放入单个服务器或任何计算平台的内存是有限的，”他说。随着数据中心扩大计算能力，内存容量也同步增长，推动了美光等供应商在基础设施繁荣第二波中的增长。然而，将数据以最佳时机交付给GPU在技术上仍然具有挑战性。随着效率目标收紧——特别是围绕每瓦特令牌数——精确的交通方向变得至关重要。

Hardy报告称，“在这些操作中实现了超过3倍的改进，其中Vera CPU允许加速。”他补充道：“因此，我们现在可以充分利用闪存的全部潜力，因为我们能够从中获取所有性能而不会造成瓶颈。”

其他公司通过不同的硬件策略应对同样的挑战。例如，OpenAI最近披露的Jalapeño芯片旨在完全消除数据移动。在本月初的一篇博客文章中，该公司表示：“我们设计Jalapeño是为了最小化数据移动和通信延迟。”它通过将整个工作负载容纳在一个连接的系统中来实现这一点。“其大型域允许整个工作负载保持在一个连接的系统中，最小化数据移动并帮助完整的请求从头到尾快速高效地运行，”文章继续写道。

另外，消息人士报道，英伟达将以129亿美元收购Hugging Face。

专用数据编排系统的出现标志着AI基础设施竞争的结构转变。尽管超大规模企业——包括亚马逊和谷歌——在过去几年中开发了自己的芯片，但英伟达的优势不再局限于GPU主导地位。相反，战场已扩展到系统集成层面：确保存储、网络、内存和计算协同运作。这一层基础设施现在开放竞争——不仅限于芯片制造商之间，还涉及全栈系统设计者。虽然英伟达在这一新领域面临竞争对手，但早期证据表明，它在构建和部署这些协调架构方面处于领先地位。