NVIDIA将Vera Rubin定位为后训练优化GPU,针对代理AI微调和规模推理的每输出成本降低。
英伟达的Vera Rubin平台于今年早些时候推出,正在通过最大化"每美元智能"来突破AI后训练的边界——这是Agent型AI时代的关键指标。该平台的架构包括Rubin GPU和Vera CPU,旨在提供更低的每令牌成本,以及强化学习和持续模型适配中的更高效率。
后训练曾被视为AI开发的最后一步,但现在随着Agent型AI等模型变得越来越动态,它扮演着核心角色。与传统生成式AI不同,后者仅仅响应提示,Agent型AI能适应不断变化的环境,使后训练成为一个持续且计算密集的过程。英伟达的目标是实时优化模型,以最大化其在性能和成本效率方面的产出。
英伟达的Vera Rubin通过极端协同设计实现了每美元智能指标,优化了AI生命周期的每个阶段。通过降低强化学习中每次前向和反向传播的成本,该平台确保计算投资直接转化为更强大的模型。这一改进使后续的每次推理都受益,放大了投资回报率。
这一指标的意义超越了部署:后训练在生产环境中持续改进模型,适应新的挑战和数据。英伟达最近推出的Nemotron 3 Ultra是一个550亿参数的模型,体现了这些进展,在Rubin架构上的SWE-bench编码任务中达到了71.7%的成功率。
现实部署展示了该平台的实际影响。AI实验室Prime Intellect利用Vera Rubin来扩展强化学习环境,每次运行生成更多样本,加快迭代速度——相比之前的x86系统,吞吐量据报道提高了30%。英伟达与日本Noetra联盟的合作进一步强调了可扩展性;宣布了一个配备27,500块GPU的新140MW AI工厂,展示了Rubin在处理大规模AI工作负载中的能力。
英伟达的平台已经投入全面生产并兑现了其路线图承诺,与国家AI工厂和科学超级计算中心的集成强调了该公司在AI硬件中的主导地位。随着各组织追求可扩展的尖端AI解决方案,Vera Rubin将英伟达定位为AI演进下一阶段的关键参与者——在这个阶段,更低的成本和增强的模型智能是不可或缺的。