英伟达报告称,Vera Rubin架构相比Blackwell实现每瓦吞吐量30倍提升,并将智能体AI任务的令牌处理成本降低35倍。
英伟达(NVIDIA)的Vera Rubin平台以显著低于Blackwell的成本实现了颠覆性的Token吞吐量,凸显了其在智能体AI工作负载方面的能力。这些芯片级性能指标由英伟达使用真实的智能体编码轨迹进行了验证。评估基于SemiAnalysis AgentX基准测试,该测试使用Kimi K3、MiniMax M3、GLM5.3、Qwen3.5和DeepSeek V4 Pro等模型,对包括Vera Rubin在内的AI基础设施在智能体编码推理任务中的表现进行评估。
初步基准测试突显了英伟达Blackwell架构相比前代产品的提升。在运行DeepSeek-v4-PRO 1.6T时,GB300 NVL72“Grace Blackwell”服务器每兆瓦的吞吐量比H200 NVL8“Hopper”解决方案高出15倍。在相同的功耗预算内,Blackwell能够维持更高且响应更快的智能体推理吞吐量。此外,与上一代产品相比,Blackwell将每百万Token的成本降低了10倍。这种总拥有成本(TCO)的改善使AI运营商能够在现有的电力和基础设施限制内扩展智能体容量,或在保持当前容量的同时进一步降低运营成本。
Blackwell的性能随着更大规模模型的测试展现出卓越的扩展性。在使用Kimi K3 2.8T进行测试时,Blackwell解决方案每兆瓦的吞吐量比Hopper提高了80倍,同时为每个用户维持每秒215个Token的交互水平——这一水平远超Hopper的能力范围。
在此基础上,英伟达Vera Rubin NVL72平台进一步推动了智能体AI推理的发展。在DeepSeek-v4-PRO 1.6T工作负载中,其吞吐量比Grace Blackwell NVL72提高了30倍。在用户交互方面,Vera Rubin为每个用户维持约每秒160个Token,峰值约为每秒280个Token,轻松超越了Blackwell每个用户不到每秒180个Token的峰值表现。
Vera Rubin还大幅降低了智能体编码环境中的推理成本,与Blackwell相比,每百万Token的成本降低了35倍。这种效率使得NVL72部署能够在不同工作负载下大规模连续运行多个智能体。得益于英伟达DSX MaxLPS技术——该技术动态管理GPU、机架和工作负载级别的电力分配——AI工厂现在可以在相同的兆瓦预算内容纳多达40%更多的GPU。
当前的基准测试仅专注于Vera Rubin硅片,尚未计入Vera CPU在工具调用操作中的性能,也未完全代表完整的“Extreme Codesign”七芯片平台。随着更多Vera Rubin系统上线,预计AI代理和推理的性能指标将进一步改善。与此同时,英伟达已正式全面投产其整个AI产品线,包括Vera CPU、Rubin GPU、Vera Rubin服务器、Groq 3 LPX芯片以及全套网络技术。
Wccftech硬件高级编辑Hassan Mujtaba拥有多年的行业经验,专门从事下一代CPU和GPU架构、主板及散热解决方案的深度技术分析。他的报道结合了新兴技术的突发新闻以及广泛的实操评测和基准测试。如需持续获取相关报道,读者可在Google News上关注Wccftech。