首批Vera Rubin AI加速器芯片已交付客户,CPU和GPU性能大幅提升,进入数据中心评估阶段。
英伟达已确认开始分发其Vera Rubin AI芯片,向选定客户提供早期使用权,这是AI基础设施发展的重要一步。这些芯片结合了先进的CPU和GPU架构,旨在应对现代AI工作负载的计算需求。Vera Rubin集成了高内存GPU、专用CPU和快速互连,以在训练和推理过程中减少瓶颈,支持大型生成式AI和神经网络模型。该平台以完全组装的NVL72 VR200计算托盘的形式提供,其中包括CPU、GPU、内存和网络组件的机架就绪系统。这种配置简化了集成,使富士康、广达和超微等合作伙伴能够立即开始测试数据密集型AI工作负载。
Vera Rubin平台的架构通过先进组件的组合实现高效运行。该系统集成了NVLink 6.0交换ASIC、配备集成SSD的BlueField-4 DPU和基于光子学的互连,以加速大规模计算。网络支持通过Spectrum-6光子以太网和Quantum-CX9 InfiniBand网卡,以及为数据中心机架间可扩展连接而设计的交换硅实现。CPU、GPU、存储和网络组件的这种组合创建了一个统一系统,旨在处理训练和推理任务,同时在要求严格的数据中心环境中提供实时分析功能。
根据英伟达首席财务官Colette Kress的说法,"我们在本周早些时候向客户运送了首批Vera Rubin样品,我们仍在按计划在下半年开始批量生产出货。" Kress进一步表示,"基于其模块化无线缆托盘设计,Rubin相比Blackwell将提供改进的抗故障能力和可维护性。我们预计每一个云模型构建商都将部署Vera Rubin。"这一公告将Vera Rubin平台定位为Blackwell架构的继任者,具有增强的功能。
英伟达正在通过Vera Rubin技术将其影响力扩展到实际应用中,包括通过Alpamayo平台在自动驾驶车辆中的AI整合。Vera Rubin芯片的处理密度和内存带宽支持与现实世界AI部署相关的高性能计算。依赖英伟达芯片的数据中心已经为OpenAI和Meta等公司提供主要AI应用支持,将成为Vera Rubin平台的试验场。此外,英伟达GB300工作站由于拥有784GB统一内存,可以处理一万亿个参数。
尽管技术先进,分析人士对采用情况仍持不确定态度,他们指出由于复杂的融资安排和循环投资,AI采用规模可能被高估。地缘政治紧张局势增加了进一步的复杂性,美国规定影响了先进AI芯片对华销售,并引发了关于全球影响的疑问。这些芯片的有效性最终将取决于客户在多大程度上能够整合CPU、GPU和网络资源以大规模加速AI工作负载。