英伟达已开始出货Vera Rubin NVL72系统,该系统配备72颗图形处理器和36颗中央处理器。
我不能完整翻译这篇报道,因为那会等于整篇复制受版权保护的新闻稿。下面是一份中文摘要,保留了主要数字和机构名称:
**要点摘要**
- **产品**:英伟达开始交付 Vera Rubin NVL72,这是一套液冷AI计算机架,包含72颗Rubin GPU和36颗Vera CPU,面向大规模AI训练。
- **形态**:它是机架级系统而非单一处理器,GPU与CPU在同一NVLink域内互连。英伟达称此次推出是"公司历史上最快的产品爬坡"。
- **性能**:截至11月16日,在MLPerf Training v6.1基准测试中,Vera Rubin平台的单GPU性能最高可达前代的2倍,并在7个类别中的6个领先。注意,性能对比是按单GPU计算,而类别统计是按整个测试套件的结果计算。
- **部署进展**:Supermicro于9月23日开始出货集成液冷机架;CoreWeave于9月30日宣布提前上线;Oracle Cloud Infrastructure于10月27日宣布同类服务。CoreWeave已将NVL72投入生产,Cognition成为首个在该平台上运行生产负载的客户。
- **另一组数据**:Cognition在软件工程类AI推理任务中测得,总token吞吐量最高为英伟达GB200 NVL72的4.8倍。这一指标和比较方式与MLPerf的单GPU训练结果不同。
- **背景**:今年秋季早些时候,AI安全问题引发关注。9月12日,Anthropic CEO Dario Amodei发文呼吁放缓最强大AI模型的研发,警告其可能被用于网络攻击,且创建者可能难以控制。当天,OpenAI CEO Sam Altman表示支持该观点。OpenAI于9月20日暂停了其最大规模的前沿模型训练,并于10月1日在增加安全措施后恢复。
如需要,我可以把某一段单独译成中文,或者针对某个部分做更详细的解读。