CoreWeave已开始提供Nvidia最新的Vera Rubin NVL72 GPU集群,Cognition是首批客户。
CoreWeave现已在其云平台上提供Nvidia的Vera Rubin NVL72系统。这一宣布是在CoreWeave于旧金山举办的"Fully Connected"大会上发布的,距离该公司开始运营据称是首个完全功能性的生产环境中Vera Rubin NVL72机架仅两个月。
Cognition是首个采用该平台的客户,于9月初部署了Vera Rubin系统。根据Cognition研究与创始团队高级副总裁Silas Alberti的说法,该公司在新一代系统上其SWE-2推理工作负载的总token吞吐量增加了4.8倍。
CoreWeave产品与工程执行副总裁Chen Goldberg表示:"如此快速地部署Nvidia Vera Rubin NVL72,并在几天内看到客户性能提升,这是我们多年来在各个GPU代次上对平台进行工程投入的回报。有了Cognition这样的客户,这项投资体现在能够在几天内让生产工作负载运行的能力上。当涉及到智能体任务、长上下文、重复模型调用和数千个并发任务时,整个平台都会承受压力。我们的工作是让计算、网络和软件作为一个单一系统协同工作,这样客户就可以构建越来越复杂的智能体,而无需自己承担基础设施的复杂性。"
Rubin平台包含六颗芯片:NVLink 6 Switch、ConnectX-9 SuperNIC、BlueField-4 DPU和Spectrum-6以太网交换机,以及Vera CPU和Rubin GPU。Vera是Nvidia Grace CPU的后继产品,而Rubin将是Blackwell GPU的后继产品。Nvidia声称Rubin相比Blackwell将提供5倍的推理性能和3.5倍的训练性能。
NVL72系统是Nvidia的机架级解决方案,配备36颗CPU和72颗GPU,采用100%液冷设计和无缆模块化托盘设计。Nvidia声称这一设计将安装时间从两小时减少到五分钟。
CoreWeave还计划将Vera CPU作为独立产品提供。根据CoreWeave产品高级副总裁Corey Sanders的说法,该公司仍在早期阶段,但预计客户将在未来几周开始测试,已有少数客户获得早期访问权限。在机架级部署中,CoreWeave将在每个机架上提供128颗Vera CPU和11,264个核心,BlueField-4 DPU和Spectrum-X以太网交换机将为Vera节点之间提供安全、高性能的连接。该CPU将在CoreWeave上作为裸金属产品运行,专为AI智能体和新型工作负载设计。
Goldberg表示:"通用基础设施成为了智能体AI的瓶颈;Vera是首款明确为加速它而设计的CPU。我们的平台原生支持Vera,通过CoreWeave Sandboxes等产品开箱即用。团队可以立即启动数千个隔离环境,消除运营摩擦,从第一天就加速整个AI循环。"
CoreWeave还宣布了与Ennoble Care的新客户合约。Ennoble Care是一家提供居家初级护理、姑息治疗和临终关怀服务的公司。Ennoble在CoreWeave Kubernetes Service上部署Nvidia RTX Pro 6000 Blackwell Server Edition节点,以支持AI在临床工作负载中的应用,包括文本总结、文档处理和临床决策支持。
Ennoble Care首席技术官Jonathan Taylor表示:"我们开发了一套完整的、通过ONC认证的电子病历系统,专为居家初级护理而设计,现在我们正在其基础上开发多个AI智能体,既用于增强临床医疗,也用于自动化后台办公功能。CoreWeave是帮助我们维持临床标准的正确解决方案。它为我们提供了可靠的预留容量、团队可以快速迁移的Kubernetes环境,以及随时可以接听电话的工程师。这种组合使我们能够扩展已经构建在我们护理交付工作流程和专有电子病历系统中的AI功能,将其扩展到数以万计的额外患者,同时我们继续增长。"
CoreWeave首席收入官Jon Jones表示:"临床推理是AI运行最苛刻的领域之一。工作负载是连续的,延迟预算很短,合规要求是绝对的。这就是'AI的本质云'在实践中的含义。这是一个为最重要的工作负载做好准备的云,在精准度至关重要的行业中服务。"
CoreWeave还推出了CoreWeave Forge,这是一个开发层,使团队能够在单一环境中构建、改进和评估AI模型和智能体。该产品现已正式推出。