CoreWeave已将Nvidia计算、网络和软件嵌入其云平台,以优化代理型AI推理工作负载。

基于近十年的联合工程，CoreWeave已将NVIDIA的计算、网络和软件整合到一个为AI专门设计的云平台中，在多代硬件上产生收益。本周在旧金山举办的CoreWeave Fully Connected大会上，该公司宣布了NVIDIA Vera Rubin NVL72系统的生产可用性，配备Spectrum-X 102.4T以太网络，以及CoreWeave Forge——一个统一的环境，用于在NVIDIA加速计算上训练、评估和改进模型和智能体。CoreWeave还将开始提供NVIDIA Vera CPU，这是第一个专门为AI智能体构建的处理器。

Cognition是Devin AI软件工程师的应用AI实验室，是第一个在Vera Rubin上运行生产工作负载的客户。该公司在九个月内已在CoreWeave上扩展到数千个GPU，为Cognition的推理工作负载提供动力。在本月初收到第一批Vera Rubin NVL72生产机架后，Cognition使用从FrontierCode采样的真实软件工程任务将该平台与GB200 NVL72基线进行了基准测试。在早期测试中，Vera Rubin NVL72在SWE-2推理工作负载上的令牌吞吐量比GB200 NVL72高达4.8倍——这些收益转化为更快的实时代码生成和更灵敏的Devin多步推理。Cognition创始团队成员Silas Alberti表示："智能体编码是一个复杂的工作负载：长上下文、高并发和令牌量，其中每令牌成本决定了我们能交付什么。在一个平台上拥有所有这些，与NVIDIA和CoreWeave工程师一起解决难题，对我们来说比任何单一规格都更重要。"

NVIDIA超大规模和高性能计算副总裁Ian Buck评论道："NVIDIA加速计算在多代产品上都能创造价值。CoreWeave的NVIDIA V100 GPU在Volta推出近十年后仍在运行客户工作负载，同时CoreWeave也在将Vera Rubin NVL72投入生产。这就是NVIDIA平台的优势：基础设施能多年持续创造收益，并灵活地将正确的GPU用于正确的工作负载。"

CoreWeave在数天内为Cognition建立了一个生产Vera Rubin集群，这是NVIDIA和CoreWeave在整个技术栈上共同设计和协作的成果。该平台可以通过CoreWeave Kubernetes Service、SUNK、CoreWeave Mission Control、CoreWeave Sandboxes和CoreWeave Inference进行操作。早期访问客户现在可以在CoreWeave Cloud上直接访问Vera Rubin的全栈AI工厂功能。

NVIDIA Vera CPU专门为应对智能体AI的双重需求而设计：提供智能体服务需要低延迟的大规模计算，而通过后训练改进它们需要数千个隔离的环境同时运行。CoreWeave的Vera部署每个机架提供128个CPU和11,264个内核——足以支持超过11,000个并发环境，每个环境一个内核。这些环境是硬件隔离的，与它们支持的训练工作并行运行，配备Spectrum-X以太网交换机和BlueField-4 DPU确保安全、高性能的智能体通信，低延迟。在测试中，CoreWeave在Vera CPU上实现了超过3倍更快的智能体沙箱启动时间，并在Terminal-Bench的所有通过任务中看到Vera上有1.7倍的性能提升。

CoreWeave Forge通过将生产行为直接反馈到训练来统一机器学习生命周期。模型和智能体通过一个连续循环来改进，其中生产信号通知下一个训练运行，每个评估都会改进下一个版本。历来这些功能分散在多个供应商工具中，在交接处会造成信号丢失，Forge在单一环境中集成了Weights & Biases、来自OpenPipe的后训练专业知识和marimo笔记本项目，用于持续的模型和智能体改进，对不同的模型、框架和云保持不可知。

CoreWeave ARIA目前已正式推出，通过分析运行、提出实验建议和推荐与GitHub集成的代码变化，帮助用户在AI循环中学习、研究、编码和迭代，同时提供可操作的证据，解释每项变化的驱动因素并建议下一步要运行的实验。新的CoreWeave Agent Lens服务将生产智能体可观测性转化为持续改进和易于理解的见解，通过将数千万条生产智能体追踪转化为可操作的见解，将故障检测改进了20%，并将问题修复成本降低了50%。CoreWeave Sandboxes目前已正式推出，为智能体、工具调用、强化学习和评估提供新鲜的、隔离的CPU或GPU执行环境，可在无服务器基础设施上或与现有训练基础设施并行使用。

后训练功能利用生产信号来提高模型质量，并在不需要专用训练集群的情况下减少延迟和成本。无服务器监督微调和无服务器强化学习使用户能够尝试自定义训练配方；无服务器强化学习的训练速度比自管理设置快1.4倍，成本低40%。NVIDIA Dynamo是一个AI工厂的开源推理框架，为CoreWeave的托管推理服务和RL Rollouts提供动力，后者目前处于私有预览阶段，可以让新检查点加载到活跃部署中同时继续运行，允许强化学习在不需要重新部署的情况下进行，同时保持生产推理效率。NVIDIA Nemotron开源模型为Forge上的团队提供了自定义和部署用于智能体工作流的推理和多模态模型的直接路径。Canva、Capital One和MasterClass是最早在Forge上构建的公司之一。

AI实验室、AI原生创业公司和全球企业正在使用经过共同工程设计的NVIDIA和CoreWeave平台，更快地从原型迈向生产。在医疗保健领域，Ennoble Care是一家为跨15个州的约50,000名高需求医疗保险患者提供家庭护理的提供商，选择CoreWeave使用CoreWeave Kubernetes Service上的保留NVIDIA RTX PRO 6000 GPU容量运行临床AI推理，以扩展用于临床文档、决策支持和后台办公自动化的AI智能体。CoreWeave在每一轮训练和推理基准测试中都取得了创纪录的MLPerf结果，并在SemiAnalysis ClusterMAX的1.0、2.0和3.0版本中保持铂金排名——这是唯一实现这一成就的云提供商——同时服务于十大领先AI实验室中的九个。NVIDIA和CoreWeave共同使客户能够将实验性智能体转变为生产系统，这些系统可以编写软件、支持临床医生，并交付真实的实用价值。