2026年10月26日星期一
AI 基础设施 · 新闻与分析
首页 › 算力与云 › 报道
算力与云 · 报道

Versity演示磁带库可作为GPU驱动AI工作负载的成本高效数据源,启用冷存储分级。

遗留档案存储在AI数据管道中变得相关;磁带到GPU编排实现成本优化数据暂存。
行业媒体Slicast · 2026年8月4日 UTC 16:00 · 全球 · 来源: Blocks & Files
重要度 55

Versity已向其ScoutAM归档网关软件增加了高速S3 over RDMA功能,使磁带归档能够将数据直接导入GPU的高带宽内存。这个开源Versity网关通过NVIDIA的cuObject框架支持S3 over RDMA(远程直接内存访问),加速了归档的S3网关与S3客户端之间的数据传输。在这个快速前端的背后,规模扩展归档管理器(ScoutAM)管理磁带库,将数据写入磁带并大规模读回。其结果是一个GPUDirect磁带网关,在前端配对了全速RDMA,在后端则利用磁带归档的容量和耐用性。

Versity首席执行官兼联合创始人Bruce Gilpin解释了围绕磁带基础设施的思维转变:"由于NVMe和内存成本飙升,2U服务器现在备货短缺数月,人们急于用非常规且不受限的存储系统构建AI基础设施。磁带在AI中使用不多,因为这些厂商财力充足。但这正在改变,部分原因是预算问题,但更多是因为可用性。磁带驱动器的流速度比人们意识到的要快得多,你可以并行运行它们。50个驱动器可以产生20 GBps的流来供应GPU,成本极其廉价。一个大厂商正在试验,我认为我们会看到其他厂商跟进。幸运的是,你需要一个超级强大的软件栈来协调所有这一切,但底层存储系统只是一堆便宜磁带和相对便宜的驱动器和库。"

Versity网关是一个无状态、模块化、开源的S3网关,它将标准AWS S3命令转换为针对一系列后端存储系统的操作,包括POSIX文件系统、ScoutFS/ScoutAM(支持磁带)和云存储。新架构在网关现有的TCP控制路径旁添加了基于RDMA的数据路径。它通过在任意数量的网关服务器实例之间分布许多GPU或主机客户端系统来扩展,每对系统在客户端内存和网关内存之间建立自己的直接RDMA路径。

RDMA允许数据在一个系统的内存和另一个系统之间直接移动,而不通过主机CPU路由。NVIDIA的cuObject框架是GPUDirect存储生态系统的一部分,应用于S3兼容对象存储,为应用程序提供了使用InfiniBand或RoCE等RDMA传输在GPU或系统内存与对象存储服务之间直接移动数据的方式。cuObject架构将S3请求分为两个独立通道:会话设置、身份验证、存储桶验证和对象元数据通过标准S3 API带内流动,而对象数据本身通过与S3会话并行运行的RDMA连接带外移动。RDMA数据通道从不通过客户端的CPU,也从不通过S3协议栈,避免了协议在传输中会添加的开销。

对于特别涉及GPU的工作负载,数据可以直接在网卡和GPU内存之间传输,几乎完全跳过CPU。GPU主机系统(包括GPU、CPU和NIC)通过RDMA(RoCE/IB)直接连接到Versity网关服务器系统的NIC并进入网关内存,后端存储通过网关的正常路径访问。对于PUT请求,对象通过RDMA上传到网关内存,网关随后将其流式传输到后端存储。对于GET请求,数据首先从后端存储暂存到网关内存,然后通过RDMA传输到客户端,使客户端能够RDMA访问网关支持的任何后端。

ScoutAM的GPUDirect磁带网关解决了一个随着数据集增长而变得更加紧迫的问题:如何在成本效益高、耐用的介质上处理巨大数据量,而不让存储操作成为GPU驱动管道的瓶颈。将数据归档到磁带可能仍然是一个稳定、持续的摄取过程,但RDMA改变了检索的方程式。AI训练管道不是一次读取数据集,而是每次模型需要重新训练或数据集需要重新处理时重新读取。ScoutAM可以重新排序大型数据集请求以匹配最优的磁带偏移位置,最小化磁带加载,最大化流式传输数据性能。结合新增的利用RDMA传输到GPU的能力,从磁带召回巨大数据集对于模型训练和其他大规模数据处理管道变得可行。

运行AI训练管道、大规模机器学习工作或HPC应用的组织经常发现其存储层而非计算层是限制因素。由于性能增益在读取端最为明显,最立即受益的工作负载是那些由重复、大规模读取定义的工作负载:将训练数据加载和重新加载到GPU内存中,将检查点反馈回恢复的训练运行,以及为新分析重新读取现有数据集。对于磁带特别地,这改变了保留在活跃归档中的实际情况,而不是将其视为冷的、缓慢的存储。以前可能似乎太慢以至于无法有效召回的训练数据集、检查点和模拟输出现在可以在需要时以RDMA速度被拉回。基因组学、媒体和娱乐、科学研究和大规模AI开发等领域的组织——所有这些都日常生成以PB为单位测量的数据量——获得了长期保留和再次取出的更快路径。

数据仍然以标准S3对象的形式到达和检索;POSIX文件系统和ScoutFS继续如前工作,ScoutAM仍然像以前一样管理磁带。由于Versity网关是开源的,RDMA支持作为同一项目的一部分而不是单独的付费附加组件包含,团队可以在现有S3工作流中添加此功能,而无需采用新的专有网关或许可证。

MinIO于2024年末宣布的AIStor也支持快速S3。它用S3 API、PromptObject和S3 over RDMA支持扩展了MinIO的企业对象存储软件,为AI训练和推理提供快速对象存储。MinIO声称数据直接从AIStor通过RDMA移动到GPU内存,绕过CPU和系统内存,采用零复制、内核旁路方法。但是AIStor是付费专有产品,与Versity的开源GPUDirect磁带网关不同,后者作为Versity S3网关的一部分提供,RDMA和cuObject支持无需单独付费层级即可包含。

6月,BeeGFS并行文件系统供应商ThinkParQ和磁带归档供应商GRAU DATA通过战略伙伴关系结盟,后者的XtreemStor磁带归档系统与BeeGFS进行了整合。两家公司声称这种集成提供了一个存储基础设施,能够处理数据密集型AI、HPC和大数据工作负载的高性能需求,以及此类应用所需和生成的数据的长期存储。

阅读原文
Versity演示磁带库可作为GPU驱动AI工作负载的成本高效数据源,启用冷存储分级。 · Slicast