在内存与存储未来大会上，NVIDIA展示先进AI存储基础设施，含开源技术，
激增的人工智能需求正推动对海量数据集和上下文窗口的发展，这些需求已突破系统内存的限制。单纯增加存储容量无法满足日益增长的需求。我们需要来自AI工厂的实用、基于事实的洞察，以及能够支持这些洞察的高效、安全存储架构。在本周举行的“内存与存储的未来”（FMS）会议上，英伟达（NVIDIA）展示了新的存储进展，并展示了人工智能的下一飞跃在多大程度上依赖于为加速计算提供支持的存储基础设施，而不仅仅是计算能力本身。随着AI代理消耗大量数据，且GPU现在可以直接发起存储请求，生成数千个并发操作，这种基础设施的压力正在加剧。为了满足这些请求，存储系统必须持续地对数据进行加密、压缩、验证和重建。当数千个代理同时访问存储时，这些关键的数据服务可能成为瓶颈。
本英伟达技术博客中强调的基准测试显示，作为英伟达Vera BlueField-4 STX一部分的英伟达Vera CPU，在两阶段压缩和加密流水线中，其吞吐量比x86 CPU高出高达3.21倍。这意味着使用Vera，存储平台可以更有效地吸收AI数据的洪流，以更少的计算基础设施实现更高的吞吐量。通过加速计算，存储不再是被动的数据存储场所，而是成为数据路径中的活跃部分。这颠覆了决定数据何时属于内存而非存储在驱动器上的旧经济学观念。这种权衡最早在40年前被提出，当时衡量标准是以分钟为单位访问数据。而在今天的GPU上，配合英伟达和合作伙伴提供的AI存储解决方案，同样的权衡现在以微秒为单位进行。缩小AI需求与内存短缺之间的差距取决于整个生态系统的极端协同设计，从内存和存储制造商到在其之上构建的软件。
在FMS会议上，英伟达宣布开源其cuFile应用程序编程接口（APIs）及其下方的垂直存储软件栈，这使得GPU不仅可以读取和写入存储，还可以直接读写存储。cuFile是英伟达GPUDirect Storage的一个开源组件。利用数十万个GPU线程、高速高带宽内存和其他方法，cuFile能够在几微秒内安全地访问存储中的数据。这代表了行业如何统一基于Linux最佳实践的安全优先存储栈，提供GPU和数据之间的互操作性。此外，快速、安全地访问数据和存储是支持预防性和检测性网络安全措施的基础要素。使cuFile公开可用将有助于使安全上下文、数据和存储以AI驱动防御所需的速度变得可访问。此类开放技术支持诸如新成立的Open Secure AI Alliance等倡议。该网站是新API的主页，接受贡献，由Google、Intel、NVIDIA和Meta作为初始维护者，并且可以针对各种软件硬件平台进行优化，为开发者和企业推动创新和效率。
此外，英伟达和存储行业领导者正在通过名为Storage-Next的计划优化内存和存储解决方案。这一由英伟达主导的计划汇集了存储制造商、控制器供应商、热设计、冷却和编排运营商以及标准机构，就GPU驱动的存储应如何表现达成一致，然后将这些进步转化为可互操作的开放行业标准。Storage-Next包括超过40家领先的存储和闪存供应商，包括DDN、KIOXIA和美光，每家都在下一代AI存储技术与英伟达合作方面做出贡献。该计划基于大规模AI数据集的快速数据访问。为此，英伟达提供了SCADA（扩展加速数据访问），这是一个框架，允许大规模并行GPU直接从存储中提取应用程序所需的必要数据到它们自己的高速内存中。例如，DDN正在将其Infinia（一个旨在消除大规模存储瓶颈的软件定义、AI原生数据智能平台）与SCADA集成。“AI的成功将由组织拥有多少基础设施来定义，而不是他们如何利用它，”DDN首席技术官Sven Oehme说。“我们与英伟达的合作有助于创建GPU和数据之间更直接、高效的连接，保持加速计算资源的生产力，加快洞察力获取时间，并使客户能够从他们的AI投资中获得更强的业务和财务回报。”
Storage-Next和SCADA延伸了英伟达长期以来在AI存储基础设施方面的工作，包括基于英伟达Vera Rubin平台的模块化机架级基础——英伟达Vera BlueField-4 STX，配备英伟达Vera BlueField-4存储处理器和英伟达Spectrum-X以太网网络。定义一类新的AI原生数据平台，英伟达STX使用统一的英伟达DOCA安全栈，让企业在AI数据路径中启用持续策略执行。此外，英伟达CMX Context Memory Storage为长上下文、多轮、代理式AI推理提供了一个AI原生的上下文层，建立在英伟达STX之上。存储层的速度有一个代价。让应用程序直接与驱动器通信很快，但如果处理不当，可能会覆盖其他进程的内存，这是一个安全漏洞，而不是特性。英伟达SCADA采用一种安全、稳健的方法来实现扩展的直接访问，通过将任务分为两部分。需要原始速度的应用程序用户部分位于可信计算基之外。一个单独的、特权组件在设置期间配置用户应用程序与其批准的存储之间的受保护访问，遵循标准的Linux协议以确保安全执行，同时高效保护数据。这一切都是如何通过快速、大规模并行、高效、安全的AI存储基础设施的进步，为应用程序和AI工厂提供更好的数据，从而产生更多有用、准确、基于事实的智能的一部分。参加8月4日至6日在加利福尼亚州圣克拉拉举行的FMS会议上的英伟达会议，了解更多关于英伟达AI存储的信息。请参阅有关软件产品信息的通知。