Internet2与Cisco在内布拉斯加大学林肯分校和萨克拉门托州立大学部署新的AI POD,扩展用于研究和教育的共享计算能力。
Internet2通过与Cisco的战略合作,扩大了对国家研究平台(NRP)的贡献,支持在内布拉斯加大学林肯分校和萨克拉门托州立大学部署新的Cisco AI POD。这些AI POD增加了GPU容量,平台上的研究人员在本地资源不足时可以访问这些资源。
随着人工智能改变研究方式,NRP继续增长全国数千名研究人员和学生使用的共享、AI就绪的计算容量。Cisco AI POD为扩展NRP分布式基础设施引入了更标准化的方法。它们提供预验证的计算、网络和管理功能,可作为一个单元部署,减少了将新资源添加到平台所需的工程和集成工作——随着AI计算需求增长,为Internet2和其他NRP贡献者创造了一个可重复的模式。
**汇聚容量而非集中化**
随着AI驱动的发现涉及各个学科,研究计算变得日益复杂。机构间的网络基础设施差距是一个日益增长的关注,预算压力意味着许多机构被要求用更少资源做更多的事。共享模式有助于弥合这一访问差距。
在国家科学基金会的支持和超过70个参与组织的支持下,NRP是一个社区运营平台,汇聚了整个美国的计算、存储、性能测量和AI资源。它使组织能够做出贡献,同时让研究人员获得超越本地资源的能力。
NRP不是构建一个集中的超级计算机,而是通过聚合机构贡献的GPU和CPU容量来扩展,汇合到一个名为Nautilus的基于Kubernetes的架构。然而,该模式为贡献组织带来反复的挑战:需要建立GPU节点,在计算、网络和管理方面具有足够的兼容性,才能顺利接入共享的多地域集群。
Cisco AI POD解决了这一挑战。每个都是预验证的、完整栈的、模块化AI基础设施,基于Cisco验证设计,将Cisco UCS服务器和GPU节点与Nexus高带宽低延迟网络和Cisco Intersight集中管理配对。与其从头手动组装计算、存储和网络,为NRP做贡献的机构可以部署规模合适的AI POD,为每个加入平台的新节点减少集成风险和设置时间。
"如今,这两个新的AI POD在本地资源不足时为研究人员提供额外GPU容量访问,"Internet2网络服务和研究参与副总裁James Deaton表示。"Internet2的角色是连接这些要素:一个NRP需求、一个Cisco解决方案和两个准备好托管它的校园。与业界的战略关系是我们向整个研究和教育社区重新投资资源的方式之一。"
**AI POD详情**
在两个地点总计,AI POD提供:
- 8块NVIDIA H200 GPU,总计1.1 TB GPU内存
- 128个CPU核心
- 2 TB系统内存
- 90 TB NVMe闪存用于数据暂存
在每个地点,AI POD包括一个Cisco UCS C845A M8服务器机箱,GPU通过NVLink互连,使作业可以将全部四个作为共享GPU内存池使用,以及一个NVIDIA BlueField-3 DPU,提供从每个AI POD到校园和国家R&E网络高达2×200 Gbps的连接。
**继续投资共享研究基础设施**
Internet2对NRP的贡献继续扩大美国各地R&E获取共享计算资源的渠道。分布式平台需要的不仅仅是GPU——数据必须到达计算资源,节点间的路径必须可测量。Internet2国家网络支持这两方面。
Internet2在博伊西、丹佛、休斯顿、印第安纳波利斯、杰克逊维尔和堪萨斯城运营专用的开放科学数据联邦节点。通过国家网络连接,这些缓存将数据集保持在更靠近计算资源和使用它们的研究人员的位置。此外,网络上目前有41个性能保证服务节点提供混合NRP功能。与全球部署的数千个perfSONAR实例一起,它们为NRP提供遍布Internet2服务范围的测量点,支持站点间的跨域性能监测和故障排除。这些节点还贡献1,200个CPU核心、6.4 TB内存和80 TB存储容量。
**通过行业合作创造价值**
部署AI POD以支持NRP的举措体现了Internet2如何通过与行业成员的战略关系为社区创造价值。Internet2与Cisco的合作伙伴关系帮助将资源引导至NRP,支持两个校园部署并验证了其他贡献者可以采用的可重复方法。随着AI重塑研究网络基础设施需求,Internet2为满足这些需求而建立的专业知识和战略关系将继续造福更广泛的R&E社区。
**关于Internet2**
Internet2是一个非营利、会员驱动的先进技术社区,由美国领先的高等教育机构于1996年创立。Internet2服务352所美国大学、57个政府机构、46个区域和州教育网络,通过它们支持超过80,000个社区锚点机构、1,000多个InCommon参与者、61家领先公司和70个代表100多个国家的国家研究和教育网络运营商。Internet2通过利用和放大成员优势来支持他们的教育、研究和社区服务使命,提供多样化的技术解决方案组合。其核心基础设施包括美国最大和最快的研究和教育网络,旨在提供由社区开发的信任和身份框架访问和保护的先进定制服务。