Internet2와 Cisco는 University of Nebraska–Lincoln과 Sacramento State에 새로운 AI POD를 배포하여 연구 및 교육을 위한 공유 컴퓨팅 용량을 확대했습니다.
Internet2는 Cisco와의 전략적 파트너십을 통해 National Research Platform(NRP)에 대한 기여를 확대하고 있으며, University of Nebraska–Lincoln과 Sacramento State에서 새로운 Cisco AI POD 배포를 지원하고 있습니다. AI POD는 플랫폼 전체의 연구자들이 현지 자원이 부족할 때 접근할 수 있는 GPU 용량을 추가합니다.
인공지능이 연구를 변화시키면서 NRP는 전국 수천 명의 연구자와 학생이 사용하고 있는 공유 AI 준비 컴퓨팅 용량을 계속 확대하고 있습니다. Cisco AI POD는 NRP의 분산 인프라를 확대하는 데 더 표준화된 접근 방식을 제시합니다. 사전 검증된 컴퓨팅, 네트워킹 및 관리 기능을 제공하여 하나의 단위로 배포할 수 있으며, 플랫폼에 새로운 자원을 추가하는 데 필요한 엔지니어링 및 통합 작업을 줄입니다. AI 컴퓨팅 수요가 증가하면서 Internet2 및 다른 NRP 기여자들을 위한 반복 가능한 모델을 창출합니다.
**용량 풀링 대신 중앙화**
AI 지원 발견이 모든 분야에 도달하면서 연구 컴퓨팅은 훨씬 더 복잡해졌습니다. 기관 간의 사이버 인프라 격차는 점점 더 우려의 대상이 되고 있으며, 예산 압박으로 인해 많은 기관이 더 적은 예산으로 더 많은 일을 하도록 요청받고 있습니다. 공유 모델은 이러한 접근성 격차를 해소하는 데 도움이 될 수 있습니다.
National Science Foundation이 지원하고 70개 이상의 참여 기관이 참여하는 NRP는 미국 전역의 컴퓨팅, 저장소, 성능 측정 및 AI 자원을 모으는 커뮤니티 운영 플랫폼입니다. 기관이 기여할 수 있으면서 동시에 연구자들은 현지에서 보유한 것 이상의 기능에 접근할 수 있게 합니다.
하나의 중앙화된 슈퍼컴퓨터를 구축하는 대신 NRP는 기관이 기여한 GPU 및 CPU 용량을 Nautilus라고 하는 단일 Kubernetes 기반 패브릭으로 집계하여 확장합니다. 그러나 이 모델은 기여하는 기관에 대해 반복되는 장애물을 만듭니다: 공유 다중 지역 클러스터에 깔끔하게 통합될 수 있을 만큼 컴퓨팅, 네트워킹 및 관리에서 호환성이 충분한 GPU 노드를 설정하는 것입니다.
Cisco AI POD는 이 문제를 해결합니다. 각각은 Cisco Validated Designs 기반의 사전 검증된 전체 스택의 모듈식 AI 인프라로, Cisco UCS 서버 및 GPU 노드를 Nexus 고대역폭 저지연 네트워킹 및 중앙 관리를 위한 Cisco Intersight과 연결합니다. NRP에 기여하는 기관은 처음부터 컴퓨팅, 저장소 및 네트워킹을 수동으로 조립하는 대신 적절한 크기의 AI POD를 배포하여 각 새로운 노드가 플랫폼에 참여하는 데 통합 위험과 설정 시간을 줄입니다.
Internet2 네트워크 서비스 및 연구 참여 부사장인 James Deaton은 "현재 이 두 개의 새로운 AI POD는 현지 자원이 충분하지 않을 때 연구자들에게 추가 GPU 용량에 대한 접근을 제공합니다"라고 말했습니다. "Internet2의 역할은 요소들을 연결하는 것이었습니다: NRP의 필요, Cisco 솔루션, 그리고 이를 호스팅할 준비가 된 두 캠퍼스. 산업 파트너와의 전략적 관계는 연구 및 교육 커뮤니티 전체에 자원을 재투자하는 방법입니다."
**AI POD 정보**
두 사이트 모두에서 결합된 AI POD는 다음을 제공합니다:
- 1.1TB의 결합 GPU 메모리를 가진 8개의 NVIDIA H200 GPU
- 128 CPU 코어
- 2TB의 시스템 메모리
- 데이터 스테이징을 위한 90TB의 NVMe 플래시
각 사이트에서 AI POD는 NVLink 위에 GPU가 상호 연결된 단일 Cisco UCS C845A M8 서버 섀시를 포함합니다. 작업이 GPU 메모리의 공유 풀로 모두를 처리할 수 있으며, NVIDIA BlueField-3 DPU는 각 AI POD에서 캠퍼스 및 국가 R&E 네트워크로 최대 2×200 Gbps 연결을 제공합니다.
**공유 연구 인프라에 대한 투자 계속**
NRP에 대한 Internet2의 기여는 계속 미국 전역의 공유 계산 자원에 대한 R&E 접근을 확대합니다. 분산 플랫폼은 GPU 이상이 필요합니다. 데이터는 컴퓨팅에 도달해야 하고 노드 간의 경로는 측정 가능해야 합니다. Internet2 국가 네트워크는 둘 다를 지원합니다.
Internet2는 Boise, Denver, Houston, Indianapolis, Jacksonville 및 Kansas City에서 전용 Open Science Data Federation 노드를 운영합니다. 국가 네트워크를 통해 연결된 이러한 캐시는 데이터세트를 계산 자원 및 이를 사용하는 연구자에게 더 가깝게 유지합니다. 또한 네트워크의 41개 성능 보증 서비스 노드는 현재 하이브리드 NRP 기능을 수행합니다. 전 세계에 배포된 수천 개의 perfSONAR 인스턴스와 함께 NRP에 Internet2 범위 전역의 측정 포인트를 제공하여 사이트 간의 크로스 도메인 성능 모니터링 및 문제 해결을 지원합니다. 이러한 노드는 또한 1,200 CPU 코어, 6.4테라바이트의 메모리 및 80테라바이트의 저장소 용량을 기여합니다.
**산업 협력을 통한 가치 창출**
NRP를 지원하기 위해 AI POD를 배포하는 것은 Internet2가 산업 회원과의 전략적 관계를 통해 커뮤니티 가치를 어떻게 창출하는지를 보여줍니다. Internet2와 Cisco의 파트너십은 NRP에 자원을 지향하고 두 캠퍼스 배포를 지원하며 다른 기여자가 사용할 수 있는 반복 가능한 접근 방식을 검증했습니다. AI가 연구 사이버 인프라 요구 사항을 재형성할 때 Internet2가 구축하는 전문 지식과 전략적 관계는 더 넓은 R&E 커뮤니티에 계속 이익을 줄 것입니다.
**Internet2 정보**
Internet2는 1996년 미국의 주요 고등교육 기관들이 설립한 비영리, 회원 주도 고급 기술 커뮤니티입니다. Internet2는 352개의 미국 대학, 57개의 정부 기관, 46개의 지역 및 주 교육 네트워크를 지원하며, 이를 통해 80,000개 이상의 커뮤니티 앵커 기관, 1,000개 이상의 InCommon 참여자, 61개의 주요 기업 및 100개 이상의 국가를 대표하는 70개의 국가 연구 및 교육 네트워크 운영자를 지원합니다. Internet2는 회원의 강점을 활용하고 증폭하여 교육, 연구 및 커뮤니티 서비스 사명을 지원하는 데 필요한 다양한 기술 솔루션 포트폴리오를 제공합니다. 핵심 인프라는 고급 커스텀 서비스를 제공하기 위해 구축되고 커뮤니티 개발 신뢰 및 신원 프레임워크로 접근 및 보안이 제공되는 미국 최대 및 최고 연구 및 교육 네트워크를 포함합니다.