미국 우정청이 대규모 AI 기반 우편 처리를 위해 Nvidia GPU 서버를 배치합니다.
Nvidia는 워싱턴 D.C.의 GTC 컨퍼런스에서 화요일 U.S. Postal Service가 Hewlett Packard Enterprise로부터 2020년 봄 배포를 위한 GPU 가속화 서버를 구매할 것이라고 발표했다. 이 프로젝트는 패키지 데이터 처리를 10배 가속화할 것으로 예상되며, GPU 가속화 인프라는 우편청의 우편 처리 및 분류 워크플로우 개선을 위해 설계되었다. Nvidia의 초기 보도자료에서는 Dell EMC를 프로젝트의 다른 서버 공급업체로 언급했으나 최종 버전에서는 제거되었다. 그러나 Dell EMC 대변인은 CRN에 이 회사가 프로젝트에 참여하고 있음을 확인했으나 자세한 내용은 제공하지 않았다.
인프라는 딥러닝 및 고성능 컴퓨팅 워크로드용 최대 8개의 Nvidia GPU를 탑재한 HPE의 Apollo 6500 서버와 U.S. 우편청의 약 200개 처리 시설에 배포될 Nvidia의 EGX 엣지 컴퓨팅 시스템으로 구성될 예정이다. 데이터 센터에서 우편청은 Nvidia의 V100 Tensor Core GPU와 딥러닝 소프트웨어가 탑재된 서버를 사용하여 다양한 AI 알고리즘을 학습한 후 패키지 처리 시설의 EGX 시스템에 배포할 것이다. 초기 사용 사례 중 하나는 패키지 라벨 인식의 속도와 정확성을 개선하는 것으로, 배송 속도를 높이고 인적 개입의 필요성을 줄일 것이다.
Nvidia의 연방 부문 사업 부사장 Anthony Robbins는 우편청의 운영 규모를 강조하면서 이 기관이 하루에 약 4억 8,500만 개의 우편물을 처리하고 연간 1,460억 개를 처리한다고 언급했다. "그들은 Nvidia의 GPU를 사용하고, 지난 10년간 우리가 제공한 소프트웨어를 사용하고, HPE와 Dell의 서버를 사용함으로써 데이터를 10배 더 빠르고 높은 정확도로 처리할 수 있을 것이라고 믿고 있습니다"라고 Robbins는 말했다. 그는 또한 우편청의 GPU 기반 가속화 도입 결정이 Moore의 법칙이 "세계 데이터 처리를 따라가는 CPU의 능력에 대한 도전을 만들고 있다"는 점을 강조한다고 지적했다.
Robbins는 이 프로젝트가 여러 기관과 부서 전반에 걸친 AI 솔루션에 대한 연방 정부의 광범위한 추진을 반영한다고 강조하면서 "현재 연방 정부 전체에서 시민 서비스를 위한 AI 개발 및 배포를 가속화하려는 움직임이 있습니다"라고 말했다. 우편청이 온프레미스 서버와 엣지 서버 활용을 계획하고 있으므로, 이 프로젝트는 기업들이 현대 IT 인프라에 하이브리드 접근 방식을 취하고 있음을 보여준다. "미래의 기업은 클라우드, 온프레미스 및 엣지 처리 사이의 균형을 유지해야 하며 Nvidia는 모든 영역의 소프트웨어 스택에서 GPU를 사용 가능하게 하고 있습니다"라고 Robbins는 말했다.
특히 엣지 처리는 가까운 미래의 주요 성장 기회를 나타내며, Nvidia는 이것이 EGX 플랫폼의 판매를 촉진할 것으로 예상하는 분야이다. "엣지 처리 요구 사항은 급속도로 증가하고 있으며 5G가 도입되면 크게 증가할 것입니다"라고 Robbins는 지적했다. HPE와 Dell이 새로운 온프레미스 및 엣지 서버를 직접 배포하고 있지만, Robbins는 인프라 관리 방식으로 인해 이 거래가 채널 파트너를 위한 상당한 서비스 기회를 창출할 것이라고 지적했으며, 여기에는 잠재적으로 Nvidia Partner Network 내의 부가가치 재판매업체가 포함될 수 있다.