AWS가 NVIDIA T4 GPUs를 Outposts에 통합하여 온프레미스 AI 추론 및 렌더링 작업 부하를 지원한다.

Amazon Web Services Inc.은 오늘 Nvidia Corp.의 T4 그래픽스 처리 장치(GPU)가 탑재된 G4 인스턴스를 추가하여 AWS Outposts 플랫폼을 강화했습니다. Outposts를 통해 조직은 자체 데이터 센터에 AWS 인프라를 배포할 수 있으며, Amazon.com Inc. 자회사가 대신 하드웨어를 관리합니다. 이 서비스는 AWS의 기술 역량을 활용하고자 하지만 규제, 규정 준수 또는 보안상의 이유로 퍼블릭 클라우드에 워크로드를 배포할 수 없는 기업들을 대상으로 합니다. 예를 들어, 의료 회사들은 환자 기록과 독점 연구 파일을 외부 시설로 옮기는 것보다 자체 관리형 데이터 센터 내에 보관하는 것을 선호할 수 있습니다.

Nvidia의 엔터프라이즈 및 엣지 컴퓨팅 그룹의 제품 담당 선임 이사인 Justin Boitano는 이러한 접근 방식의 비즈니스 타당성을 강조했습니다: "대부분의 기업들은 자사의 핵심 지적 재산권이라고 생각하기 때문에 데이터를 자체 관리 영역 내에 보관합니다. 하지만 딥러닝이 연구에서 프로덕션으로 전환되려면 엔터프라이즈는 클라우드가 제공하는 유연성과 개발 편의성이 필요합니다. 즉, 데이터 바로 옆에 있어야 합니다. 이것이 T4 GPU를 탑재한 AWS Outposts가 이제 제공하는 핵심 부분입니다."

T4로 구동되는 G4 인스턴스는 두 가지 주요 사용 사례를 해결하도록 설계되었습니다: 실시간 데이터에서 학습된 AI 모델을 실행하는 추론(inference)과 그래픽스 렌더링입니다. G4 인스턴스는 4개에서 96개의 가상 중앙 처리 장치(vCPU)에 이르는 7가지 크기로 제공됩니다. 가장 저사양의 5가지 구성은 단일 T4 GPU가 포함되어 있으며, 최고사양 모델은 각각 4개 및 8개의 GPU와 함께 최대 1.8테라바이트의 로컬 NVMe 플래시 스토리지를 갖춥니다.

Nvidia의 T4 칩은 회사의 데이터 센터 제품 계층에서 중간 위치를 차지하며, 프리미엄 Volta V100 카드 아래에 위치합니다. V100과 달리 기계 학습 워크로드에만 특화된 반면, T4는 보다 범용 아키텍처를 특징으로 하며 그래픽스 처리를 가속화하도록 설계된 RT Cores라고 불리는 40개의 전문 회로를 포함합니다. 이러한 RT Cores는 영화 제작용 컴퓨터 생성 이미지를 포함한 미디어 파일의 빛과 그림자 효과 생성 속도를 높입니다.