NVIDIA와 AWS가 Blackwell GPU 기반 EC2 G7 인스턴스와 OpenSea 내 GPU 가속 벡터 검색을 공동으로 발표했습니다

대규모 AI 시스템 구축은 낮은 지연시간 추론, 빠른 벡터 검색, 우수한 GPU 가격 대비 성능, 그리고 운영 복잡성을 증가시키지 않으면서 확장 가능한 인프라를 필요로 합니다. NVIDIA와 Amazon Web Services의 최신 협업은 Amazon OpenSearch와 Amazon EC2 전반의 혁신을 통해 이러한 모든 제약을 극복합니다.

Amazon EC2 G7 인스턴스는 NVIDIA RTX PRO 4500 Blackwell Server Edition GPU로 구동되며 AI, 그래픽, 비디오 및 데이터 분석 워크로드를 위한 컴퓨팅 레이어를 확대합니다. G6 인스턴스와 비교하여 G7은 최대 4.6배의 AI 추론 성능, 최대 2.1배의 그래픽 성능, 그리고 Apache Spark 워크로드용 NVIDIA cuDF 라이브러리를 활용한 Amazon EMR에서 상당히 향상된 GPU 가속 데이터 분석을 제공합니다. 최대 8개의 GPU, 총 256기가바이트의 GPU 메모리, 초당 700기가비트의 EFA 지원 네트워킹, 그리고 1개, 2개, 4개, 8개 GPU 구성 및 곧 출시될 베어 메탈에 걸쳐 최대 7.6테라바이트의 로컬 NVMe SSD 스토리지를 지원하므로, G7 인스턴스는 고객이 과도한 프로비저닝 대신 워크로드에 맞춘 인프라를 구성할 수 있게 합니다. 이 인스턴스는 AWS Deep Learning Amazon Machine Images, Amazon Deep Learning Containers, Amazon EMR, Amazon EKS, Amazon ECS 및 그래픽 AMI를 통해 접속할 수 있으며, Amazon SageMaker AI에 대한 가용성은 곧 제공될 예정입니다.

Amazon OpenSearch Serverless는 NVIDIA cuVS로 구동되는 GPU 가속 벡터 인덱싱을 모든 벡터 컬렉션의 기본 컴퓨팅 선택으로 사용하여 인프라 관리가 필요 없는 agentic AI 및 동적 워크로드를 지원합니다. 검색 증강 생성, 의미론적 검색, 추천 시스템 및 agentic AI 애플리케이션을 구축하는 팀의 경우, 이는 GPU 기반 벡터 검색을 특화된 최적화 프로젝트에서 표준 AWS 기능으로 전환합니다. 벡터 인덱싱은 CPU 전용 구성 대비 최대 10배 빠르게 실행되며 비용은 4분의 1 수준으로, 10억 규모의 벡터 데이터베이스를 1시간 이내에 실용적으로 구축하는 것이 가능하게 합니다.

AWS는 훈련 워크로드를 위해 NVIDIA GB300에서 NVIDIA Exemplar Cloud 상태를 달성했으며, 이는 NVIDIA가 AI 워크로드를 자체 참조 아키텍처 대비 벤치마킹하기 위해 설정한 엄격한 성능 기준을 충족합니다. 이 성과는 AWS와 NVIDIA 팀 간의 심층적인 공동 엔지니어링 노력의 결과이며, 개발자 및 AI 리더들이 대규모 훈련을 위해 일관되고 고성능의 클라우드 인프라를 활용하면서 총 소유 비용에 대한 확신을 높이고 시장 출시 시간을 단축할 수 있게 합니다.