Rival.io가 GraphX를 출시했으며, 이 제품은 NVIDIA L4 GPU 8개만으로 DeepSeek V4 Flash를 구동합니다.

DeepSeek V4 Flash 배포는 GraphX가 하드웨어의 한계를 더 끌어올리고 프라이빗 AI의 비용을 낮출 수 있음을 보여줍니다.

2026년 10월 29일 — Rival.io는 자체 개발한 커널 최적화 및 실리콘 배치 기술인 GraphX를 오늘 출시하고, 단 8개의 NVIDIA L4 GPU로 DeepSeek V4 Flash를 배포했다고 발표했습니다. 이번 성과는 GraphX가 이를 지원하기에 부족하다고 여겨지는 하드웨어에서도 대규모 오픈 웨이트 모델을 구동할 수 있음을 보여주며, 프라이빗 AI에 필요한 인프라와 비용에 대한 통념에 도전합니다.

Rival.io의 공동 창업자 겸 CEO인 Craig Kronenberger는 "이 규모의 모델이라면 대부분의 조직이 무시했을 하드웨어로 DeepSeek V4 Flash를 구동해냈습니다"라며 "이는 AI 인프라와 프라이빗 AI의 비용에 대한 논의를 바꿔야 합니다. 기업들은 더 비싼 하드웨어를 도입하기 전에, 이미 보유한 하드웨어가 얼마나 더 많은 성능을 낼 수 있는지부터 물어봐야 합니다"라고 말했습니다.

GraphX는 모델이 GPU에 배치되는 방식과 메모리 및 연산 성능을 활용하는 방식을 최적화합니다. 이를 통해 기업은 더 적거나 더 저렴한 GPU로 워크로드 요구 사항을 충족하고, 이미 보유하고 있거나 손쉽게 이용할 수 있는 하드웨어에서 더 큰 용량을 얻을 수 있습니다. 모델과 워크로드에 따라 GraphX는 내부에서 직접 운영하거나 하이퍼스케일 클라우드 제공업체가 호스팅하는 동등한 배포 대비 오픈 웨이트 모델 호스팅 비용을 최대 95%까지 절감할 수 있습니다.

8개의 L4로 구성된 이 환경은 총 192GB의 GPU 메모리를 결합했으며, 모델의 컨텍스트 윈도우와 이에 연관된 KV 캐시를 지원했습니다. 이는 이전에는 전문적이고 값비싼 하드웨어 구성이 필요했던 기능입니다.

Rival.io는 또한 8개의 NVIDIA RTX 6000 GPU에서 DeepSeek V4 Flash를 배포하여 완전한 엔터프라이즈급 성능을 구현했으며, 이를 통해 GraphX가 높은 동시성의 엔터프라이즈 워크로드를 지원할 수 있음을 입증했습니다.

Rival.io의 공동 창업자 겸 CTO인 Charlie Wardell은 "하드웨어 사양만으로는 시스템이 무엇을 제공할 수 있는지 알 수 없습니다. 모델을 어떻게 배치하고, 메모리를 어떻게 관리하며, 연산을 어떻게 실행하느냐에 따라 그 하드웨어로 가능한 것이 근본적으로 달라질 수 있습니다"라며 "그 의미는 L4를 넘어섭니다. 우리는 대규모 오픈 웨이트 모델을 실행할 수 있는 하드웨어의 범위를 넓히고 있으며, 프라이빗 AI가 소수의 고가 GPU에만 의존할 필요가 없다는 것을 보여주고 있습니다"라고 말했습니다.

GraphX는 호환되는 AMD, Intel, NVIDIA 하드웨어 전반에서 워크로드를 최적화하고, DeepSeek, GLM, Kimi 모델을 지원합니다. 이를 통해 기업은 성능 요구 사항, 예산, 가용 용량에 따라 모델과 인프라를 유연하게 선택할 수 있습니다.

지원되는 모델은 기업 자체 클라우드나 데이터 센터, 또는 Rival.io 전용 인프라에 배포할 수 있습니다. 각 배포는 자체 보안 엔드포인트와 액세스 자격 증명을 갖춘 전용의 격리된 환경에서 운영되며, AI가 실행되는 위치를 통제하고 연결을 승인된 사용자 및 애플리케이션으로 제한합니다. 모델은 Rival.io 내에서 워크플로, 에이전트, 애플리케이션을 구동하거나 서드파티 도구와 연결할 수 있어, 기업이 이미 사용 중인 시스템 전반으로 프라이빗 AI를 확장할 수 있습니다.

GraphX는 Rival.io/graph-x에서 주문형으로 이용할 수 있습니다.

Rival.io 소개

Rival.io는 기업이 AI를 구축, 배포, 거버넌스하고 확장하는 데 필요한 모든 것을 하나의 통합된 모델 불가지론적(model-agnostic) 플랫폼에 담은 엔터프라이즈 AI 운영체제입니다. CortexOne을 기반으로 하는 Rival.io는 기업이 복잡한 인프라를 직접 관리하지 않고도 AI 워크플로를 오케스트레이션할 수 있게 하며, 개발자와 도메인 전문가가 재사용 가능한 도구, 함수, 에이전트, 시스템을 게시, 보호, 수익화할 수 있는 방법을 제공합니다. 자세한 내용은 rival.io에서 확인하세요.