짐렛 랩스는 6개 칩 기반 AI 추론 아키텍처를 수백 메가와트 규모로 확장하기 위해 30억 달러 평가액으로 3억 달러의 자금을 유치했다.

Gimlet Labs는 AI 추론 인프라 스타트업으로, 시리즈 B 자금 조달을 통해 3억 달러를 유치했으며 기업 가치는 30억 달러로 평가받았습니다. 이는 인공지능의 물리적 인프라 뒤에 있는 다중 실리콘 접근 방식을 더욱 심화시키는 과정에서 새로운 자본을 확보한 것입니다. 이번 라운드는 Andreessen Horowitz가 주도했으며, Arm Holdings, Microsoft의 벤처 캐피털 부문인 M12, Samsung Ventures가 참여했습니다. 이 자금 조달로 Gimlet Labs의 총 누적 투자액은 시드 및 시리즈 A 라운드에서 이전에 확보한 9,200만 달러를 포함해 3억 9,200만 달러가 되었습니다.

Gimlet Labs는 또 다른 AI 칩을 개발하는 대신, 서로 다른 유형의 프로세서를 함께 작동하도록 설계된 소프트웨어와 인프라를 구축하고 있습니다. 현재 그 플랫폼은 Nvidia, AMD, Intel, Arm, Cerebras, d-Matrix 등 여섯 개의 반도체 제조사의 하드웨어를 지원합니다. 동사는 핵심 제품을 ‘다중 실리콘 추론 클라우드’라고 설명합니다. 전체 AI 추론 워크로드를 단일 프로세서 유형에 할당하는 대신, 해당 기술은 워크로드를 여러 단계로 분할합니다. 그리고 각 개별 단계는 작업에 더 적합한 하드웨어에 따라 GPU, CPU 또는 전용 가속기로 전송됩니다. 개발자에게 이 시스템은 추론 코드를 한 번 작성하면 기본 플랫폼이 실행 위치를 결정해 주는 기능을 제공합니다. Gimlet Labs는 자사 소프트웨어가 비용과 속도 등의 요인에 따라 작업을 라우팅하여 단일 하드웨어 공급업체에 대한 의존도를 줄인다고 말합니다.

이러한 차별화는 중요한 의미를 지닙니다. AI 추론의 서로 다른 단계는 하드웨어에 다양한 요구 사항을 부과하기 때문입니다. 입력 정보를 처리하는 프리필(prefill) 단계는 상당한 컴퓨팅 용량이 필요합니다. 토큰을 순차적으로 생성하는 디코드(decode) 단계는 메모리 대역폭에 더 크게 의존합니다. AI 에이전트는 이러한 균형을 더욱 복잡하게 만드는데, 단일 작업 동안 모델을 외부 도구와 반복적으로 호출할 수 있기 때문입니다. Gimlet Labs는 이러한 차이점이 모든 단계를 동일한 아키텍처에 강제로 배치하는 대신, 서로 다른 프로세서 간에 워크로드를 분할할 기회를 창출한다고 보고 있습니다.

동사는 이종 접근 방식이 동일한 비용 및 전력 조건 하에서 최첨단 AI 워크로드의 성능을 3배에서 10배까지 향상시킬 수 있다고 주장합니다. 또한 동일한 전력 엔벨로프 내에서 처리량과 상호작용 성능이 최대 10배까지 개선될 수 있다고도 말합니다. 이는 모두 동사의 주장이며, 제공된 정보에는 독립적인 벤치마크 결과가 포함되어 있지 않습니다.

소프트웨어 오케스트레이션을 넘어 Gimlet Labs는 이제 데이터 센터 인프라로도 사업을 확장하고 있습니다. 동일한 시설 내에서 서로 다른 클래스의 실리콘을 운영하면 전력 밀도, 네트워킹, 냉각 측면에서 GPU, CPU, 특수 목적 가속기가 각각 상이한 요구 사항을 가지기 때문에 고유한 도전 과제가 발생합니다. 기존 데이터 센터는 반드시 이러한 조합을 중심으로 구축된 것은 아니었습니다. 이러한 제약을 해결하기 위해 동사는 고객들의 데이터 센터 구축을 지원하면서도 자체 관리용 용량을 동시에 확대하고 있습니다. 3월 이후 Gimlet Labs는 수십억 달러 규모의 계약을 체결했고 관리용 용량을 수백 메가와트로 늘렸습니다. 또한 Arm과 협력하여 Arm 기반 반도체에서 자사 소프트웨어를 운영하는 작업도 진행 중입니다.

2023년 스탠퍼드 대학교의 연구 프로젝트에서 탄생한 이 회사는 샌프란시스코에 본사를 두고 있으며, 2025년 10월까지 스텔스 모드로 운영되다가 공개적으로 모습을 드러내고 AI 에이전트를 위한 추론 플랫폼을 소개했습니다. CEO Zain Asgar As와 창립 팀 멤버들은 2020년 New Relic에 인수된 쿠버네티스 관측 가능성 회사인 Pixie에서 함께 일한 경력이 있습니다. 최신 자금 조달로 설립된 지 2년 된 이 회사는 자체 프로세서를 설계하거나 제조하지 않아도 유니콘 기업 지위를 획득했습니다. 대신 그 가치는 미래 AI 인프라가 단일 공급업체에 영구적으로 묶인 워크로드가 아니라 여러 칩 아키텍처가 함께 작동하는 형태가 될 것이라는 제안에 기반합니다.

여전히 중요한 미지수가 남아 있습니다. Gimlet Labs는 매출이나 고객 수를 공개하지 않아 현재 상업적 성과 대비 30억 달러라는 기업 가치를 평가하기 어렵습니다. 따라서 해당 가치는 공개된 운영 실적뿐만 아니라 향후 수요에 대한 기대감도 반영한 것입니다. 또한 동사가 칩 제조사와 고객 사이에 차지하는 위치에 관한 구조적 문제도 존재합니다. 현재 Gimlet Labs 생태계 내에서 활동하는 반도체 회사들은 결국 자체 오케스트레이션 능력을 더 많이 개발할 수 있습니다. 지원되는 하드웨어 플랫폼 중 하나라도 접근이 제한되면 아키텍처 간에 워크로드를 자유롭게 이동시킬 수 있다는 약속이 약화될 수도 있습니다.

하지만 당분간 Gimlet Labs는 명확한 명제를 중심으로 사업을 전개하고 있습니다. 즉, AI 추론은 하나의 칩 유형에 속할 필요가 없다는 것입니다. 3억 달러 규모의 시리즈 B 자금 조달, 여섯 개 제조사로 구성된 하드웨어 발자국, 수십억 달러 규모의 계약, 그리고 수백 메가와트의 관리용 용량으로의 확장은 동사가 이 명제를 상당한 규모로 인프라화하려고 시도하고 있음을 시사합니다.