General Compute는 추론 칩 담보(GPU 제외)를 기반으로 한 역사상 최초의 4억 달러 대출을 확보했으며, 이는 특화된 AI 가속기가 은행거래 가능한 자산으로 시장에서 인정받고 있음을 시사한다.

보스턴 기반의 AI 추론 클라우드 스타트업 General Compute가 투자 회사 Upper90로부터 4억 달러의 대출을 확보했습니다. 이는 AI 인프라 대출 시장을 지배해온 Nvidia GPU가 아닌 추론 전용 칩을 담보로 사용한 첫 번째 주요 금융 거래로 여겨집니다.

전통적인 AI 인프라 금융은 대규모 언어 모델 훈련에 사용되고 대출기관에 의해 널리 담보로 인정받는 Nvidia GPU를 중심으로 이루어져 왔습니다. Upper90 공동 설립자 겸 CEO Billy Libby는 전 Goldman Sachs 정량 트레이더로, 2021년 Upper90이 데이터 센터 스타트업 Crusoe의 GPU 구매에 자금을 지원했을 때 이 금융 방식을 개척했습니다. 그 이후로 CoreWeave와 같은 회사들은 칩 기반 대출을 중심으로 수십억 달러 규모의 사업을 구축했습니다.

General Compute의 대출은 대신 Intel이 지원하는 칩메이커 SambaNova의 칩을 사용합니다. SN50 칩은 Nvidia GPU보다 전력 효율이 높으며 비용이 많이 드는 수냉식 시스템이 필요 없어 더 넓은 범위의 데이터 센터에 걸쳐 더 빠른 배포가 가능합니다. General Compute는 이 칩이 GPU 기반 클라우드보다 16배 빠른 추론을 제공한다고 주장합니다.

이 거래는 비용 효율적인 AI 인프라로의 광범위한 전환을 반영합니다. 2024년 후반에 모델 추론 비용에 대한 우려가 심화되면서, 기업과 개발자들은 더 저렴한 하드웨어에서 실행되는 오픈소스 모델로 점점 더 많이 눈을 돌렸습니다. OpenRouter와 Fireworks와 같이 오픈소스 모델에 대한 접근을 제공하는 회사들은 높은 평가에서 자금을 조성했습니다. Kimi의 K3과 같은 새로운 모델들은 Anthropic과 OpenAI의 릴리스와 비교할 수 있는 코딩 성능 벤치마크를 달성했습니다.

"모든 사람이 슈퍼컴퓨터가 필요한 것은 아니지만, 누구나 추론과 AI가 필요합니다"라고 Libby는 *Bitcoin World*에 말했습니다. "우리는 오픈소스 모델이 중요할 것이라고 생각합니다."

General Compute CEO Finn Puklowski는 이 거래를 단순한 금융 사건 이상으로 표현했습니다. "이것은 자본이 스스로를 조직화하고 Nvidia의 독점적 지배가 단편화되는 첫 번째 신호입니다"라고 그는 말했습니다. 회사는 Nvidia 생태계 외의 칩에 대한 접근 권한이 있어 가격 책정 및 배포에 유연성을 제공합니다. TensorWave와 같은 다른 인프라 제공자들도 AMD 칩과 함께 유사한 전략을 추구하고 있습니다.

Groq와 Cerebras와 같은 대체 칩메이커들이 인기를 얻으면서, Nvidia 계약에 얽혀 있지 않은 컴퓨트 제공자들은 추론 워크로드에서 비용 이점을 달성할 수 있습니다. "놀라운 총 소유 비용을 가진 많은 칩들이 확장되기 시작하고 있지만, 이들을 위한 구매자는 그리 많지 않습니다"라고 Puklowski는 말했습니다. 4억 달러 대출은 Nvidia GPU를 넘어 더 광범위한 하드웨어 자산으로 이동하는 성숙하는 금융 시장을 나타내며, 잠재적으로 AI 클라우드 컴퓨팅의 경쟁 역학을 재편할 수 있습니다.