네오클라우드 인프라 업체들이 RAISE Summit에 모여 시장 통합, 자금 조달, 경쟁 포지셔닝을 논의했다.
지난주 저는 파리에서 개최된 RAISE Summit에 참석했습니다. 이 행사에는 9,000명의 참가자들이 엔터프라이즈 AI, 코딩 도구, 그리고 진화하는 neocloud 부문에 대해 논의하기 위해 모였습니다. 이 행사는 AI 인프라 시장의 활황을 강조했으며, 특히 AI 혁신과 위험의 중심에 있는 AI 랩과 neocloud 분야에 초점을 맞추었습니다. 회의 전반에 걸쳐 여러 핵심 주제들이 나타났습니다.
**데이터 주권과 모델 무관성**
지배적인 테마는 엔터프라이즈의 데이터 및 AI 주권에 대한 수요 증가였습니다. 조직들은 공급업체 종속성을 피하고 소유권 데이터를 보호하기 위해 모델 무관론적 아키텍처를 추구하고 오픈소스 AI 모델을 채택하고 있으며, 이는 맞춤형이고 안전한 배포로의 광범위한 전환을 시사합니다. 프랑스 대통령 Emmanuel Macron은 유럽의 AI 자립과 데이터 주권을 강조했고, 투자자 Mark Cuban은 AI가 혁신을 촉진하고 스타트업 붐을 촉발하는 역할을 강조했습니다.
Cuban은 Lovable의 공동 창립자 Anton Osika와의 대담에서 AI 도구의 확산이 사람들이 창의력을 발휘하고 아이디어를 코드로 더 빠르게 구현할 수 있게 해주는 방식을 설명했습니다. "당신의 가장 큰 제약은 시간과 상상력입니다"라고 그는 말했습니다. "스타트업의 수가 급속도로 증가하고 있습니다. 상황이 변할수록 기회도 늘어납니다. 프랑스가 더욱 창업적이 되고 있습니다."
**엔터프라이즈 과제와 모델 전략**
"AI Pilot to Production: The Valley of Death and How to Cross It"라는 제목의 패널에서는 토큰 비용, 데이터 보호 등 실제 구현 과제를 다루었습니다. Wonderful의 Chief Strategy Officer인 Barak Kaufman은 투자수익률(ROI)을 엔터프라이즈의 핵심 과제로 지적했습니다. "많은 엔터프라이즈 조직이 ROI를 계산하기 시작했습니다. 이는 비용 절감뿐만 아니라 수익 증가에서도 나와야 합니다"라고 그는 말했습니다. "토큰 최대화는 확실히 잘못된 접근입니다. 오픈소스 모델을 활용할 상황과 특정 사용 사례를 파악해야 합니다. 가장 큰 실행 격차는 변화 관리입니다."
Kaufman은 임원실 회의가 공급업체의 과장된 광고와는 크게 다르다고 지적했습니다. 주요 추세는 고비용 모델에 대한 종속성을 피하고 오픈소스 대안을 실험하는 것입니다. "비공개 회의에서 보는 것은 최고경영진(CxO)들이 모델 무관론적 아키텍처를 어떻게 구축할지 고심하고 있다는 것입니다. 답은 한 가지 모델에 올인하는 것이 아닙니다. 모델 종속성을 피하는 방법을 고민하지 않는 엔터프라이즈는 없습니다"라고 그는 말했습니다.
AI 칩 제조업체 Cerebras의 공동 창립자이자 CEO인 Andrew Feldman은 토큰 계산에 집중하는 업계 관행에 이의를 제기했습니다. "토큰을 세는 것이 중요하지 않다고 생각합니다"라고 그는 말했습니다. "우리가 중요하게 여겨야 하는 것은 실제 작업입니다. 토큰은 매우 대략적인 지표일 뿐입니다."
Maven AGI의 창립자이자 CEO인 Jonathan Corbin은 또 다른 추세를 강조했습니다: 엔터프라이즈들이 소유권 데이터를 보호하고 대형 frontier LLM과 자유롭게 공유하지 않으려고 이동하는 것입니다. "온프레미스 배포로 옮기는 사례가 점점 더 많아지고 있습니다. 자신의 데이터에 대한 통제를 유지하고 싶기 때문입니다"라고 그는 말했습니다. 이는 대부분의 엔터프라이즈가 소유권 AI 구현을 추구하고 있다는 Enterprise AI Index의 조사 결과를 반영합니다.
**미니 하이퍼스케일러로서의 Neocloud**
Neocloud들은 미래의 "미니 하이퍼스케일러"로 부상하고 있으며, GPU 렌탈을 넘어 글로벌 인프라, 애플리케이션 서비스, 강화된 데이터 개인정보 보호를 제공하도록 확장하고 있습니다. 이 카테고리는 Vultr, Akamai 같은 정교한 altscaler부터 IREN, Nebius 같은 암호화폐 자산에서 전환한 새로운 데이터센터 운영까지 다양합니다.
Vultr의 Chief Marketing Officer인 Kevin Cochrane은 AI 인프라 구축을 장기 주기로 설명했습니다. "과대광고되었을까요? 우리는 여정의 시작점에 있을 뿐입니다"라고 그는 말했습니다. "우리가 진행 중인 여정은 수퍼사이클입니다. 전체 컴퓨팅 스택에서의 혁신을 주도할 30년의 시대입니다. 새로운 컴퓨팅 주기의 새벽에 있으며, 엔터프라이즈들이 AI 네이티브 애플리케이션을 배포할 수 있는 새로운 시대에 진입하고 있습니다."
하지만 30년의 주기 속에서도 위험은 존재합니다. 인터넷이 지난 30년간 연 40% 이상의 복합 성장을 달성했지만, 변동성 있는 시기를 겪었습니다. GPU 클라우드 신뢰성의 광범위하게 보도된 문제들은 운영 우수성이 핵심 차별화 요소가 될 것임을 의미합니다. 초기에 neocloud들은 가용성 또는 비용으로 경쟁했습니다—하이퍼스케일러들은 S3 스토리지나 GPU 렌탈 같은 서비스에 훨씬 높은 요금을 책정했고, 이용 가능할 때도 제한적이었습니다. 하지만 데이터 주권, 개인정보 보호, 온프레미스 통합에 대한 수요가 증가함에 따라, 엔터프라이즈들은 더욱 정교한 서비스를 기대할 것입니다: 하이브리드 데이터 이동성과 지역별 데이터 주권 영역입니다.
Clockwork Systems의 CEO인 Suresh Vasudevan은 neocloud 간의 큰 품질 격차를 강조했습니다. "피라미드 최상단에 있는 것들은 인프라에 투자하고 견고하게 만들고 있습니다"라고 그는 말했습니다. 상위 neocloud들은 가시성(observability)에 크게 집중하고 있습니다. "모든 것을 측정해야 합니다"라고 Vasudevan은 덧붙였습니다. Clockwork는 최근 TorchPass GPU 장애 허용 소프트웨어에 대한 보장을 도입했으며, 약속된 결과를 달성하지 못하는 고객에게 크레딧을 제공합니다.
Nebius의 공동 창립자이자 Chief Business Officer인 Roman Chernin은 토큰 비용과 에이전트 관리로 어려움을 겪는 고객들에 맞춰 neocloud의 정교함이 높아져야 한다고 강조했습니다. "우리는 인프라를 제어하고 스택 전체에서 통합적으로 대응합니다. 고객들은 작동하는 에이전트를 배포하길 원하지, 어떤 토큰이 더 좋은지 전문가가 되고 싶지 않습니다. 필요한 것은 다음 단계의 추상화입니다. 플랫폼이 에이전트를 실행하고 최적화할 것입니다"라고 그는 말했습니다.
**인프라 오케스트레이션 및 자동화**
Neocloud들은 GPU와 클라우드 컴퓨팅 용량을 빠르게 확대하고 있지만, AWS와 Microsoft 같은 하이퍼스케일러들의 소프트웨어 리소스와 전문성이 부족합니다. 이 서밋은 Rafay, emma, Netris 같은 인프라 오케스트레이션 공급업체들을 유치했고, Backblaze, DDN, Bright Data 같은 데이터 관리 회사들, 그리고 Cognition, Lovable 같은 엔터프라이즈 AI 도구들을 유치했습니다. GPU 장애를 넘어 과제들에는 대규모 서비스 자동화, 멀티테넌시를 위한 리소스 분할, 보안 및 데이터 연결 보장이 포함됩니다.
오케스트레이션 소프트웨어는 neocloud 생태계에서 필수적 요소가 되고 있습니다. GPU 클러스터 네트워크 구축을 자동화하고 하드웨어에서 강력한 멀티테넌시를 적용하는 Netris는 사실상 업계 표준이 되었으며, 자신의 접근 방식을 NAAM—Network Automation, Abstraction, and Multi-Tenancy로 부릅니다. Rafay는 GPU 구성 및 자동화 미들웨어를 제공하며 Netris와 협력합니다. Rafay의 Chief Product Officer인 Mohan Atreya는 이러한 추세를 설명했습니다: "패턴은 고객들이 neocloud에서 일반 컴퓨팅과 AI를 원한다는 것입니다. 그들은 미니 하이퍼스케일러로 진화할 것입니다."
룩셈부르크 기반의 클라우드 오케스트레이션 플랫폼인 Emma는 물리 계층부터 애플리케이션 계층까지 통합된 에이전트형 AI 운영을 통한 인프라 자동화를 제공하며, 이를 "Infrastructure-as-Prompt"라고 부릅니다. Emma의 창립자 Dmitry Panenkov는 "Neocloud들은 부동산에서 부가가치로 진화해야 합니다"라고 말했습니다.
RAISE Summit은 엔터프라이즈 프로덕션 워크로드를 지원하도록 빠르게 성숙해가는 AI 인프라 시장의 규모와 정교함을 보여주었습니다.