AI 칩 전문가 Groq이 증가하는 AI 추론 수요를 충족하기 위해 헬싱키에서의 첫 번째 유럽 데이터센터를 발표합니다.

미국의 AI 하드웨어 및 소프트웨어 기업 Groq가 EU 시장의 급속한 성장에 대응하기 위해 유럽 내 첫 데이터센터 설립을 발표했다. Groq의 CEO Jonathan Ross는 CNBC와의 인터뷰에서 "약 4주 전 Helsinki에 데이터센터를 건설하기로 결정했으며, 현재 실제로 랙을 설치 중입니다. 이번 주말까지 트래픽을 서빙할 것으로 예상됩니다. 매우 빠르게 구축되었으며, 시장에 있는 다른 솔루션과는 전혀 다른 가치제안입니다"라고 말했다. 미국의 데이터센터 기업 Equinix와의 파트너십으로 구축되고 Samsung과 Cisco의 주요 투자로 지원받는 이 데이터센터는 Groq의 효율적인 Language Processing Unit (LPU) application-specific integrated circuit (ASIC) 칩을 활용하여 추론(inference) 시장의 상당 부분을 점유할 것으로 기대된다.

Ross는 Groq를 AI 알고리즘의 일상적 운영을 담당할 기업으로 포지셔닝했으며, 이는 AI가 효과적으로 작동할 수 있게 하는 추론 계산을 제공함으로써 실현된다. "추론은 일반적으로 거래량이 크지만 마진이 낮은 사업 영역입니다"라고 그는 설명했다. Groq의 LPU는 AI 추론 계산을 위해 특별히 설계되었으며, 온칩 메모리를 사용하여 지연시간을 줄이고 대규모 언어 AI 모델에 필요한 선형대수 계산을 처리한다. Ross는 이것이 LPU를 빠르고 효율적으로 만든다고 주장하며, 기존 GPU 설계의 약 3분의 1 수준의 전력만으로도 동일한 성능을 낼 수 있다고 주장했다. 하드웨어 장점 외에도 Ross는 Groq의 운영 속도를 강조했다: Nvidia CEO Jensen이 GTC에서 "2년 내에 GPU를 확보하려면 지금 바로 구매 발주를 해야 한다"고 말한 반면, Ross는 이를 "황당한 요구사항"이라고 비판했다. Groq의 경우 "약 6개월입니다. 이는 그 시간의 4분의 1이며, 이는 필요한 것에 대한 예측 능력을 완전히 바꿉니다."

Groq의 공급망 유연성은 추가적인 경쟁 우위를 제공한다. "Nvidia는 HBM과 같은 매우 특수한 부품을 사용하기 때문에 올해 생산하려는 만큼만 GPU를 생산할 수 있습니다"라고 Ross는 설명했다. "우리는 그런 부품을 사용하지 않으므로 공급 제약이 적고, 이는 추론 사업에 정말 중요합니다." Nvidia는 전문 그래픽 카드 시장을 지배해 왔으며 CUDA 소프트웨어 스택 및 CUDA-X 플랫폼 중심의 지배적 지위를 구축했지만, Groq는 더 간단한 설계와 범용 컴파일러를 갖춘 LPU가 더 간결하고 빠르면서도 동등한 성능의 하드웨어 및 소프트웨어 대안을 제공한다고 주장한다. Nvidia는 CEO Jensen Huang이 "AI 팩토리"라고 부른 것을 전 세계에 구축했으며 수백억 달러 규모의 투자를 약속했다.

스타트업의 경쟁에 관해 Ross는 자신감을 드러냈다. "많은 스타트업들이 나타날 것이지만, AI 칩을 개발하는 것은 비용이 큽니다. 시장 출시까지 2억 5천만 달러에서 5억 달러를 투자해야 하는데, 모든 기업이 그 정도의 자금을 조달할 수는 없습니다." 직원 유지에 관해 Ross는 Groq가 상대적으로 유리한 입장에 있다고 지적했다. "우리는 AI 연구 분야에 조금 인접해 있어서 인재를 찾고 유지하는 데 더 수월합니다"라고 그는 말했으며, Meta의 OpenAI 연구자 영입을 포함한 업계 전반의 인재 영입 경쟁에도 불구하고 이에 대해 우려하지 않는 태도를 보였다.