AMD가 AI 추론 가속화 및 고속 응답 LLM 최적화를 전문으로 하는 스타트업 Taalas를 인수합니다.

AMD는 토론토에 기반을 둔 스타트업인 Taalas를 인수하기 위한 최종 계약을 체결했습니다. Taalas는 비정상적으로 낮은 지연 시간으로 언어 모델을 실행하도록 설계된 AI 칩을 개발하고 있습니다. AMD의 IR 페이지를 통해 발표된 이 인수는 수 주간에 걸친 업계의 추측을 종식시켰습니다.

2023년에 설립된 Taalas는 AI 하드웨어 설계에 있어 파격적인 접근 방식으로 명성을 쌓아왔습니다. 이 회사는 어떤 모델이든 실행할 수 있는 범용 가속기를 설계하는 대신, '하드코어 모델(Hardcore Models)'이라 불리는 방식을 통해 특정 모델 아키텍처를 실리콘에 직접 새겨 넣었습니다. 이는 회사의 피칭 자료에 "모델이 곧 컴퓨터(The Model is The Computer)"라고 표현된 개념입니다. 올해 초 Taalas는 ChatJimmy라는 애플리케이션을 출시했으며, 이는 기존 칩에 내재된 연산 및 메모리 병목 현상을 제거했을 때 모델이 얼마나 빠르게 응답할 수 있는지 시연한 사례입니다.

속도는 이번 인수의 핵심 논리입니다. AMD는 점점 더 전문화된 워크로드가 등장함에 따라 AI 추론(AI inference)을 AI 시장에서 가장 빠르게 성장하는 세그먼트 중 하나로 포지셔닝하고 있습니다. Taalas의 기술은 범용 아키텍처에서 추론을 제약하는 연산 및 메모리 병목 현상을 직접적으로 해결합니다. AMD는 이러한 전문 지식을 AMD Instinct GPU, EPYC CPU, Helios 랙스케일 시스템, ROCm 소프트웨어 레이어를 포함한 광범위한 AI 스택에 통합할 계획입니다.

AMD 인공지능 그룹의 수석 부사장인 Vamsi Boppana는 AMD가 고객에게 모든 워크로드에 적합한 컴퓨팅을 배포할 수 있는 유연성을 제공하는 풀스택 AI 플랫폼을 구축 중이며, Taalas가 추론 측면에서 포트폴리오를 강화한다고 밝혔습니다. Taalas의 공동 창업자이자 CEO인 Ljubisa Bajic는 회사가 모델 자체를 중심으로 하드웨어를 구축함으로써 AI 추론을 근본부터 재설계했으며, AMD와의 합류로 해당 비전을 추진할 수 있는 규모와 엔지니어링 자원을 확보하게 되었다고 말했습니다.

이번 타이밍은 올해 AMD의 하드웨어 전략을 반영합니다. AMD는 최근 Anthropic과 수십억 달러 규모의 칩 거래를 체결하여, Anthropic이 최대 2기가와트의 AMD Instinct MI450 칩을 구매하고 AMD가 Anthropic에 최대 50억 달러를 투자하기로 했습니다. Taalas는 동일한 전략의 다른 요소를 대표합니다. AMD는 고객 약속을 통해 규모를 확보하는 대신, 전문화된 추론 기술을 자체적으로 인수하고 있습니다.

모델 전용 실리콘에 대한 베팅은 AMD나 Taalas만의 고유한 것이 아닙니다. OpenAI는 프로덕션 환경에서 실행하는 모델에 맞춰 설계된 자체 추론 칩인 Jalapeño를 Broadcom과 함께 개발했습니다. Google은 Taalas의 접근 방식과 놀라울 정도로 유사한 철학을 따르며 Gemini의 아키텍처를 실리콘에 직접 임베딩하는 내부 칩 'Frozen v2'를 개발 중인 것으로 알려졌습니다. 커스텀 실리콘 분야에서 10년 이상의 선점 효과를 가진 기업이 2년 된 스타트업과 같은 방향으로 움직일 때, 이는 해당 접근 방식을 약화시키기보다 오히려 검증하는 것입니다.

AMD는 Taalas의 기술을 가속기 로드맵에 통합하고 Instinct GPU와 함께 시스템 레벨 솔루션을 개발할 계획이며, 이를 별도의 제품 라인으로 운영하지는 않을 예정입니다. 이번 거래는 캐나다에서의 AMD의 입지를 확장하며 캐나다의 AI 인재 유지 및 확대에 대한 의지를 보여줍니다. 이번 인수는 관례적인 결재 조건과 규제 당국의 승인을 조건으로 하며, 재무적 세부 사항은 공개되지 않았습니다.