Google이 Gemini 아키텍처를 실리콘에 직접 내장한 Frozen v2 커스텀 칩을 개발하고 있으며, 표준 GPU 대비 6-10배 효율성 향상을 목표로 합니다.

구글은 내부적으로 'Frozen v2'라고 불리는 새로운 서버 칩을 개발 중이며, 이는 제미니(Gemini) AI 모델의 아키텍처를 실리콘에 직접 내장하고 있다. 더 인포메이션(The Information)이 인용한 소식통에 따르면, 이 칩은 구글의 현재 TPU 칩보다 AI 응답 제공 시 6배에서 10배 더 효율적일 수 있다. 구글은 2028년부터 이를 도입할 계획이며, Frozen v2를 TPU 라인업보다 생산량이 적은 전용 칩의 시험 운영으로 간주하고 있다.

다양한 모델과 호환되는 구글의 TPU와 달리, Frozen v2는 제미니 모델 구조의 일부가 하드웨어에 직접 내장되어 있다. 이 이름은 AI 모델에서 매개변수를 고정하여 값이 변경되지 않도록 잠그는 '동결(freezing)' 개념과 동일한 논리를 따른다. Frozen v2에서는 모델의 일부가 칩 자체에 영구적으로 동결되어 연산 단계를 줄이고 응답 속도를 높인다.

원래 아이디어는 구글 딥마인드(Google DeepMind)의 수석 과학자인 제프 딘(Jeff Dean)에게서 비롯된 것으로 알려졌다. 그의 첫 번째 Frozen 설계는 쿼리에 대한 AI 모델의 응답 방식을 결정하는 특정 설정인 모델 가중치를 칩에 직접 내장하는 것을 요구했다. 그러나 구글은 해당 칩이 단일 제미니 버전에서만 작동하며 너무 빨리 구식화될 것이라는 이유로 이 접근 방식을 포기했다.

Frozen v2는 튜닝된 매개변수가 아닌 모델 아키텍처를 내장함으로써 더 유연한 경로를 취한다. 즉, 미세 조정된 파라미터가 아닌 기본 청사진을 내장하는 것이다. 새로운 가중치는 여전히 칩에 로드할 수 있지만, 실제로 아키텍처의 어느 부분이 하드코딩될지는 아직 결정되지 않았다.

이 칩은 구글이 동일한 모델 아키텍처를 유지하는 동안에만 작동하므로 외부 고객을 위한 제품이 될 가능성은 거의 없다. 구글은 이미 TPUs를 메타(Meta)에 임대하고 외부 클라우드 고객에게 제공하며, 엔비디아(Nvidia) 대비 연간 수익의 10%를 확보한다는 내부 목표를 가지고 'TPU@Premises' 프로그램을 통해 이를 내세우고 있다. 반면 Frozen v2는 구글의 내부 AI 컴퓨팅 용량 부족 문제를 완화하기 위해 설계되었다.

만약 이 칩이 약속을 이행한다면 주요 경쟁 우위가 될 수 있다. AI 산업에서 기업들이 추론 비용을 얼마나 잘 최적화하느냐가 수익성에 점점 더 큰 영향을 미치고 있다. 구글은 Frozen v2를 활용하여 강력한 모델을 더 낮은 가격으로 실행하고 오픈AI(OpenAI) 및 앤트로픽(Anthropic)으로부터 시장 점유율을 흡수할 수 있다.