Moonshot AI, Kimi-K3 모델 가중치(2.8T params) 공개 및 인프라 오픈소스화; OpenAI/Anthropic 최첨단 모델과 거의 동등 수준의 성능.

Moonshot AI는 Kimi K3의 가중치를 공개했으며, 현대적인 AI GPU 인프라를 갖춘 누구나 최소한의 제약으로 해당 모델을 실행하고 수익화할 수 있게 했습니다. 이는 특히 Anthropic과 OpenAI 등 주요 폐쇄형 소스 제공업체들에 대한 상당한 경쟁 위협을 나타냅니다.

Moonshot이 발표한 벤치마크에서 Kimi K3는 Claude 및 GPT의 이전 세대를 능가하면서도 최신 프론티어 모델인 Claude Fable과 GPT-5.6 Sol과 거의 동등한 성능을 보이면서도 운영 비용은 2-3배 저렴한 것으로 나타났습니다. 캐시된 쿼리의 경우 비용 이점이 10배까지 확대됩니다. Moonshot의 기술 문서는 이러한 주장을 뒷받침하며, 채용된 구체적인 테스트 방법론을 공개합니다.

입력 토큰 가격 책정은 효율성 향상을 보여줍니다. Moonshot은 Kimi K3에 대해 백만 토큰당 $3을 청구하는 반면, 기본 비캐시 요금에서 Fable은 $10/1M, Sol은 $5/1M입니다. 다만 Kimi K3의 캐싱 메커니즘은 코딩 작업에서 90% 히트율을 달성하여 실제 입력 비용을 $0.30/1M으로 감소시킵니다. 출력 토큰 경제학은 유사한 패턴을 따릅니다.

몇 가지 아키텍처 요소가 이러한 효율성을 주도합니다. Kimi K3는 가중치에 대해 MXFP4 정밀도를, 입력 활성화에 대해 MXFP8을 사용합니다—훨씬 적은 VRAM을 필요로 하는 저정밀 데이터 타입입니다. 2.8조 개의 파라미터 중에서 언제든 104.2억 개만 활성화됩니다. 모델은 기존 키-값 캐싱 대신 Kimi Delta Attention이라는 고정 크기 상태 메커니즘을 채택하여 메모리 및 계산 오버헤드를 감소시킵니다. 스파스 혼합 전문가 레이어는 총 896개 전문가 중 16개만 활성화하여 추론 비용을 더욱 최소화합니다.

특히 주목할 점은 Moonshot의 테스트가 Nvidia의 H20 GPU를 사용했다는 것인데, 이는 현 기준에서 상대적으로 낮은 사양의 칩으로 기본적인 MX 부동소수점 지원이 없습니다. 이러한 최적화 전략은 Kimi K3를 특히 로우엔드 하드웨어에 적합하게 만들 수 있지만, Nvidia Blackwell과 같은 특화된 실리콘에서 실행하면 현재 벤치마크를 훨씬 뛰어넘는 성능 향상을 가져올 수 있습니다.

오픈 가중치 공개는 전략적 함의를 지닙니다: 적절한 GPU 인프라를 갖춘 기업들로부터의 직접적인 경쟁을 가능하게 하며, 고성능 모델이 자유롭게 이용 가능하고 폐쇄형 대안보다 훨씬 저렴할 수 있다는 인식을 강화합니다. 다만 "오픈 가중치"는 제한 없는 모델 가중치만을 의미합니다—Moonshot은 훈련 프로세스 및 데이터셋에 대한 배타적 지식을 유지합니다.