Ant Group이 중국산 반도체 칩 배포를 통해 AI 추론 비용을 20% 절감했다.

알리바바 창립자 잭 마의 지원을 받는 앤트그룹이 중국산 반도체를 통합하여 컴퓨팅 비용을 20% 절감함으로써 AI 모델 훈련 분야에서 획기적 성과를 이루었습니다. 블룸버그에 따르면 항저우에 본사를 둔 이 회사는 알리바바와 화웨이의 국산 칩을 사용하여 혼합 전문가(MoE) 접근법으로 모델을 훈련했으며, 이는 상당히 감소된 계산 리소스로 훈련할 수 있게 합니다.

앤트그룹은 MoE 훈련에서 중국산 및 미국산 반도체를 결합함으로써 컴퓨팅 비용을 줄이면서 NVIDIA 같은 단일 칩 공급업체에 대한 의존성을 제한했습니다. 이 이니셔티브에 정통한 소식통들은 익명을 조건으로 이 회사가 NVIDIA의 H800 칩을 사용했을 때의 결과와 비슷한 성과를 달성했다고 말했습니다.

이러한 변화는 미국과 중국 회사 간 AI 경쟁이 심화되면서 앤트그룹의 전략을 반영합니다. 여전히 NVIDIA 칩을 사용하고 있지만 앤트그룹은 최신 모델들을 위해 대체 반도체에 점점 더 의존하고 있으며, 이는 중국 개발자들이 미국 공급업체에 독점적으로 의존하지 않고도 고급 AI를 구축할 수 있음을 보여줍니다. 특히 H800이 현재 AI 개발에 필수적인 첨단 하드웨어에 대한 중국의 접근을 제한하기 위한 미국 수출 통제에 의해 제한되고 있다는 점에서 이는 더욱 중요합니다.

앤트그룹은 최근 자신의 모델들이 내부 벤치마크 테스트에서 때때로 Meta의 모델을 능가했다고 주장하는 연구를 발표했습니다. 이 회사는 또한 자신의 훈련 전략이 추론 비용(실시간 AI 서비스 제공 비용)을 줄일 수 있으며, 이는 고급 기능들을 더 저렴하게 만들 수 있다고 제시했습니다. 검증된다면 앤트그룹의 비용 효율적 기법들은 중국의 AI 개발에서 중요한 이정표를 나타낼 수 있습니다.

앤트그룹은 이러한 노력에서 혼자가 아닙니다. 중국 스타트업 DeepSeek은 올해 초 자신의 R1 모델을 출시했으며, 강력한 AI 모델을 더 낮은 비용으로 훈련할 수 있다는 것을 입증하는 추세에 탄력을 더했습니다. 앤트그룹은 또한 자신의 Ling 모델들(Ling-Lite와 Ling-Plus)을 오픈소스화했으며, 이는 지역 전반의 AI 개발을 더욱 장려합니다.

MoE는 AI 훈련에서 선호되는 접근법이 되었으며, 작업을 더 작은 데이터셋으로 나누어 성능과 효율성을 최적화합니다. 앤트그룹의 저비용 방법들은 개발자들의 프리미엄 고성능 칩에 대한 의존성을 줄임으로써 AI 접근성을 넓힐 수 있습니다.

그러나 NVIDIA CEO 젠슨 황은 최근 회사의 GTC 컨퍼런스에서 수익을 극대화하려는 회사들은 더 저렴한 칩이 아니라 더 강력한 칩을 필요로 한다고 주장했으며, 이를 통해 AI 인프라의 미래를 가격이 아닌 성능으로 위치시키고 있습니다.