Cerebras가 Qualcomm IP를 통합하고 웨이퍼급 AI 프로세서 유통을 확대하기 위해 Qualcomm과 협력합니다.

Cerebras Systems가 TSMC 5nm 공정 기반의 3세대 상용 웨이퍼 규모 AI 프로세서 CS3를 출시했으며 즉시 이용 가능합니다. 새로운 시스템은 전작인 CS2의 2배 성능을 제공하면서도 동일한 크기, 전력 소비, 비용을 유지합니다. CS3는 900,000개의 AI 코어, 44GB의 고속 온-웨이퍼 메모리(HBM보다 약 10배 빠름), 그리고 웨이퍼 전체에 걸쳐 상호 연결되어 생성형 AI의 처리 시간을 획기적으로 가속화하는 WSE-3의 4조 개 트랜지스터를 특징으로 합니다. Cerebras 소프트웨어 스택은 AI 문제가 CS3 클러스터에 걸쳐 효율적으로 확장될 수 있도록 하며, 가속기 클러스터에 걸쳐 문제를 배포하는 데 필요한 개발 노력의 일부만으로 가능하게 하여, Mayo Clinic과 Glaxo-Smith Klein과 같은 조직의 지원을 받게 했습니다.

CS3의 아키텍처는 GPU 기반 클러스터가 직면한 메모리 문제를 해결합니다. 비싼 고대역폭 메모리 모듈과 3D 칩 스태킹에 의존하는 대신, 이 시스템은 빠른 온-웨이퍼 SRAM을 MemoryX라는 별도의 메모리 서버와 함께 사용하며, 2.4 페타바이트 어플라이언스에서 파라미터를 제공합니다. Cerebras에 따르면 단일 CS3 시스템은 10,000개의 GPU 또는 Google TPU 클러스터보다 더 큰 AI 모델을 학습할 수 있으며, 모두 단일 랙 내에서 처리됩니다. 이는 대규모 AI 학습에 전통적으로 필요한 거대한 인프라의 필요성을 제거합니다.

Cerebras는 UAE 기반 G42와 협력하여 Cerebras 기술로 장착된 9개 데이터센터의 분산 네트워크를 구축하고 있습니다. 이 Galaxy 별자리의 다음 설치인 Condor Galaxy 3는 현재 Dallas에서 새로운 CS3 서버를 사용하여 건설 중입니다. 두 회사는 올해 말까지 9개의 Galaxy 슈퍼컴퓨터를 모두 완성할 계획이며, 이는 G42의 내부 사용과 클라우드 서비스 제공을 위한 대규모 AI 시스템을 구축하게 될 것입니다.

추론 과제를 해결하기 위해 Cerebras는 Qualcomm과 제휴했습니다. Qualcomm은 에너지 효율성에서 MLPerf 벤치마크 테스트에서 경쟁사를 능가하며 AWS와 HPE를 포함한 파트너들의 지원을 받은 추론 어플라이언스인 Cloud AI100을 개발했습니다. 이 협력은 Qualcomm AI Research에서 개발한 3가지 최적화 기법(희소성, 투기적 디코딩, MX6 압축)을 Cerebras의 CS3 학습 스택에 적용합니다. 이러한 추론 대상 인식 최적화를 사용함으로써 두 회사는 추론 비용을 10배 절감할 수 있다고 주장합니다. 협력 발표에서 언급된 바와 같이, "우리는 항상 업계가 이 10년 말까지 추론 비용을 100배 절감해야 한다고 생각했습니다. 이제 10배가 이미 달성되었으므로, 혁신의 속도를 과소평가했다고 생각합니다."

Qualcomm과의 제휴를 통해 Cerebras는 이제 학습과 추론 처리 모두를 아우르는 엔드투엔드 고성능 AI 플랫폼을 제공할 수 있습니다. 이 동맹은 두 회사가 최적화된 솔루션으로 고객의 전체 AI 워크플로우를 해결할 수 있게 하며, Cerebras가 유사한 결과를 달성하기 위해 Nvidia와 제휴할 필요성을 제거합니다. AI 산업이 연구에서 실제 응용으로, 클라우드에서 엣지 배포로 옮겨감에 따라, 이 포괄적인 접근 방식은 두 회사를 시장의 진화하는 요구사항을 충족할 수 있는 위치에 배치합니다.