AMD와 Cerebras, Helios EPYC와 Cerebras Wafer-Scale Engine을 결합한 초저지연 분산형 AI 추론 플랫폼으로 협력

AMD와 Cerebras Systems는 고급 소프트웨어의 속도 병목 현상을 해결하기 위한 분산형 인공지능 추론 시스템을 구축하기 위해 기술 파트너십을 체결했습니다. 이 결합된 플랫폼은 AMD Helios 랙 규모 인프라와 Cerebras 웨이퍼 스케일 엔진(Wafer Scale Engine)을 통합하며, 올해 하반기에 Cerebras 클라우드에서 출시될 예정입니다.

현대 AI 워크로드는 작업 유형에 따라 고유한 연산 요구사항을 가지고 있습니다. 간단한 텍스트 생성에는 막대한 데이터 용량이 필요하지만, 실시간 에이전트와 코딩 어시스턴트는 즉각적인 피드백을 요구합니다. 이번 파트너십은 두 가지 특수 칩 간 작업을 분할하여 양쪽 모두를 최적화합니다. AMD Helios는 초기 프롬프트 처리 및 대규모 데이터 컨텍스트를 담당하는 반면, Cerebras 웨이퍼 스케일 엔진은 개별 단어 생성이라는 메모리 집약적 작업을 관리합니다. 이러한 협력적 업무 분담은 와트당 토큰 수(tokens per second per watt)로 측정했을 때 5배 높은 효율성을 제공할 것으로 예상됩니다.

AI 발전 컨퍼런스(Avancing AI conference)에서 AMD CEO 리사 수(Lisa Su)는 업계가 더 유연한 컴퓨팅 아키텍처를 필요로 한다고 강조했습니다. Cerebras의 CEO 앤드루 펠드만(Andrew Feldman) 또한 더 빠른 처리 능력에 대한 즉각적인 시장 수요를 부각시켰습니다.

텍스트 생성 속도는 응답 지연이 사용자 경험을 저하시키는 소프트웨어 개발, 로봇공학, 과학 연구 분야에서 매우 중요해졌습니다. 출시를 지원하기 위해 Cerebras는 자체 데이터 센터에 Helios 하드웨어를 설치하고 결합된 서비스를 클라우드 옵션으로 제공할 예정입니다. 이 접근 방식은 시스템의 반응성을 희생하지 않고도 높은 처리량의 연산에 대한 개발자의 접근을 가능하게 하며, 기업들이 자체 인프라 구축에 따른 자본 지출 없이 복잡한 AI 워크플로우를 실행할 수 있도록 지원합니다.