AWS는 AI 추론 작업을 위해 퀄컴 가속기를 도입하고 있으며, 퀄컴은 AWS Bedrock을 활용해 여러 제품 세대에 걸쳐 맞춤형 칩을 공동 설계하고 있습니다.

퀄컴은 AWS를 위해 여러 제품 세대에 걸쳐 맞춤형 칩을 설계하고 있으며, 특히 AI 추론에 중점을 두고 있습니다. 두 회사는 AI 인프라의 증가하는 데이터 트래픽을 처리하기 위해 최대 1.6테라비트의 대역폭을 가진 광 인터커넥트에서도 협력하고 있습니다. 퀄컴은 전력 효율적인 칩 설계 분야의実績을 가지고 있는 반면, 아마존은 클라우드 인프라를 기여합니다. 그 대가로 퀄컴은 Amazon Bedrock 같은 AWS 서비스를 사용하여 칩 설계 프로세스를 가속화합니다.

AWS는 6월 이후 퀄컴이 거둔 세 번째 주요 데이터센터 수주입니다. 메타는 퀄컴의 Dragonfly C1000 서버 프로세서를 채택하고 있으며, 마이크로소프트는 Azure에서 퀄컴의 HBC 메모리 아키텍처를 도입하고 있습니다. 퀄컴은 2029년까지 데이터센터 수익 150억 달러 달성을 목표로 하고 있습니다.

AWS는 자체 Trainium, Graviton, Nitro 칩 패밀리와 함께 퀄컴의 디자인을 추가할 예정입니다. 이 조치는 토큰당 에너지 비용이 수익성에 직접적인 영향을 미치는 추론 워크로드를 겨냥한 것입니다. 효율성은 스택의 다른 끝단인 에지 디바이스에서도 퀄컴의 초점입니다. 3월, 퀄컴의 AI 연구 부문은 스마트폰에서 추론 모델을 실행할 수 있는 프레임워크를 출시했습니다.

허수 없는 AI 뉴스 – 인간이 큐레이션함. 광고 없이 읽기, 주간 AI 뉴스레터, 연 6회 발행되는 독점 'AI Radar' 프론티어 보고서, 전체 아카이브 접근 권한 및 댓글 섹션 접근 권한을 위해 THE DECODER에 구독하세요. 지금 구독하세요.